Életünk számos területén jelen vannak már a mesterséges intelligencia (MI) alapú rendszerek, további fejlesztésükkel pedig a jövőben ezek határozhatják meg egy hiteligénylő megbízhatóságát, egy álláskereső alkalmasságát,

a politikai menedékjogra vagy szociális segélyre való jogosultságot vagy egy elítélt bűnismétlésének valószínűségét.

E rendszerek ugyanakkor nem feltétlenül védettek az előítéletes gondolkodás hatásaitól, ami igazságtalan megoldásokhoz vezethet, sőt a rendszerszintű hibák megsokszorozódásával, dominóhatás révén hozzájárulhatnak a társadalmi egyenlőtlenség növekedéséhez is. A manipuláció lehetőségének elkerülése gondos odafigyelést és ellenőrzést igényel, és egyértelmű jogi felelősséget ró a gyártókra, a felhasználókra és a kormányzati szervekre.

Tudománytörténeti előzmények

Organon című munkájában egykor Arisztotelész fektette le az MI kifejlesztésében is alkalmazott logika alapjait. A számelméleti algoritmust Euklidész/Eukleidész írta le Elemek című művében. A XIX. század végén olyan élettani, neurológiai és szövettani felfedezések születtek, amelyek utóbb beépültek az MI-nek az idegrendszer szerkezeti mintájára kialakult fogalmaiba. Az ideghálózat első matematikai megközelítése Warren McCulloch nevéhez fűződik, aki 1943-ban a Chicagói Egyetem pszichiátriai tanszékén dolgozva ismerte fel, hogy az idegrendszer „mindent vagy semmit” elv alapján működik, így matematikailag modellezhető, s ezáltal létrehozható a mesterséges neuron.

Roska Tamás akadémikus nevéhez fűződik az MI hazai meghonosítása, aki az 1980-as években munkatársával, Leon O. Chuával kifejlesztette a celluláris neurális számítógépet és az ahhoz kapcsolt chipet Berkeley Kaliforniai Egyetemén. Hámori Józseffel közösen végzett kutatásai a bionikus szemprotézis kifejlesztését tűzték ki célul.

Mi is a mesterséges intelligencia? Az Európai Bizottság szakértői csoportja szerint az MI kifejezés olyan rendszereket ír le, amelyek környezetük elemzésén és különféle – bizonyos mértékig önálló – cselekedetek konkrét célok elérése érdekében történő megvalósításán keresztül intelligens viselkedést mutatnak. Az MI olyan önálló entitás – gyakran fizikai megjelenési forma nélkül – amely alkotójától részben vagy teljes egészében függetlenül működik, egyfajta

betáplált tudástárral rendelkezik, amelyet képes nem pusztán a kódolása által meghatározott módon hasznosítani, s képes kommunikálni a külvilággal.

Az MI-alapú rendszerek lehetnek tisztán szoftveralapúak (például digitális asszisztens, képelemző szoftver, keresők, beszéd- és arcfelismerő rendszerek), vagy beágyazódhatnak hardvereszközökbe (fejlett androidok, önvezető autók, drónok).

Ferenc pápa erkölcsi útmutatása

Béke világnapi üzenetében a Szentatya részletesen foglalkozott az MI kínálta lehetőségekkel és az azokat érintő etikai szempontokkal. Nyílt párbeszédre szólította fel a nemzeteket, a politikai és vallási vezetőket, valamint a civil társadalom képviselőit ezen „új, bomlasztó lehetőségekkel és ambivalens hatásokkal felruházott technológiákról”.

Felelősségteljes használatával az MI-t az emberiség és közös otthonunk védelmének szolgálatába kell állítanunk,

azon dolgozva, hogy az erőszak és a megkülönböztetés logikája ne verjen gyökeret az ilyen eszközök előállításában és használatában, a legsebezhetőbbek és kirekesztettek kárára. Mindez megköveteli, hogy az etikai reflexiót az oktatás és a jog területére is kiterjesszük.

A pápa szerint az intelligencia a Teremtő adta méltóság megnyilvánulása, aki a maga képére és hasonlatosságára teremtett minket (vö. 1Móz 1,26), és képessé tett arra, hogy szabadon és tudatosan válaszoljunk az ő szeretetére. A tudomány és a technológia különleges módon tanúskodik az emberi intelligenciának erről az alapvetően kapcsolati természetéről. Amikor az emberek technikai eszközökkel arra törekednek, hogy a Föld „az egyetemes emberi család méltó lakóhelyévé váljék”, akkor Isten terve szerint és az ő akaratával együttműködve cselekszenek a teremtés beteljesedése és a népek közötti béke érdekében.

Nem elegendő, ha feltételezzük – véli a Szentatya –, hogy az algoritmusok és digitális technológiák minden fejlesztője az etikus és felelősségteljes magatartás elkötelezettje. Meg kell erősíteni vagy létre kell hozni olyan szervezeteket, amelyek

a felmerülő etikai kérdésekkel foglalkoznak, és védik mindazok jogait, akik a mesterséges intelligenciát használják, vagy akikre az hatással van.

Együtt kell járnia a technológia terjedésének a fejlesztésért való felelősség megfelelő oktatásával. A mesterséges intelligencia által elemzett adatok nagy mennyisége önmagában nem garantálja a pártatlanságot. Amikor az algoritmusok az információkból következtetéseket vonnak le, mindig fennáll a veszélye, hogy torzítanak, s így reprodukálják annak a környezetnek az igazságtalanságait és előítéleteit, amelyből az információk származnak. Minél gyorsabbá és bonyolultabbá válnak, annál nehezebb megérteni, miért is adtak egy bizonyos eredményt.

Fennáll a veszély, hogy

az egyes döntéseket meghatározó kritériumok homályosabbá válnak, s hogy a döntésekért való felelősségvállalás eltompul.

A folyamatnak kedvez a technokrata rendszer, amely a gazdaságot a technológiához köti, a hatékonyságot tekinti prioritásnak, és hajlamos figyelmen kívül hagyni mindent, ami nem kapcsolódik közvetlen érdekeihez.

Az emberi fejlődés szolgálatában

Bár az „intelligens” gépek egyre nagyobb hatékonysággal végezhetik a rájuk bízott feladatokat, működésük célját és értelmét továbbra is az emberek fogják meghatározni vagy jóváhagyni, akiknek megvan a saját értékrendszerük.

A mesterséges intelligenciának a legjobb emberi potenciált és a legmagasabb szintű törekvéseinket kell szolgálnia, nem pedig versenyeznie velük.

Tudatában kell lennünk a most zajló gyors változásoknak, és úgy kell használnunk a legfejlettebb technológiát, hogy közben tiszteletben tartsuk az alapvető emberi jogokat, valamint az emberi fejlődést elősegítő intézményeket és törvényeket.

Megemlékezett a pápa az MI katonai felhasználásáról is, a katonai műveletek távvezérelt rendszerekkel történő végrehajtásáról, amelyek során kétségessé válhat a pusztításért viselt felelősség. A „halálos autonóm fegyverrendszerek” soha nem lesznek képesek erkölcsileg felelős alanyokká válni: az erkölcsi ítélőképesség és az etikus döntéshozatal egyedülálló emberi képessége több, mint algoritmusok bonyolult halmaza.

Elengedhetetlen ezért a fegyverrendszerek hiteles és koherens emberi felügyeletének biztosítása.

Ferenc pápa felhívta a figyelmet az algoritmusok fejlesztésének etikai megközelítésére (algoretika), amelyben az értékek határozzák meg az új technológiák irányát. Az etikai kérdéseket már a kutatás megkezdésekor, majd a tesztelés, a fejlesztés, a gyártás, a logisztika és a forgalmazás fázisaiban is figyelembe kell venni. Az etikus tervezésben az oktatási intézmények és a döntéshozók alapvető szerepet játszanak. Az iskoláknak, egyetemeknek és tudományos közösségeknek az a feladatuk, hogy segítséget nyújtsanak a diákoknak és a szakembereknek a technológia fejlesztését és használatát érintő társadalmi és etikai vonatkozások elsajátításában.

Kulcsszerepet lát Ferenc pápa a nemzetközi együttműködésben, ami nemcsak a veszélyek kivédését segítheti elő, hanem a jó gyakorlatok elterjedését is. A mesterséges intelligencia,

ha az integrált emberi fejlődés előmozdítására használják, jelentős újításokat hozhat a mezőgazdaság, az oktatás és a kultúra területén,

emelheti a nemzetek életszínvonalát, valamint erősítheti az emberek közötti testvériséget és a társadalmak barátságát. Az, hogy hogyan használjuk fel a leggyengébb és leginkább rászoruló testvéreink integrálására, végső soron emberi mivoltunk minőségéről árulkodik.

 

Nyitókép: pixabay.com