A három nevezetes személy, a máig befolyásos politikus, a korábbi Google-vezér és az MIT számítástechnika-professzora jegyezte könyv – írja Ferguson – három alapvető problémát azonosít. Az első filozófiai természetű. Vajon amikor egy ember tervezte program olyan mintázatokat tanul meg és alkalmaz, amelyeket senki sem ismerhet fel vagy érthet meg, akkor az emberiség tudása bővül vagy szűkül?

Másodszor a könyv a „hálózati platformok” (Eric Schmidt kifejezése), például a Google és a Facebook túlzott kulturális és politikai befolyásra hívja fel a figyelmet.

Maroknyi világháló-szolgáltató vezérének a kezében példátlan hatalom összpontosul, képesek az Egyesült Államok hivatalban lévő elnökét szinte teljesen kitörölni a nyilvánosságból,

ahogy ez idén január 6-a után történt. Demokratikus kormányok nemigen rendelkeznek ekkora befolyással, és ez a lépés veszélyes precedenst teremhet, függetlenül attól, hogyan ítéljük meg az elnök tetteit. A hálózati platformokból eredő általánosabb veszély – teszi hozzá Ferguson –, Kínában a legnyilvánvalóbb, hiszen látványosan semmibe veszi az emberi jogok védelmét. Csakhogy a mesterséges intelligenciával támogatott hálózati platformok máshol is képesek lehetnek mindenki viselkedését megfigyelni. Ez az alapvető szabadságjogok súlyos korlátozásával járna.

A legnagyobb kockázat azonban katonai természetű. 1957 októberében a Szputnyik-sokk alapjaiban rázta meg a világot. Az atomháború lehetősége hirtelen minden korábbinál fenyegetőbb veszélynek tűnt. Ha a szovjetek műholdat tudnak a világűrbe juttatni, a világ bármely pontjára képesek lehetnek teljesen váratlanul atomcsapást is mérni. Ahogyan a Szputnyik-sokk új alapokra helyezte a nukleáris elrettentésre épülő stratégiai gondolkodást, napjainkban a mesterséges intelligencia nyithat új fejezetet a nagyhatalmak közötti rivalizálásban.

A mesterséges intelligencia korszakának Szputnyik-sokkja azonban még várat magára, így a közvélemény és a politikai elitek nem kezelik súlyának megfelelően a kihívást.

Ahogyan az öntanuló algoritmusok felülkerekedtek a világ legtehetségesebb sakkozóin és legjobb sakkprogramjain, hamarosan az élet más területein is hasonló helyzet alakulhat ki. A technológiai fejlődés a kiber- és hagyományos katonai biztonság területén is egyre inkább megköveteli a mesterséges intelligencia alkalmazását, máskülönben egy ország lemaradhat riválisaitól.

Néhány hónappal a sokk előtt, 1957-ben megjelent, Nuclear Weapons and Foreign Policy (Nukleáris fegyverek és külpolitika) című nagy visszhangot kiváltó könyvében a még fiatal kutató Kissinger a korlátozott nukleáris konfliktusok lehetőségét vetette fel. Ha ugyanis kizárjuk a nukleáris fegyverek korlátozott használatának lehetőségét, konfliktus esetén totális megsemmisítésre ítéljük a világot. Bár a NATO későbbi védelmi politikája részben támaszkodott Kissinger meglátásaira, a „biztos kölcsönös megsemmisítés” logikája továbbra is érvényesült a hidegháborúban, és nem tört ki közvetlen összecsapás a két szuperhatalom között.  A mesterséges intelligencia azonban azzal az újdonsággal jár, hogy túllép a totális elrettentés szörnyű, de kiszámítható logikáján.

Az amerikai légierő ARTUµ-programja már most is képes vadászgépeket reptetni és radarrendszereket működtetni, sőt, emberi beavatkozás nélkül végső döntéseket hozni. Ha az ilyen gépek felhatalmazást kapnak célpontok önálló meghatározására és megsemmisítésére, figyelmeztetnek Kissingerék, az elrettentés hagyományos felfogása érvényét veszti.

A hagyományos elrettentés a végső emberi döntés korlátozó hatásán alapul. A mesterséges intelligencia széles körű és változatos alkalmazása azonban kiszámíthatatlan helyzetet teremthet. Az emberek által vállalhatatlan áldozatok a mesterséges intelligencia számára tökéletesen racionálisak lehetnek. Az Egyesült Államok ugyan elkötelezte magát, hogy csak olyan mesterséges intelligencia támogatta fegyvert állít hadrendbe, amelynél a halálos döntést ember hozza meg. Kérdéses azonban, mennyire tartható fenn ez a politika olyan ellenféllel szemben, aki nem korlátozza így a mesterséges intelligencia alkalmazását.

A mesterséges intelligencia ugyanolyan mérvű változást hoz az emberiség életében, mint az atombomba és a műholdak keringése. Kissinger és társai remekül feltárják a megválaszolandó kérdéseket, Ferguson pedig azt szűri le, hogy a „mesterséges intelligencia” helyett az „embertelen intelligencia” kifejezést kellene használnunk, hogy tudatosuljanak az új korszak előttünk tornyosuló veszélyei.

Az eredeti cikk itt olvasható. A könyv pedig itt rendelhető meg.