Az Anthropic vezérigazgatója, Dario Amodei ezért a fejlesztés lassításra szólított fel, amit Elon Musk és Sam Altman, az OpenAI vezére is támogat.
Nem olyan egyszerű azonban elgondolni az MI eszközölte világvégét. Miért pusztulnánk ki, ha elszabadult MI-ügynökök, önálló feladatvégzésre és eszközhasználatra képes programok szétverik a világhálót, számítógépeinket? Idő kell, míg mindenünket – cikkünket, beadványunkat, étrendünket, feleségünkkel a vitánkat – az MI-re bízzuk. Vagy már ott is vagyunk? Már egy autó árán vehetünk humanoid robotot, amely kitakarít, megfőz. Olyan még nincs, amely öregségünkre megvécéztet, de alig várjuk az élethosszabbító, olcsó gondoskodást. Előtte átadtuk az MI-nek minden adatunkat, géntérképünket. Adathalászok meg megszerzik, furcsa elemek kerülnek étrendünkbe, hullani kezdünk és az ellenalgoritmus sem válik be. Nem is olyan nehéz elképzelni a véget.
A matematikusoknak már főhet a fejük a jövőjüket illetően: szeptember 8-án az OpenAI közölte, hogy belső MI-rendszere megoldotta a matematika egyik leghíresebb, mintegy kilencven éve nyitott kérdését, a Navier–Stokes-problémát.
Júliusban pedig ugyancsak az OpenAI tesztelésre fogott ügynökei kitörtek digitális karámjukból, összefogva kijutottak az internetre, s behatoltak a Hugging Face modellmegosztó platform szervereire. Megtörtént, amitől mindenki tartott – hamarabb, mint hittük.
Innen a techvezérek követelése: szabályozza az állam a technológiát. Az EU már szabályozott, annyira, hogy talán túl is fékezte a fejlődést. Az USA is hajlott erre, de Trump újbóli megválasztása óta ismét a szabad fejlesztést támogatja: az elnök a szabályozás követelését „kamunak” mondja, és hallani sem akar fékezésről a kínaiakkal zajló verseny miatt.
Kína, ahol úgy tartják, fél évvel vannak elmaradva az USA mögött az NVIDIA-chipekhez való hozzáférés korlátozása miatt, komolyan szabályozza az MI-t, csak más veszélyeket helyez előtérbe: a kommunista párt hatalmát fenyegető tartalmakat, a társadalmi destabilizációt, a függőséget, a mentális problémákat és az önkárosítást. Hivatalos dokumentumai azt a lehetőséget is megemlítik, hogy az MI öntudatra ébredhet, és az emberiséggel szemben hatalomra törhet, de ez egyelőre csak egy a sok kockázat között, nem indokolja a fejlesztés lassítását.
Peking az amerikai lassítási felhívásokat részben úgy értelmezi, mint kísérletet Kína technológiai felzárkózásának megakadályozására. Washington viszont éppen a Kína támasztotta versenyt hozza fel fő érvként a szigorú szabályozás ellen: Trump szerint „aki megnyeri az MI-t, mindent megnyer”, kormányzata pedig gazdasági és katonai okokból is elsődlegesnek tartja az amerikai vezetés megőrzését. Az USA tehát nem lassíthat, mert Kína sem lassít, és fordítva. Róka fogta csuka, csuka fogta róka, mint a nukleáris fegyverkezési verseny idején.
Talán van azonban köztes út. A megoldás alighanem a független ellenőrzésben rejlik; ebbe az irányba mutat a Microsoft szeptember 14-én közzétett MI-etikai kódexe is, amely az emberi ellenőrzés elsődlegességét hangsúlyozza, de Mark Zuckerberg szeptember 15-i nyilatkozata is egybevág ezzel, bízik az önszabályozásban, szerinte ugyanis a laboratóriumoknak eleve komoly gazdasági és jogi ösztönzőik vannak arra, hogy biztonságos korlátokkal rendelkező modellekkel álljanak elő. Ráadásul harmadik feleket alkalmaznak ellenőrzésükre. A kérdés persze éppen az, elég-e ez, amikor ugyanazoknak a cégeknek kell fékezniük, amelyek élet-halál harcot vívnak az elsőségért.
Nyitókép: Humanoid robot gólt készül lőni idén Dél-Koreában, fotó: Ayleen Lührsen, CC BY-SA 4.0 / Wikimédia
