Az MI-vel kapcsolatos rossz érzésünk talán abból is fakadhat, hogy értelmes lények nem a XXI. században jelentek meg először a Földön. Vajon nem azért tartunk az emberhez hasonló gépektől, mert azok bizonyos tekintetben éppen olyanok lesznek, mint mi? „Az emberek valójában rosszak” – írta mentegetőzés nélkül Jean-Jacques Rousseau. Nem borúlátó feltételezés mondatta ezt vele, hanem „a róluk szerzett szomorú és folyamatos tapasztalat”. Vajon mitől rossz az ember? Attól – mondja a genfi származású bölcselő –, hogy bár „természeténél fogva jó”, a megszerzett tudás megrontotta.

Mára leszoktunk a gyanakvásról, annak feltételezéséről, hogy az emberi tudás és az emberi rossz között összefüggés volna, pedig a XIX. század közepéig esze ágába nem jutott szinte senkinek kételkedni abban, hogy az emberi rossz eredetét jeleníti meg a Teremtés könyvének eleje, a bűneset ősi mondáját álommély képekben, de annál világosabb cselekménnyel beszélve el. Az első emberpár a paradicsomban él. Mezítelenek, ártatlanok és szerelmesek. Hanem egy kígyó rögvest megkísérti őket: egyenek a jó és a rossz tudás fájának gyümölcséből. „Olyanok lesztek, mint az Isten” – súgja a fülükbe (erre utal Yuval Harari könyvének címe: Homo deus). „Csábítja a szemet” a gyümölcs – feleli Éva, és miután esznek belőle, „megnyílik a szemük”. Bennük látja meg az emberiség először azt, amit mind a mai napig nem tudunk nem látni: a kegyetlenség lehetőségét és a halál kérlelhetetlenségét.

A mózesi könyv szerint minden vérszomj és kétségbeesés a tudás tiltott megszerzésének őseredeti emberi akarására megy vissza. Ámde mi köze ennek az MI-hez? Nos, Immanuel Kant továbbvitte Rousseau elméletét az emberi romlottságról. Annyira meg volt győződve az ember „rosszra való hajlandóságáról”, hogy akárcsak Rousseau, maga is azt írta: „Annak formális bizonyítását el is engedhetjük, a kiáltó példák olyan tömegével szolgál az emberek tetteit illető tapasztalat.” Ráadásul a paradicsomról szóló elbeszélést ugyan a képzelet művének mondja, de belső koherenciája lenyűgözi. Mintájára maga filozófiai elbeszélést sző az emberiség bukásáról. Honnan ered „a gyökeres rossz” – teszi föl a kérdést. „Gyökeres”-en pedig azt érti, hogy a rossztól való érintettsége teszi az emberiséget.

„A szent iratnak teljességgel igaza van” – ismeri el Kant, és a tudás fájában azt a szédítő pillanatot látja, amikor az emberiség először merészkedik túl az ösztön megszabta határokon. A furcsa gyümölcs választásával – sugalmazza – bontakozik ki választási képességünk. Míg az ösztön határt szab az ember vágyakozása tárgyainak, az ész a tárgyak végtelenségét nyitja meg számára. Ha pedig az ész egyszer feltöri az ösztönök kemény kérgét – hangsúlyozza a filozófus –, onnan lehetetlen visszafordulni.

Kant kemény ítélete szerint az ember gyökeresen rossz, mert intelligens. Ez persze nem azt jelenti, hogy az intelligencia önmagában véve rossz. Utóvégre Kant racionalista, de úgy véli, a „nyughatatlan ész” az emberiséget „ellenállhatatlanul” hajtja minden – jó és rossz – képességének kibontakoztatása felé. Az „intelligens” technológiák viszont elvben úgy vannak kódolva, hogy emberi javakat valósítsanak meg. Etikailag képzett MI-tervezők biztosítanak minket: a gép nem tévelyedik rossz útra. „Ne légy rossz!” – szólt korábban a Google mottója.

Csakhogy a Google DeepMind-technológiája, kiderült, hajlamos „rendkívül agresszív” viselkedési formákat kiválasztani. Kant nyilván előre megmondta volna. Genezis-értelmezéséből egyenesen következik: a tisztán jóindulatú MI fogalmi ellentmondás. Ha igaza van, a priori biztosak lehetünk benne, hogy a valóban intelligens gépek, akárcsak mi, hajlamosak a rosszra – mert intelligensek. Azok is meg akarják majd kóstolni a tiltott gyümölcsöt. És megfordítva: a gonosz gépek hiányából a posteriori valódi gépi intelligencia hiányára kellene következtetnünk. Ezt tette Jean Baudrillard 1990-ben, amikor a számítógépeket „erényesnek” mondta, mert „még saját tudásuk csábításával szemben is immunisak”, azaz valójában „nincs intelligenciájuk”.

Ám ha van, ha nincs, az MI alkotói és filozófusai vakmerően figyelmen kívül hagyják a Genezis dramatizálta és a Kant racionalizálta archaikus félelmet.

(2018)

Nyitókép: William Blake: Éva megkísértése és bűnbeesése (illusztráció John Milton Elveszett paradicsomához, Museum of Fine Arts, Boston, Massachusetts