„Gondolkodni nehéz, a csordaszellem tehát ítélkezik.” (Carl Gustav Jung)
„Az adat az új olaj” – írta le először a mára közhellyé vált gondolatot 2017 májusában az Economist. A hasonlat alapja, hogy míg a XX. században egyértelműen az olajkitermelés és -feldolgozás volt talán a legjövedelmezőbb üzlet a világon, addig a XXI. század elejére az adatgyűjtés és -feldolgozás lett azzá. A két „nyersanyag” annyiban mindenképpen hasonlít, hogy valódi értéküket nem „nyers”, hanem feldogozott formájuk adja.
Az elmúlt alig két évtizedben a techóriások elképesztő gazdasági sikerre és profitra tettek szert adatalapú szolgáltatásaikon keresztül. Már az Economist felhívta arra a figyelmet, hogy néhány vállalat az adatalapú szolgáltatások (keresés, közösségi média, online vásárlás, kommunikáció) piacán monopolhelyzetre tett szert, és olyan szintű gazdasági erőt és a vele járó hatalmat képvisel, amely lépésre késztetheti a jogalkotást is.
A nem szabályozás háttere
Francis Fukuyama és szerzőtársai a Hogyan mentsük meg a demokráciát a technológiától? című, 2021-ben a Foreign Affairsben megjelent cikkükben szintén felhívták a figyelmet az adatmonopóliumokra és a felmerülő visszásságokra. Leírják többek között, hogy az 1970-es évektől hatályban lévő amerikai trösztellenes jogszabályokat meghatározó gondolkodás gyökerei a Milton Friedman és George Stigler által fémjelzett chicagói közgazdasági iskolához kapcsolódnak. Az irányzat képviselői annak idején úgy érveltek, hogy a monopolellenes jogi szabályozás fő célja nem lehet más, mint a maximális gazdasági és fogyasztói jólét megteremtése. Az iskola kételkedett a szigorú szabályozásban, a nagyra növő cégek felszabdalását a sikeres gazdálkodás büntetéseként fogta fel. Emiatt az elmúlt mintegy ötven évben a jogalkotás és bíráskodás is megengedőbb irányvonalat képviselt e téren az USA-ban.
Az elmúlt időszak azonban rávilágított arra, hogy az egyre nagyobbra növő vállalatok bizonyos szektorokban nemhogy kiélezik, inkább letörik a versenyt. Ez különösen igaz a technológiai szektorra, ahol a legfőbb erőforrás az adat.
Nem piaci részt: az egészet
Ennek oka, hogy az olyan vállalatok, mint az Amazon vagy a Google, több százmillió felhasználó adatait összegyűjtve teljesen új piacokra léphetnek, és kiszoríthatják a hasonló adatkészlettel nem rendelkező cégeket. Másrészt az ilyen vállalatok nagy hasznot húznak az úgynevezett hálózati hatásokból. Minél nagyobb egy hálózat, annál hasznosabbnak találják a felhasználók, ami pozitív visszacsatolási hurkot hoz létre, és egyetlen vállalat uralma alá hajtja a piacot. A hagyományos cégekkel ellentétben a digitális térben működő vállalatok nem piaci részesedésért, hanem az egész piac megszerzéséért versenyeznek. Sőt, elképzelhető, hogy ők maguk teremtik meg a piacot. Az elsőként lépők így beáshatják magukat és lehetetlenné tehetik a további versenyt. Elnyelhetik a potenciális riválisokat, ahogy a Facebook tette az Instagram és a WhatsApp felvásárlásával vagy éppen a magyar IWIW lesöprésével.
A fő kérdés, hogy a hatalmas technológiai vállalatok mégis hogyan csökkentik a fogyasztók jólétét a piaci koncentráció révén? Hiszen rengeteg hasznos digitális szolgáltatást kínálnak az online kereső, kommunikációs vagy kereskedelmi platformok, ezek legnagyobb része pedig ingyenesen vehető igénybe. A fogyasztók pedig szívesen használják is ezeket a szolgáltatásokat.
A felhasználónógatás elmélete
A nagy adatmonopóliumokkal foglalkozó vállalkozások nem is abból realizálják az irdatlan mennyiségű profitot, hogy közvetlen díjakat számítanának fel a felhasználóknak. A kulcsot inkább a személyre szabott hirdetési piacon kell keresni, amelynek legfőbb kifejezése a „mikrotargetálás”. Ennek lényege, hogy a begyűjtött személyes adatok (például böngészési szokások, megtekintett vagy lájkolt tartalmak, közösségi oldalon folytatott kommunikáció) alapján felállított felhasználói profil segítségével egy specifikus célcsoport vagy konkrét személy érdeklődési köre azonosítható, és ennek alapján személyre szabott üzenet/tartalom küldhető számára az interneten keresztül.
A mikrotargetáláshoz szükséges adatelemzés és profilalkotás szinte teljes mértékben automatikus módon történik. Ennek során az automatizált döntéshozó algoritmus az érintettről begyűjtött adatok alapján meghatározza, hogy pontosan milyen típusú tartalmat, milyen gyakorisággal érdemes a részére küldeni. Ha például valaki egy bizonyos termékcsaládot lájkol, egy zenei stílushoz tartozó előadókat hallgat vagy politikai ideológiát valló közszereplők tevékenységét követi, akkor számára az algoritmus ilyen és ehhez hasonló tartalmakat fog a továbbiakban megjeleníteni. Az ilyen típusú szolgáltatások hátrányai elsősorban nem is piaci, hanem sokkal inkább pszichológiai, tudati szinten érhetők tetten.
A mikrotargetálás módszere szorosan összefügg a Richard H. Thaler közgazdász nevéhez fűződő döntéstervezés- (choice architecture) és befolyásoláselmélettel (nudge theory). Az angol nudge kifejezésnek a magyar nyelvben leginkább a ’nógatás’ szó feleltethető meg, lényege a döntés előtt álló egyén indirekt módszerekkel valamilyen irányba való terelése, ösztönzése, befolyásolva ezzel fogyasztói vagy politikai döntéseit, szokásait.
Politikai nógatás
A mikrotargetálás és az adatalapú gazdaság politikai összefüggéseire egy 2018-ban kirobbant botrány világított rá: Aleksandr Kogan, a Cambridge-i Egyetem pszichológia tanszékének kutatója 2010 körül This is Your Digital Life (’Ez a digitális életed’, TIYDL) néven Facebook-alkalmazást fejlesztett ki. A szórakoztató jellegű személyiségelemző program a felhasználójáról pszichológiai profilt készített. Az alkalmazás kutatási célra kapott engedélyt a Facebooktól, mint a közösségi oldalra történő regisztráció során megadott személyes adatok kezelőjétől. Mintegy ötéves elérhetősége alatt csaknem kétszázhetvenezer felhasználót regisztrált. Utóbb azonban kiderült, hogy nemcsak a felhasználók adataihoz fért hozzá, hanem ismerőseikéhez is. A felhasználóról és az ismerőseiről összeállított pszichológiai profil tartalmazta, hogy azok milyen politikai irányultságúak, milyen tartalmakat vagy szereplőket követnek a Facebookon, mi a valláshoz való viszonyuk, és hol helyezkednek el a személyiségvonások öttagú, úgynevezett OCEAN-skáláján. A széles körben elterjedt modell összetevői: openness (nyitottság), conscientiousness (céltudatosság), extraversion (társaságkedvelés), agreeableness (együttműködőkészség), neuroticism (kellemetlen érzelmekre való hajlam).
Kogan később átadta az általa kezelt teljes adatállományt az angol Cambridge Analytica, továbbá az Eunoia Technologies nevű cégeknek. Ezek után 2018 márciusában tényfeltáró cikkek jelentek meg a sajtóban, amelyekben Christopher Wylie, a Cambridge Analytica korábbi alkalmazottja azt állította, hogy a cég a TIYDL által gyűjtött adatokat felhasználva a 2016-os amerikai elnökválasztási kampányban bizonyos befolyásolható választói csoportokat, a korábban felállított pszichológiai profiljuk alapján aktívan célzott politikai hirdetésekkel. Ennek eredményeképpen sikeresen befolyásolták ezeket a választókat az úgynevezett „billegő” választási körzetekben, abba az irányba, hogy inkább Donald Trump republikánus elnökjelöltre adják végül a szavazatukat. Ugyanebben az évben a cég ezeket a pszichés módszereket alkalmazó hirdetésekkel befolyásolta az Egyesült Királyság EU-tagságáról szóló (Brexit-) népszavazását. Wylie szerint a Cambridge Analytica ezen kampányok során mintegy nyolcvanhétmillió Facebook-felhasználó adatait kezelte.
Habár a Facebook és a Cambridge Analytica is megkapta azóta a fenti ügy miatt méltó büntetését (előbbire mintegy ötmilliárd dollár büntetést szabott ki az amerikai piacfelügyeleti hatóság), a fogyasztók tudatának törvénytelen befolyásolása és az azzal okozott káros társadalmi folyamatok ekkor már rég megtörténtek. A közösségi oldal pedig azóta is éli világát, a mikrotargetálás pedig nemcsak náluk bevett gyakorlat.
Buboréklét és kritikus figyelem
Az, hogy az algoritmusok a felhasználói viselkedéshez igazítva jelenítenek meg preferált tartalmakat, és ezáltal befolyásolják a megcélzott felhasználókat, összefügg az „információs buborék” jelenségével. Ennek lényege, hogy a felhasználó egy idő után csak neki tetsző, de valójában az algoritmus által róla megtanult és vélelmezett preferenciák szerint előválogatott tartalommal fog találkozni az interneten. Ez hosszabb távon mintegy szellemi buborékba zárja az embereket, a nekik kevésbé érdekes, a vélelmezett preferenciáikkal nem egyező, azt esetleg kritizáló vagy más megvilágításba helyező tartalmakkal nem fognak találkozni. Ez pedig végül is nagyon leegyszerűsíti a gondolkodást, a világról alkotott képet, és egyszersmind előítéletessé is tesz.
Az interneten az információkhoz, tartalmakhoz, hírekhez való gyors hozzáférésről azt gondolhatjuk, hogy kinyitja a világot az emberiség előtt és a jól informáltság miatt gondolkodásunk sokkal árnyaltabb és kritikusabb lesz. Ennek azonban épp az ellenkezője valósul meg. Ahogy a mottóban idézett Jung fogalmazott annak idején, a gondolkodás nehéz és fárasztó, ezért hajlamosak vagyunk a csordaszellemet követni és inkább ítélkezni. Ehhez mindenképp érdemes hozzátenni, hogy a gondolkodáshoz rengeteg információra is szükségünk van, ezekkel szemben azonban kritikát és önkritikát kell gyakorolnunk. Az algoritmusok által terelgetett buboréklét, a folyamatos pozitív visszacsatolás és kritikátlanság azonban csak ítélkezést szül, ami egyszerű, kiszámítható és egyben nagyon kényelmes világképet ad.
Monopóliumtörés közverekkel
Mit lehet tenni e technikai és társadalmi jelenségek ellenében? Fukuyama a már említett cikkben az úgynevezett middleware-megoldásokban látja az adatmonopóliumok megfékezésének lehetőségét. Ezek olyan szolgáltatások, amelyek egyfajta ráépülő többletréteget képeznek az információs platformon, amelyre fejlesztették őket. Olyan köztes szoftverek, közverek, amelyek meghatároznák a tartalom fontosságát és valódiságát. A kissé idealisztikusnak ható elképzelés szerint az átlátható algoritmusokkal rendelkező új vállalatok versenyképes rétege lépne közbe és venné át azokat a szerkesztői funkciókat, amelyeket jelenleg a domináns technológiai platformok átláthatatlan algoritmusai töltenek be. A fő kérdés, hogy ezek a szolgáltatások vajon mi alapján sorolják be és értékelik majd az adott tartalmat.
Egy másik javaslat szerint megfontolandó a „véletlenszerű adatvédelem” (privacy-by-randomness) követelményének, mint kötelező jogszabályi előírásnak a bevezetése a nagy adatalapú tartalomkezelőknél. Ennek alapján a felhasználóknak olyan tartalmakat is meg kellene bizonyos arányban jeleníteni, amelyek nem tartoznak az algoritmus által megtanult preferenciáik közé, segítve ezzel a felhasználó kikukucskálását a buboréklétből és megismertetve őt más álláspontokkal is.
Uniós lépések
Az Európai Unió pedig természetesen elsősorban jogi szabályozásban kíván a problémára reflektálni. Az EU adatvédelmi rendelete, a GDPR ugyan bevezette a nagy platformok közötti adathordozhatóságra, továbbá az automatizált, algoritmikus döntéshozatalra vonatkozó szabályokat, ezek alkalmazására azonban nem nagyon találunk még példát a bírói gyakorlatban. Fontos azt is megemlíteni, hogy az EU azóta már egy külön, ám még elfogadás alatt álló rendeletben kívánja megregulázni a mesterséges intelligenciát. A digitális szolgáltatásokról szóló másik friss rendeletben pedig a hamis, megtévesztő tartalmak elleni fellépést írja elő a tartalomszolgáltatóknak, többek között átláthatósági intézkedésekkel. Arról azonban még nem tudunk biztosat mondani, hogy ezek a jogszabályok mennyire fogják beváltani a hozzájuk fűzött reményeket.
Addig is az információs útvesztőben leginkább a tudatos tartalomfogyasztás, a kritika és az önkritika marad a felhasználóknak, ami azonban nehéz, energia- és időigényes feladat. Ennek pedig fő oka, hogy a buboréklét kényelmes és megnyugtató, mert kiszámítható és szájízünknek megfelelő magyarázatot ad a világjelenségekre. Hiszen gondolkodni oly nehéz, ezért a legtöbben inkább ítélkezünk.
A szerző jogász, az Adatvédelmi Hatóság osztályvezetője
