Mesterséges ideghálók addig cáfolják a valóságot, amíg azt sem tudjuk már, mi az

A kamuképek, a kamuvideók, azaz a fake diadalmenetének politikai, társadalmi és gazdasági folyamatok is megágyaztak. A következmény a társadalom médiába – és úgy általában a valóságba – vetett bizalmának teljes elvesztése, pedig a technológia önmagában nem ördögtől való.

Ez itt egy véleménycikk, ami nem feltétlenül tükrözi az Azonnali álláspontját, de itt van, mert szeretjük a jól érvelő és érdekes szövegeket. Ha vitáznál vele, vagy küldenél egyet te is, csak bátran!

A permanens technológiai forradalommal, mesterséges intelligenciák által készített, filmekben és politikai kampányokban felbukkanó valódi és kamuvideókkal folyamatosan változik a valóságképünk. Reális és virtuális, igaz és hamis, információ és dezinformáció határai végleg összemosódnak, szimultán manipulálunk másokat, s hagyjuk, hogy mások manipuláljanak minket.

Szokásos karácsonyi videoüzenetében II. Erzsébet királynő tavaly elárulta, hogy a BBC-n többször nem mondhatott el mindent, ami a szívén volt, és megköszöni a Channel 4-nak a lehetőséget, hogy ezúttal senki nem adja a szájába a szavakat. Aztán egyre furább dolgokról beszélt, majd egy Tiktok poszthoz táncra perdült, és a kutyája is kikerekedett szemekkel nézi a 94 éves uralkodót.

A tavalyi év egy másik virális videóján Vlagyimir Putyin, megint máshol Kim Dzsongun észak-koreai diktátor figyelmeztetette a novemberi elnökválasztás előtt álló amerikaiakat: egyikük beavatkozására sincs szükség, mert a demokráciájukat nélkülük, maguktól is romba döntik. Kim empatikusan még azt is hozzátette, hogy a „demokrácia törékeny”.

A főszereplők digitális hasonmások voltak, egyik anyag sem sikerült tökéletesre, pozitív, gunyoros üzenetüket azonban értette a célközönség. Sok más kamuvideó – az előállításukhoz használt technológia, a gépi mélytanulás (deep learning) és a hamisítványok (fakes) szavakból összegyúrt deepfake-ek (mélyhamisítványok) – azonban nem jóindulatú, nem humoros, ugyanakkor teljesen hitelesnek látszik, olyan, mintha a valóságot ábrázolná. Alkotóik általában közszereplőket, hírességeket próbálnak lejáratni, zsarolni velük. Ilyen mozgóképek bárkiről, élőkről és holtakról, sőt, soha nem élt személyekről is készíthetők. Ember alig kell hozzájuk, mert lassan mindent elvégeznek az óriási adatsorokon gyakoroltatott mesterséges intelligenciák.

Azért, mert a valóságdefiníciónk folyamatosan, egyre gyorsabban változik, és csak kapkodjuk a fejünket. A posztmodern hullám utáni kaotikus időkben, a big data világában, részben a brutális tempójú technológiai fejlődés hatására elveszítettük régi, bevált fogódzóinkat, az értelmezésekhez mankóként szolgáló bizonyosságokat, az új valóságokat pedig nem értjük igazán. Az emberi agyat nem a 21. századi permanens infokommunikációs forradalomra huzalozták, ezért az agyunk egyre értetlenebbül szemléli a változásokat.

Hiába próbálják rólunk másolni, elménk másként működik, mint az azt segíteni hivatott, jelenleg vagy csecsemőként gügyögő, vagy példás szakbarbár, de ennél egyelőre többre nem képes mesterséges értelmek. A két intelligencia együttműködése mindaddig egész biztosan a jövőnk, a bolygó megmentésének záloga, amíg nem jön el – és talán sohasem jön el – a kiszámíthatatlan gépi szuperintelligencia kora. Az ember-gép kapcsolat azonban nemcsak együttműködés, hanem lassú szimbiózis is: jelképesen és konkrétan, változatos technikákkal, beültetésekkel próbáljuk testünket és elménket a megváltozott viszonyokhoz alakítani – agyunkat „áthuzalozni” –, és így jobban megérteni a valóságot, átlátni, amikor manipulálják, megkülönböztetni egymástól tényt és dezinformációt.

A terület nélküli térkép valósága

A klasszikus sci-fi és a cyberpunk közötti átmenetet jelentő, kultikus tisztelettel övezett Philip K. Dick (1928-1982) novelláiban és regényeiben kizökkent az idő, megbicsaklott az emlékezet, összemosódott a valóság és a hallucináció. Realitás és illúzió átmeneti állapotait, a szétesett egész utáni káoszt, az igazság helyetti és utáni részigazságokat vizsgálta, permanens paranoiát és összeesküvéseket írt le plasztikusan. Az utolsó szimulakrum (1964) első öt fejezete például kilenc különböző nézőpontból meséli el a történéseket, és természetesen semmi sem az, aminek látszik. Környezetünk tárgyai visszafejlődnek, mai hangberendezések második világháborús rádiókká válnak.

– próbálta értelmezni Tessa, az író ötödik, egyben utolsó felesége az 1969-es Ubik szereplőit.

„A »mi a valóság« kérdést feltevő munkáim írása közben mindig reméltem, hogy egyszer választ kapok rá. Legtöbb olvasóm is bizakodott benne. Múltak az évek, megírtam egy csomó regényt és száznál több novellát, de még mindig nem jöttem rá” – nyilatkozta egy interjúban Dick, majd hozzáfűzte: „a valóság manipulálásának legfontosabb eszköze a szavak manipulálása. Ha kontrolláljuk a szavak jelentését, kontrollálhatjuk az azokat kötelezően használó embereket is”.

Dick nem érhette meg az Álmodnak-e az androidok elektronikus bárányokkal? regénye alapján készült filmtörténeti mérföldkő, az új vizuális esztétikát teremtő Szárnyas fejvadász (1982) sikerét. Marshall McLuhan (1911-1980) televíziós galaxisában élt, de csak a halála után indult be igazán a képkorszak, a videózás, futtatta fel a klipműfajt az amerikai MTV, ő viszont még az írott kultúrát, a Gutenberg-galaxist képviselte.

McLuhan világmagyarázata ma is aktuális, megkerülhetetlen előhírnöke-teoretikusa volt annak a folyamatnak, amelynek eredményeként az egyirányú és passzív média sokirányú, interaktív médiumokká alakult át.

míg az elektronikus kommunikációs megoldások fejlődésével a világ annyira összekapcsolódott, hogy globális faluvá vált, a médiumok pedig a befogadó aktivizálásának szintjétől függően forrók (rádió, film stb.), vagy hűvösek (telefon, televízió stb.). A forrók egyetlen érzéket rendkívüli telítettségben terjesztenek ki, azaz rengeteg adatot tartalmaznak, a hűvösek viszont keveset, így bátorítva a befogadót a hézagos információk kiegészítésére.

Az internettel, a mozgókép teljes befogadásának ellehetetlenülésével a legtöbb vizuális médium „lehűlt”, a számítógépes és online technológiák, valamint az okostelefonok elterjedésével a filmezéstől az újságírásig, az összes kreatív tevékenység demokratizálódott, alkotó és befogadó szerepe teljesen összemosódott, az infokommunikációs robbanással megsokszorozódtak a valóság ábrázolásának – és előállításának – a lehetőségei.

Jean Baudrillard (1929-2007) francia posztmodern gondolkodó realitás helyett eredet és valóságérték nélküli hiperrealitásról, modellek segítségével előállított szimulakrumokról írt 1981-es Simulacres et Simulation tanulmányában.

Dickkel ellentétben Baudrillard megérte látomásának valóra válását: az 1990-es évek végére az internet meghódította a világot, a legnépszerűbb médiummá vált, megjelent és le is csengett a szimulakrumgyártás iskolapéldája, a virtuális valóság (Virtual Reality, VR) első hulláma. A hírtelevíziók kedvük szerint kezdték alakítani a valóságot, popénekesektől televíziós műsorvezetőkig, feltűntek és örökre az emlékezetünkbe vésődtek a szintetikus sztárok, súlyosan felértékelődött a képalapú adat, a multimédiás információ. A 2010-es évek hozadéka, hogy az adatdömpinggel, a big data jelenséggel, a közösségi hálózatokkal, a kiterjesztett vakósággal (Augmented Reality, AR), a tények növekvő ellenőrzése (fact-checking) ellenére egyre kontrollálhatatlanabb az információ valóságtartalma, miközben előállításában gépek, elsősorban mélytanulás-alapú mesterséges intelligenciák, akár ember nélkül is részt vesznek.

A virtuális valóság után

A Dick-féle valóságélmény, a McLuhan gondolatai mentén fejlődött interaktív média – és a tartalom-előállítás korábban elképzelhetetlen szintű demokratizálódása –, Baudrillard szimulakrumai és hiperrealitása a 2010-es években fonódtak össze, és nyertek együtt új értelmet az offline világtól lassan már elválaszthatatlan online térben. Az integrálódási folyamat a közeli jövőben a Metaverzumot, „a virtuálisan feljavított fizikai valóság és a fizikailag állandó virtuális terek konvergenciáját eredményezi. Nem egyetlen világot, hanem egymást kölcsönösen támogató módszereket, utakat, amelyekkel és amelyeken keresztül a virtualizáció és a 3D-s web – egyelőre nehezen felmérhető következményekkel – életünk és környezetünk egészére kihat, állandó részévé válik.”

A valóság legtökéletesebb utánzására hivatott VR azonban a 2010-es évek reneszánsza ellenére sem tudott széles körben elterjedni. Ez több okra vezethető vissza: az összes érzékszervi élményt ígéretes kísérletek ellenére sem lehet még hitelesen szimulálni, a technológia annyira immerzív, annyira alámerülünk benne, hogy kapcsolatunkat elveszítjük a fizikai és a digitális környezettel – márpedig

A headsetek (sisakok) drágák és nem felhasználóbarátok, katonai, repülős kiképzésen, pornón és játékon kívül egyelőre kevés a használható alkalmazás. Ha nem vagyunk hardcore gamerek vagy pornófüggők, akkor sokkal jobban érezzük magunkat a mindenkori fizikai környezetünkre, például az okostelefonunk képernyőjén látottakra különféle információrétegeket rakó kiterjesztett valóság applikációkkal.

A VR-ben túl jól működik a látvány és a hangélmény szimulálása, és hiába merülünk el benne, tudjuk: ez nem lehet a földhöz ragadt fizikai világunk, csak az álmaink, és csak szórakozunk, vagy szorongunk, éppen ahogy kedvünk tartja. A kiterjesztett valóság viszont a nap, mint nap átélt valóságot bővíti tovább hasznos információkkal.

A digitális hamisítványok sikerének megágyazó szomorú valóság

Az élethű utánzatok és a valóságnál is valóságosabb szimulakrumok elterjedéséhez nemcsak a technológiai feltételek teremtődtek meg, hanem

A 2008-2009-es pénzügyi világválságból szélsőséges – jobb- és baloldali populista – erők maximális hasznot húztak. Hagyományos formációk kívülről jött alternatívájaként tetszelegve, a valóságot fekete-fehérre egyszerűsítő olcsó, de hatékony demagógiájukkal, identitáspolitikájukkal nyerték meg az elszegényedő, magára hagyott rétegeket, miközben az elit elefántcsonttornyokba zárkózva, távolodott el a valóságtól és a lakosságtól.

A nemes célokért indult, ám önmaga paródiájává vált politikai korrektség (PC) fülsiketítő kakofóniája szintén ezeknek a zagyva ideológiájú, heterogén csoportosulásoknak kedvez. A távoli fenyegetésnek látott klímakatasztrófát a saját bőrünkön kezdtük érezni, mindennapjaink része lett, a sivatagosodás és a vízhiány gyilkos fegyveres konfliktusokat váltott ki, az idegentől, a mástól ódzkodó nyugati kisember riogatására tökéletesen alkalmas menekülttömegeket indított útnak a gazdagabb és elvileg szociálisan érzékenyebb országok felé.

Drasztikusan átrendeződött a világ, naponta esik szét a korábban megismert valóság, ingadoznak-rogyadoznak, bizonytalanok a fukuyamai történelem végét jelképező liberális demokráciák. A transzhumanista olvasat még nem erre a valóságra ad feltétlenül adekvát válaszokat, helyette inkább a jövő irányát jelöli ki,

majd ha lehet, megtéveszteni mindet. Az anarchista-libertariánus társadalomszemlélet, valamint Dick – és William Gibson – egyre aktuálisabb.

A káoszvalóság politikai vitái elsődlegesen az érzelmeket, zsigereinket mozgatják meg, ellenőrzött tények és szakértői vélemények helyett az érzelmek a kiindulási pont. A káosszal korreláló post-truth „vitakultúrájában” törvényszerűen felértékelődtek az „alternatív” tények, elszaporodtak az online információt – és dezinformációt – termelő és terjesztő botok, az ilyen-olyan szerveződések, államok, politikai pártok által működtetett trollkeltetők és az alkalmazásukban álló trollseregek. A botoknak nem számít a hitelesség, csak az, hogy x felhasználót milyen cikk és információ érdekli, hibátlanul szállítják is nekik a tartalmat, munkájukat intelligens algoritmusok segítik.

A kamunickek mögé bújt trollok pedig közismerten nem vitáznak, hanem viszályt szítanak, az igazság összes szeletének kibontása helyett a leegyszerűsített „egyetlen igazságot” harsogják ellentmondást nem tűrve a képünkbe. A valóságot a VR-nél is jobban szimuláló, hihető párhuzamos univerzumokat teremtő deepfake technológia hatékony fegyver uraik és parancsolóik kezében.

Valóságot játszanak gépi intelligenciák

Ha pedig a bizalom elillan, könnyebb események megtörténtével kapcsolatos kételyeket ébreszteni, összeesküvéselméleteket terjeszteni. A Covid-19 világjárvánnyal, a nemzetközi szervezetek és a kormányok döcögő járványkezelésével tovább nőtt a bizonytalanság, mindenhonnan árad az egészségügyi dezinformáció, a legabszurdabb teóriák találnak hívő fülekre, értő szemekre.

A valótlant formába öntő technológiák és működtetőik elérték, hogy nem tudjuk – sőt, sokszor már nem is akarjuk – megkülönböztetni az igazat a hamistól, mert véleménybuborékunkban élve inkább csak a nekünk tetsző információt fogadjuk be.

Videókat régóta manipulálnak, de a korábbi technológiák a mai mesterséges intelligenciák nyújtotta tökélytől nagyon távol álltak. Láthattuk már például Nancy Pelosi házelnököt is lassítva beszélni, hogy részegnek tűnjön, a mozgóképanyagról azonban messziről lerítt, hogy kamu. Az „igazi” mélyhamisítvány másként készül. A mélytanulást – napjaink MI-fejlesztésében minden hangzatosan „mély” – az agyi idegsejtek hálózatai inspirálják, a kép- és beszédfelismeréstől a gépi fordításig számtalan infokommunikációs területen alkalmazott mesterséges neurális hálók őket utánozzák.

A legmodernebb kamukép-gyártó technológia, a 21. századi photoshoppolás alapja a GAN (Generative Adversarial Networks, generatív ellenséges hálózatok) is ilyen: egyik résztvevője, a generátor random zajból elkészíti például egy arc másolatát, mire a másik, a megkülönböztető bírálja a képet.

és kész a tökéletes másolat, vagy a soha nem létezett celeb szimulakruma, Baudrillard terület nélküli térképe. (A GAN-technológia működéséről és a deepfake technológiai oldaláról bővebben itt írtunk.)

Egy észt-francia kutatócsoport komoly szintet ugrott a hamisítványteremtésben: ellenséges hálózatokkal működő MI-jük nemlétező személyek genetikai kódját állította elő. Nagyon nem kell elereszteni a fantáziánkat ahhoz, hogy fura klónokat, mesterséges embereket vizionáljunk. A kamu DNS egyelőre nincs ezen a színvonalon, és inkább könnyít a tudományon, mintsem árt a valóságnak: a hús-vér emberek genomjának használata nagyon szigorúan szabályozott, fiktív személyekével viszont sokkal több a laboratóriumi lehetőség, lehet nyugodtan kísérletezni velük.

De még mielőtt pálcát törnénk az értelemszerűen zsarolásra is bevetett deepfake megoldások felett – amelyek ellen egyébként 2019 óta, sok más vállalat és szervezet mellett, a Facebook és a Microsoft is fellép –, két tényről ne feledkezzünk meg. Egyrészt a technológiák, köztük a túlmisztifikált MI is önmagukban semlegesek (pláne, ha gyakorlóadataikat nagyobb körültekintéssel állítják össze), másrészt mindig emberek állnak mögöttük, ők a fejlesztők és a felhasználók is, és a mélyhamisítványok jelentős része, akármennyire hihetetlen, pozitív célt szolgál.

Hangklónozással betegség miatt megnémult személyek „beszélhetnek” újra; a szórakoztatóiparban, játékokban, filmekben és más vizuális művészetekben pedig nagyon kreatívan alkalmazzák a technológiát. Celebek úgy szerepelhetnek reklámokban, hogy be sem teszik a lábukat a stúdióba, a forgatási helyszín közelében sem járnak.

– és ez csak a gépi kreativitás kezdete, bár már értékesítettek aukción MI által generált, természetesen nemlétező személyt megörökítő festményt –, vagy például a floridai Dali-múzeumban a digitálisan „feltámasztott” festő mutatja be munkásságát, majd szelfizik a látogatókkal.

Egy készülő amerikai háborús filmben két VFX (vizuális effekt) vállalat munkájaként az 1955-ben elhunyt James Dean szintetikus hasonmása fog szerepelni, de a deepfake a szatíra világában is népszerű, vagy éppen filmek szinkronhangjain javít sokat, paradox módon (?), fokozza a valóságélményt. Deanhez hasonlóan más halott hírességek, de nem csak hírességek, hanem például a Deep Nostalgia szolgáltatáson keresztül

A Nvidia egyik új MI-je videoszintézissel a bemenő mozgóképanyagot az eredeti statikus képre másolva úgy alakítja át, hogy a rajta látható személy például táncol, fut, megszólal, vagy ami pont tetszik. A végeredmény teljesen fotorealisztikus, az eljárással akár szobrok is megtáncoltathatók, remek avatárok készíthetők, vagy járműveket rakhatunk utcajelenetbe.

Az utánzatok, hamisítványok politikai szerepe ugyanakkor nem egyértelműen negatív. A technika személyek inkognitójának megőrzésére szintén hasznos, például Csecsenföldön forgattak dokumentumfilmet az ott üldözött LMBTQ-közösségről, és a riportalanyok fejét, hangját soha nem létezett személyekével helyettesítették.

Minden technológia alaptermészetéből fakadóan a dezinformációt generáló eljárások is párhuzamosan fejlődnek a hamis valóságot felismerő megoldásokkal. Sok kamuhír-generátor eleve maga is észleli a kamuhíreket, a YouTube MI-alapú osztályozója pedig egyre hatékonyabban szűri például az összeesküvéselméleteket, az egészségügyi és a klímakatasztrófával kapcsolatos hazugságokat és más, potenciálisan káros tartalmakat.

Az MIT (Massachusetts Institute of Technology) egyik GAN-rendszere a kamuvideók gyenge pontjára, a textúrára összpontosít, és elég jó eredményeket ér el. Minél többet tanul, annál jobb, egészen fantasztikus szakbarbár lesz a mesterséges intelligencia, és előbb-utóbb a sok részterületi újítást általános rendszerekbe integrálják.

A versenyfutás folytatódik, a tempó fokozódik, a szintetikus valóságok még tökéletesebbek lesznek, és közben beérik a VR, Metaverzumban egyesül az on- és az offline világ, realitás és hiperrealitás, kamu és igazság.

A nézőpontok és az azokat generáló technológiák folyamatos szaporodásával könnyen lehet, hogy a kérdésnek sem lesz már értelme.

A szerző jövőkutató. Olvasnál még Kömlődi Ferenctől? Itt megteheted. A jövőkutatóval készült interjúnkat itt olvashatod el vagy itt hallgathatod meg. A deepfake technológiai működését itt jártuk körbe.

NYITÓKÉP: Vitárius Bence / Azonnali