Elszabadult a Facebook?

Szerda délután lőtte ki a rendszer a Trollfocit, illetve május végén az Illiberal Memes-t. Míg előbbi esetben (még) nem tudni, mi áll a háttérben, utóbbi esetben egyértelműen a közösségi alapelvek megszegése. Mi áll a törlések mögött valójában? Veszélyben van-e bármelyik oldal?

Ez itt egy véleménycikk, ami nem feltétlenül tükrözi az Azonnali álláspontját, de itt van, mert szeretjük a jól érvelő és érdekes szövegeket. Ha vitáznál vele, vagy küldenél egyet te is, csak bátran!

A Facebook nagyjából öt éve állította hadrendbe az első mesterségesintelligencia-alapú szűrőprogramját, ekkoriban szaporodott meg a profilok tiltása, bejegyzések, vagy akár teljes csoportok vagy oldalak törlése. Ekkoriban született meg a zuccolás kifejezés is, amit a közösségi oldal alapítója, Mark Zuckerberg után neveztek el, továbbá

Mindennek alapja: a közösségi alapelvek

Maguk a közösségi alapelvek azonban mindig is jelen voltak, de sokáig kizárólag emberi moderátorok végezték a vizsgálatot. Egy zárt csoportba például akadálytalanul fel lehetett pornográf képeket tölteni, míg most minden egyes feltöltött képet egy program átvizsgál, és ha nem megfelelő (lásd az előzőt), akkor gyakorlatilag pár másodperccel a kikerülés után le is törli, a szabálysértő felhasználót pedig megbünteti.

Első körben különösebb következmény nélkül meg lehet úszni ezt, azonban utána egyre súlyosabb büntetések jönnek, a következő módon: 24 óra, 3 nap, 1 hét, 1 hónap, és végül a profil törlése – elméletileg, gyakorlatilag a 30 napos tiltásból több is összejöhet. A tiltás alatt szinte teljes mértékben korlátozzák a fiók használatát: nem írhat üzenetet, hozzászólást, a csoportokban, ha adminisztrátor, nem vehet fel újabb tagot, és még egy szem lájkot sem nyomhat a bejegyzésekre. Zucc szobafogságra ítéli a rendetlenkedőket!

Persze erre könnyen mondhatjuk, hogy nyilván okkal törölték ezeket a tartalmakat, nem kell olyan tartalmat közzétenni, és kész. A valóság ennél összetettebb: vegyük példának a kiskutya szót (mivel a rendszer hajlamos beleolvasni a megosztott tartalmakba, igyekszem itt is betartani a szabályokat, így nem írok le olyan szót, ami valóban nem írható le). Az, hogy „dögöljön meg az összes kiskutya”, egyértelműen gyűlölködő hozzászólás. Mi a helyzet azzal, hogy „én elítélem azt, hogy dögöljön meg az összes kiskutya”? Látszólag ez nem gyűlölködő hozzászólás, sőt, pont, hogy ellene szól, azonban mivel a „kiskutya” szó benne van, sőt, a „dögöljön meg” kifejezés is, ez ugyanúgy törlésre kerül, és ugyanaz a szankció jár érte, mint az előzőért.

Asperger-szindrómás mesterséges intelligencia?

Amikor sok éve, érettségi előtt az ELTE informatika karának nyílt napján voltam, egy előadás párhuzamot vont a gyári robotok, és az Asperger-szindrómások között, hiszen egy súlyos aspergeres szó szerint értelmez nagyjából mindent, nem érti az iróniát, és az emberi érzelmek azonosítása is súlyos nehézséget okoz neki (egy Szondi-teszten meg is bukna). Egy gyári robot szintén nem érti, mit akar az ember, sőt, ha hibás, talán azt sem tudja, az egy ember ott előtte – ebből lett gyilkosság a VW-gyárban 2015-ben.

Az Illiberal Memes törlése mögött is valószínűleg az állt, hogy a szűrőprogram nem értette az iróniát, és úgy értelmezte, hogy öngyilkossággal viccelődnek. Látok némi párhuzamot az MI és az aspergeresek között a fejlesztés tekintetében is: megfelelő szakemberrel, és évek munkájával sok fejlődés érhető el.

Mi a megoldás?

Ezeket a programokat mindenképpen le kell állítani, hiszen az oldalak kezelőinek ez akár súlyos anyagi kárt is okozhat (kezdve a hirdetésekre költött pénzekkel, amik kárba mentek). Több embert kell bevonni a tesztelésbe és a tanításba, akár az oldalak kezelőinek ingyenes hirdetési lehetőséget felajánlva, hogy ilyen módon oktassák a mesterséges intelligenciát.

Mindenképpen fizikai, emberi képviseletre lenne szükség a legtöbb országban, ahogy erről már korábban is írtam, hogy ezeket a félreértéseket rendezni tudják, akár jogi úton is.

Átmeneti megoldásként mindenképpen kövessük be Instagramon az általunk fontosnak tartott oldalakat, általában ott szoktak tájékoztatni törlés esetén. Saját profilunkon, amennyiben nem szükséges, a bejegyzéseket, személyes adatokat ne hagyjuk mindenki által láthatóan, ezzel elkerülhetjük a hobbijelentgetőket és az adatgyűjtőket (ezzel a lépéssel a magánéletünk nyugalma felé is tehetünk egy jókora lépést).

És persze reménykedjünk abban, hogy akad egy mesterséges intelligenciákat kezelő pszichológus, aki kezelésbe veszi a szűrőprogramot.

A szerző informatikus. Olvass még tőle az Azonnalin! Vitáznál vele? Írj!