Hiába fejlesztik folyamatosan a problémás tartalmak felismerésére okított mesterséges intelligenciát, az esetek többségét még mindig csak az emberek tudják kiszűrni. Vagy ők sem. „Gyűlöletbeszéd” címén például 2,5 millió posztot távolítottak el csak 2018 első negyedévében – önmagában hatalmas számnak tűnik, ez minden bizonnyal csak a kisebb része annak, amit a Facebook saját szabályai szerint sértőek, gyűlöletet gerjesztenek valamely csoport ellen, vagy konkrét erőszakra szólítanak fel, és ezért ki kell őket cenzúrázni.

Ennek a milliós nagyságrendi posztnak a 38 százalékát az algoritmus találta helytelennek, a többséget azonban még mindig emberi beavatkozással távolítják el. A létszámbővítés után már 15 ezren dolgoznak a Facebooknál moderátorként. Illetve a kritikusok szerint cenzorként; az utóbbi időben a jobboldal egyre hangsúlyosabb témája a „Facebook-diktatúra”. Arrafelé a közösségi oldalt liberálisan elfogultnak tartják, de a szólásszabadság és a gyűlöletbeszéd közötti, korántsem egyértelmű határvonal meghatározása, és az, hogy egy kvázi monopolhelyzetben lévő magánvállalat dönt ezzel kapcsolatos mindennapi kérdésekről, politikai oldaltól és a konkrét esetek megítélésétől függetlenül is probléma.

A Facebook most először közölt hivatalos számokat a posztok eltávolításáról, és a gyűlöletbeszéd itt csak egy kategória: moderációs ok lehet ezen kívül az erőszakos, illetve a szexuális tartalmú, meztelen képek és videók közzététele, de a spamek és a hamis profiloldalak is. Utóbbiak tömegével vannak jelen a Facebookon. Igén márciusig 583 millió (!) hamis profiloldalt szüntettek meg, és a becslések szerint az aktív profiloldalak 3-4 százaléka még mindig hamis. Mivel a Facebooknak világszerte már több mint 2 milliárd felhasználója van, ez legalább 70 millió fiókot jelent.

Erőszakos képek miatt 3,4 millió posztot töröltek ebben az első negyedévben, terrorista propaganda miatt 1,9 milliót, miközben két nagyságrenddel több, 837 millió spamet találtak. Ezek a számok mindegyik kategóriában növekedtek a korábbi három hónapos időszakhoz képest. Ez nyilván a Facebook bírálatok hatására is továbbfejlesztett moderációs rendszerének köszönhető, és a cég éppen ezt kommunikálja folyamatosan: nem vagyunk tökéletesek, de folyamatosan fejlődünk, nyitottak vagyunk a külső kritikákra és javaslatokra.

A céggel szembeni bírálatok azonban egyre inkább jelen vannak a médiában és a politikában, a kritikusok pedig egyre türelmetlenebbnek mutatják magukat.

Már eleget hallottuk, hogy „ez igazán olyan nehéz”, ez az egész ugyanis rettentően régen megy

– idézi a BBC a Facebookkal szemben megszólaló egyik harcos aktivistát. Dottie Lux szerint ha Zuckerbergéknek új randioldalra és a személyes adatokkal való kereskedelemre van ideje, akkor a jobb moderációra is legyen.

Ettől még nagyon messze vannak. A Facebook most maga hozott nyilvánosságra olyan adatokat, amelyek alapján látszik, hogy mennyire nem hatékony a saját sztenderdjük szerint a rendszerük. A ténylegesen kiszűrt posztok mellett ugyanis vettek egy szisztematikus mintát azok közül is, amelyek eredetileg simán átmentek. Az eredmény szerint 10 ezer rendben lévőnek gondolt poszt közül 27 erőszakot, 9 pedig meztelen képeket tartalmaz – tekintve, hogy naponta másfél milliárdan használják a rendszert, ez sok-sok millió fel nem fedezett visszaélést jelent minden egyes nap.

Alex Schultz, a Facebook adatelemző részlegének vezetője azzal védekezik, hogy hiába fejlesztenek gépi ellenőrző rendszereket, a konkrét esetekben a végső döntést nagyon sokszor csak ember tudja meghozni, hogy töröljenek vagy sem.

A nüanszok számítanak és a kontextusok, amit a technológia egyelőre nem tud kezelni

– mondja Schultz, és példaként a sértő szavakat említi: egy „lebuzizás” lehet homofób gyűlöletbeszéd, de lehet egy homoszexuális közegen belüli szleng is negatív tartalom nélkül, ha melegek használják a kifejezést. Azt viszont nyilván a moderátorok sem tudják minden esetben megállapítani, hogy egy posztoló meleg-e vagy sem, és ha még képesek is lennének rá, ez önmagában beviszi a Facebookot abba a politikai dzsungelbe (kinek mit szabad és mit nem szabad, nagyobb szólásszabadsága lehet-e egy egy-egy csoportnak a többséghez képest, stb.), ahonnan teljesen reménytelen kivergődnie.