Hiányzik a nyelvtudása vagy a kapacitása a Facebook moderátorainak ahhoz, hogy a hárommilliárd felhasználóval bíró közösségi oldal a világ legveszélyesebb területein is elejét vegye a gyűlöletbeszédnek és az erőszakra való felbujtásnak.
Jóllehet kiszivárogtatott belső dokumentumok alapján a techóriás még az Egyesült Államokban is félvállról vette az erőszakos felhívásokat, csupán az amerikai elnökválasztás idejére korlátozta az álhíreket és dezinformációkat, Joe Biden választási győzelmének bebizonyosodásával ment a kukába minden, és ismét teret engedtek az ilyen tartalmaknak a profit érdekében. Ez pedig lehetőséget nyújtott arra, hogy szélsőséges csoportok megszervezzék és összehangolják az amerikai törvényhozás elleni ostromot idén január 6-án.
De ez csak az Egyesült Államok, s bár a tengerentúli államszövetségben szinte bárki fegyverhez tud jutni, a világon sokkal veszélyesebb helyek is vannak, ahol a Facebook nem erőlteti meg magát felhasználói védelmének érdekében.
A közösségi oldal saját mérnökei már újév előtt figyelmeztettek egy 59 oldalas jelentésben, hogy az arab nyelvű gyűlölködő tartalmak mindössze hat százalékát szúrták ki az Instagramon. A Közel-Keleten elég sokan beszélnek arabul, és számos, az erőszaktól nem visszariadó terrorista vagy fegyveres szervezetnek az otthona, amelyek a közösségi médiában, így a Facebookon is előszeretettel terjesztik nézeteiket (lásd Iszlám Állam).
A térségben a nők vagy az LMBTQ-közösség elleni uszítások fele sem kerül eltávolításra, és akkor még a felekezeti alapú erőszakról nem is beszéltünk.
Irakban, ahol az iszlám két különböző irányát követő csoportok, a szunniták és a síiták közötti különbségek az Iszlám Állam legyőzése után néhány évvel ismét felerősödtek, a két közösség brutális trollkodással hergel egymás ellen. Általában profán vagy illegális tartalmakat posztolnak egymás oldalaira, például gyermekpornográfiát.
A probléma gyökere: nincs elég moderátor az ilyen tartalmak kiszűrésére és visszaszorítására, de ha vannak is, nem beszélik a helyi nyelvet. Kiváló példa erre Afganisztán: az éppen humanitárius katasztrófa szélén egyensúlyozó országban helyi moderátorok alkalmazásával is csak a gyűlöletbeszéd kevesebb mint egy százalékát sikerült eltávolítani. Mindemellett az algoritmus sem perfekt a helyi nyelvekből, így az esetek 77 százalékában nem erőszakos tartalmakat törölt, mert terroristának nézte.
Ezzel a helyzettel valamelyest a terroristák is tisztában vannak, és megtanulták kijátszani a Facebookot: az Iszlám Állam harcosai például úgy osztották meg azt a posztot, hogy megöltek tizenhárom iraki katonát, hogy borítóképnek egy Mark Zuckerberget ábrázoló képet választottak. A tartalom-ellenőrzésen így a dzsihadista propaganda úgy ment át, mint kés a vajon.
(Borítókép: Alexander Koerner / Getty Images)