A világ egyik része legkésőbb a tavalyi amerikai elnökválasztás óta az álhírektől retteg, a másik része meg olvassa ezeket. Egyre több a próbálkozás a hazugságok és csúsztatások feltartóztatására, a Facebook és a Google mellett sok kicsi szervezet is azon dolgozik, hogy az új technológiákat harcba állítva szabjon gátat az egyre csak hömpölygő álhíreknek. Egy brit cég például a nyáron azt ígérte, novemberre automata álhírcáfolót fejlesztenek, részben Soros György pénzéből. Magyar szakértővel beszélgettünk a realitásokról.
Általános vélekedés manapság, hogy a demokráciára, de legalábbis a demokratikus közbeszédre leselkedő legnagyobb veszély az álhírek elburjánzása. A szélesebb nyilvánosság figyelmét a tavalyi amerikai elnökválasztás, azon belül is Donald Trump győzelme irányította rá – még ha nehéz is szétszálazni, hogy ebben a sok tényezőből mekkora szerepe is volt valójában az álhíreknek. Pláne, hogy azóta kiderült, hogy az információs hadviselés legalább ilyen fontos frontja volt a választási kampányban a közösségi médiás hirdetésvásárlás.
Mindezzel együtt kétségtelenül rémisztő látni, hogy a képtelenebbnél képtelenebb álhírek szinte kontroll nélkül termelődnek és ömlenek szét az interneten. Ezért volt figyelemreméltó, amikor egy brit cég, a Full Fact nyáron bejelentette, hogy már novemberre előáll egy megoldással, amely valós időben, gyakorlatilag az elhangzásuk pillanatában lesz képes cáfolni a valótlanságokat – a fejlesztés egyik támogató ráadásul nem más, mint Soros György.
Valójában már évek óta folynak hasonló fejlesztések, ezek közül néhányat ízelítőnek fel is villantunk, de megnézzük azt is, mi lett a Full Fact időközben valóban bemutatott megoldásából – nem az, amire a fenti ígéret alapján elsőre gondolna.
A fact checking, vagyis tényellenőrzés közel sem újdonság. Egyrészt az ezt maguknak megengedni képes nagy nyugati újságoknál már régóta működnek belső tényellenőrző csapatok, másrészt sok független szervezet is foglalkozik a már valahol megjelent állítások vizsgálatával. A leghíresebb az amerikai Snopes, és talán a kifejezetten politikai témákat figyelő PolitiFact; de kisebb-nagyobb tényellenőrző szolgáltatások világszerte működnek.
A Duke Egyetem újságírói intézete, a Reporters' Lab térképen gyűjti a világ tényellenőrző csoportjait. A keresőjük Magyarországon egyetlen találatot ad, az is inaktív. Ez az idemagog.hu, amely egy visegrádi országokban indult közös projekt része volt, de a legutóbbi bejegyzése 2014-es. Természetesen itthon is folyik klasszikus tényellenőrzés – az Index is próbálkozott korábban többször, és egy-egy cikkben manapság is – de kifejezetten erre fókuszáló csapat nem nagyon van ma Magyarországon. (Leszámítva a FactCheck nevű oldalt, amelyet a kormányközeli Nézőpont Csoporthoz tartozó Médianéző hozott létre. Ennek a cégnek a vezetője állította például, hogy Soros György nyíltan felszólított a Momentum támogatására, amikor Soros a “lendület” jelentésű “momentum” szót használta egy angol beszédében.) A környező országokban Szlovénián kívül mindenhol találni ilyen kezdeményezést.
A történethez hozzátartozik, hogy ezek a szervezetek nem csak és nem feltétlenül álhírekkel foglalkoznak, kicsit összecsúsznak az olyan rokon kategóriák, mint a teljesen légből kapott álhírek, a patikamérlegen kimért politikusi csúsztatások és a szándékolatlan pontatlanságok. A közös nevező, hogy így vagy úgy, de mindegyik esetben valótlan(ságot is tartalmazó) állítás hangzik el. A tényellenőrzők feladata pedig az, hogy ezek mellé odarakják a valós adatokat és kontextust.
A Full Fact már 2009 óta működik, de először a brexit-népszavazás idején kaptak igazán nagy figyelmet. Alapvetően ők is hagyományos tényellenőrzést folytatnak, ami mégis érdekessé teszi őket, az a már említett bejelentés.
Ez sem a semmiből jött, a cég saját bevallása szerint már 2013 óta dolgozik a tényellenőrzés automatizálásán. A fejlesztés korábbi fázisát a Google újságíróprogramja is támogatta. A nagy figyelmet kapott új ígéret mögött viszont az eBay-alapító Pierre Omidyar szervezete, az Omidyar Network, illetve a Magyarországon is jól ismert, Soros György-féle Nyílt Társadalom Alapítványok pénze áll. Ahogy akkori cikkünkben írtuk, valós idejű tényellenőrzésen dolgoznak, hogy a jövőben a tényellenőrző rendszerek emberi beavatkozás nélkül kiszúrják a valótlanságokat, és ott helyben meg is cáfolják azokat.
A Full Fact nem érte volna el a magyar média ingerküszöbét, ha nem Soros György lett volna az egyik befektetője, mert egyébként amit a cég csinál, azt jóval korábban megcsinálták már mások
– mondta az Indexnek a bejelentés után Vadász Pál, a MONTANA Tudásmenedzsment Kft. ügyvezetője, a téma kutatója.
A Full Fact már novemberre ígérte a megoldásuk tesztverzióját, és a hónap közepén valóban be is mutatták a fejlesztést, de egyelőre messze nem olyan álhírellenes Szent Grálról van szó, mint amit a nagy érdeklődés alapján sokan vártak.
A Live nevű funkció lényege, hogy a rendszer automatikusan behúzza bizonyos médiumok cikkeit, parlamenti tévéközvetítések feliratait (illetve tesztjelleggel a hangos közvetítését is, amelyet valós időben írott szöveggé alakít), majd kézzel előre beállított kereséseket futtat le rajtuk, olyan állítások után kutatva, amelyeket a cég munkatársai korábban már ellenőriztek. Ha talál ilyet, rögtön mellé is emeli az adatbázisukból a vonatkozó adatokat és az állítás értékelését, mindezt pedig ugyanerről a felületről rögtön lehet is posztolni Twitterre.
A rendszernek van egy trendeket figyelő szekciója is, amellyel követni lehet, egy-egy állítás mikor milyen gyakorisággal bukkan fel, csökken-e egy-egy csúsztatás előfordulása, miután megcáfolták – vagyis hogy van-e hatása a munkájuknak.
Mevan Babakar, a cég termékmenedzsere a BBC-nek egy mobilappot is bemutatott, amely a szóban elhangzó állításokat ellenőrzi. Ha például egy újságíró sajtótájékoztatón ül, rögtön láthatja majd, hogy stimmel-e, amit az előtte álló politikus állít. Az app már működőképes, de egyszerre még csak egy mondatot tud kezelni.
Ez a tények Shazamja
– mondta Babakar, a zenéket hallás alapján felismerő népszerű appra utalva.
Ezek a fejlesztések még bevallottan nem a nagyközönségnek, hanem belső, illetve szakértői-újságírói használatra készülnek. A célja az emberi munka gyorsítása, illetve a már korábban elvégzett munka minél gyorsabb újrahasznosítása, hogy fel tudják venni a lépést az egyre gyorsabb ütemben termelődő kamuval. Ha úgy tetszik, a gép ebben az esetben nem veszi el az emberek munkáját, csak megkönnyíti azt.
Bár az álhírek elleni szélmalomharcról sok szó esik mostanában, arról kevesebb, hogy valójában milyen technológiai fegyvertár segíthet ebben a hagyományos tényellenőrzésen túl.
A legegyszerűbb megoldás a hazugság felderítésére az emberi erő
– mondja Vadász Pál, aki szerint alapvetően háromféle megközelítésből áll össze az eszköztár.
Az egyik a technológiai értelemben vett forráselemzés, vagyis az állításokat közlő oldal metaadatainak a vizsgálata. A Hídfő nevű propagandaoldalról az IP-címe, a domainadatai alapján például már akkor biztosan lehetett tudni, hogy orosz hátterű, mielőtt a .net végződést .ru-ra cserélte. “Ezek a legalacsonyabban lógó gyümölcsök, itt elég nyilvánvaló a helyzet” – mondja Vadász, felidézve a Kétfarkú Kutya Párt Putin Alert nevű böngészőkiterjesztését, amely figyelemfelkeltés céljából egy sor ilyen orosz propagandát toló magyar nyelvű oldalt látott el egy táncoló Putyin-figurával.
A másik alapvető módszer a hálózati elemzés, ami Vadász szerint nagyjából ugyanolyan, ahogy az emberi agy is próbál megbirkózni az új információkkal. A lényege, hogy amikor bejön egy új (ál)hír, összehasonlítják egy olyan korpusszal, olyan más szövegekkel, amelyek hiteles referenciapontnak tekinthetők. “Hogy mennyire hiteles, az persze másik kérdés, Arkhimédész se tudta kimozdítani a világot a sarkából, mert nem kapott hozzá szilárd pontot, de feltételezhető, hogy bizonyos források megbízhatóbbak.” Ehhez hasonlóan folynak olyan kutatások is, amelyek például a Facebook-lájkok karakterét nézik, mert a feltevésük szerint az álhírek terjedését segítő megosztások sajátos mintázatot mutatnak.
A harmadik irány a nyelvészeti módszerek alkalmazása. Elsősorban itt se a tartalmat vizsgálják, hanem olyan nyelvi jellegzetességeket, amelyek hazugságra utalnak. “A teljesség igénye nélkül ilyen az olvashatóság, vagy hogy aki hazudik, többet kertel, homályosabban, bizonytalanul fogalmaz, megváltozik a szórendje, más szófordulatokat használ, erősítő-hangsúlyozó szavakat alkalmaz nagyobb arányban, más a szógyakoriság, megváltozhat a központozás.” A számítógépes nyelvészet fontos területe a szentimentelemzés is, amely a szavak hangulati tartalmát vizsgálja, és anomáliákat, eltéréseket keres.
Mindezt már jó ideje alkalmazzák kézi vezérléssel, de ahogy az álhírek száma hatványozottan növekszik, a felderítésükhöz is egyre inkább szükség van gépi segítségre, ami a mesterséges intelligencia, azon belül is a beszédfeldolgozás, a szövegelemzés, a gépi tanulás fejlődésével egyre elérhetőbbnek is bizonyul.
“A dolog lényege, hogy a mintákat, a tanítóadatokat kezdetben emberi úton címkézik meg, megmondják, hogy ezek a szófordulatok, ezek a központozási minták, ezek a szentimentelemek valószínűsítik, hogy hazugságról van szó”, a rendszer pedig ezek alapján tanulja meg, mit kell kiszűrnie – magyarázza Vadász. “A számítógépes nyelvészetben a többrétegű neurális hálók alkalmazása viszonylag friss terület. A Microsoft és a Systran tavaly decemberben jelentette be a neurális hálókra alapuló fordítótechnológiáját, a Google ez év áprilisában. Ezekkel a technológiákkal ez a fajta összehasonlítás, amit még most is inkább emberek végeznek, hamarosan gépi úton is megvalósítható lesz.”
Az álhírellenes harcban – ahogy az álhírek terjedésében is – kulcsszerepet játszanak a nagy netes cégek, amelyek látszólag egyre nagyobb elánnal, bár kérdéses sikerrel küzdenek a jelenség ellen.
A kezdeti elzárkózás után a legtöbb kritikát kapó Facebook számos újítást jelentett be, például hogy a cikkek mellett jelzik, mennyire megbízható a forrásuk, vagy hogy a politikai hirdetéseknél feltüntetik azok megrendelőit. A legfontosabb lépésük mégis az, hogy egy sor neves tényellenőrző csapattal működnek együtt, hogy velük gyomláltassák ki a platformjukon burjánzó álhíreket.
A részsikerek ellenére viszont éppen ezek a tényfeltáró partnerek állítják azt, hogy nem igazán működik a módszer: nem kapnak adatot arról a cégtől, mennyi hatása van a munkájuknak, miközben úgy érzik, nem sok, mert az álhírek továbbra is futótűzként terjednek a platformon. Úgy érzik, a cég velük akarja elvégeztetni a piszkos munkát, illetve pr-díszként kitenni őket az ablakba. Ráadásul amit kigyomlálnak, hamarosan egy csokor másik url-címen újra felbukkan. (Bár a Facebook szerint a partnerei munkája segít általában megérteni, hogy milyen tartalmakat érdemes lejjebb sorolni a hírfolyamban.)
A Google-t is sok kritika érte, amiért nem tesz eleget azért, hogy elzárja a csapot az emberekre ömlő álhírfolyamon. Konkrétan azt kifogásolták sokan, hogy a keresője az érzékeny témákkal kapcsolatban prominens helyen dob fel kamu információt tartalmazó, vagy egyenesen sértő tartalmakat, sőt olykor már a keresés beírásakor ilyen kifejezéseket javasol.
Ez ellen a cég folyamatosan, bár óvatosan próbál lépéseket tenni. Tavaly például bekötötték a tényellenőrző oldalak cikkeit a Google News hírkeresőjébe. Április elején bejelentették, hogy – a Microsofthoz hasonlóan– jelezni fogják a találatok között, ha egy elismert tényellenőrző oldal már megcáfolt vagy megkérdőjelezett egy-egy vitatott állítást. Pár héttel később további változtatásokat mutattak be, amelyekkel egyrészt a felhasználók könnyebben tudják jelenteni a kamut, másrészt maga a cég is igyekszik előnyben részesíteni a hiteles találatokat – ezzel akár Oroszországgal is konfrontálódva. Egy másik fronton pedig a megélhetési álhírgyárosok zsebéből akarják kivenni a pénzt a hirdetéskiszolgáló rendszerük tisztogatásával.
Az óriások mellett viszont sok kis csapat is harcba szállt az utóbbi pár évben, és azon dolgoznak, hogy új technológiákkal vagy a régiek kombinálásával, de hatékonyabbá tegyék a tényellenőrzést, a Full Facthez hasonlóan minél inkább automatizálva a folyamatot.
Kudarcba fulladt projektből is bőven akad persze, ami nem is csoda, hiszen rengeteg kihívással kell megbirkózniuk. Az automatizáláshoz az kell, hogy a szövegeket a gép is olvasni tudja, vagyis felismerje, hogy mi micsoda, hol a cím, melyik a szerző neve, stb. Fejlődnie kell még a gépek szövegértésének is, hogy a szövegek tartalmával is biztosabban bánjanak. És akkor a komplexebb állításokkal, retorikai fogásokkal még mindig nem feltétlenül tudnak mit kezdeni. A tényellenőrzés alapja, vagyis a tények is problémásak lehetnek, mert országonként eltérő, hogy mennyire hozzáférhetők például az állami adatok, arról nem is beszélve, hogy milyen formában. Szükség van sztenderdekre is, hogy legyen átjárás a különböző tényellenőrzők eredményei között. Nehezíti a sikert az is, hogy a legtöbb megoldás angol nyelvű, holott a probléma globális.
Alexios Mantzarlis, a Poynter nonprofit újságíróiskola által létrehozott Nemzetközi Tényellenőrző Hálózat igazgatója a NiemanLabnek azt mondta, az alapján, ahol a technológia jelenleg tart, nem reális elvárás a tényellenőrzés mindent nyitó kulcsát keresni, sokkal hasznosabb szerinte, ha a fejlesztők arra koncentrálnak, hogy az ellenőrzési folyamat mely lépéseit lehet automatizálni, hogy ezzel gyorsuljon a munka. Néhány példa az ígéretes próbálkozások közül:
A Factmata honlapja szerint az eszközük “félautomata, mesterséges intelligencia által támogatott”, “a valós időhöz a lehető legközelebbi” eredménnyel – ami jelzi, hogy a tényleges valós idő azért inkább sci-fi még a legújabb technológiákkal is. A Full Fact is csak 2018 októberében tervezi kiadni a most bemutatott rendszere nyilvános verzióját, amelyet szintén fel akarnak tuningolni gépi tanulással, hogy még ellenőrizetlen állításokat is fel tudjon dolgozni. Mevan Babakar szerint ezek a fejlesztések azonban legkorábban öt év múlva valósulhatnak meg.
Ezzel együtt is a mesterséges intelligencia tűnik az álhírek elleni harc jövőjének. “A téma rendkívül aktuális, például amikor nemrég a Google Tudóson körülnéztem, az álhírek és a gépi tanulás kombinációjára 460 publikációt találtam, ebből 319, azaz 69 százalék a csonka 2017-es évben jelent meg” – mondta Vadász Pál.
Ennek két oka van. Az egyik, hogy bizonyos technológiák most értek be. A másik Donald Trump, az ő megjelenésével pezsdült fel a szakma.
Vadász szerint a mai (nem katonai) technológiák olyan 60-70 százalékos pontossággal tudják azonosítani a valótlanságot, “ami nem olyan magas arány ahhoz képest, hogy mondjuk az arcfelismerésnél már 98 százaléknál tartanak, de az 50 százalékos véletlennél mindenképpen lényegesen magasabb. A 70 százalék azért még nem az, amire mindenki lecsapna a piacon. Ez egy hosszabb távú dolog, de azt gondolom, hogy jönni fog.”
Na és mennyire valószínű, hogy egyáltalán javulhat még ez a felderítési arány? “Egy idő után sakkban is megverték a világbajnokot, góban is megverték, minden bizonnyal ez a technológia rohamléptekkel fog tökéletesedni, és a 70 százalék fölfelé fog kúszni a 100 irányába. Hogy milyen gyorsan, azt nehéz megmondani.”
De még ha sikerül is hamar feltornászni a pontosságot, és a technológián nem múlna a kérdés, akkor se világos, hogy milyen gyorsan tudnak majd elterjedni a gépi álhírszűrő megoldások. A Facebooknál és társainál már ma is látszik, hogy ódzkodnak attól, hogy igazán mélyen belenyúljanak a történetbe, mert nagyon könnyen összecsúszik a kétes igazságtartalmú állítások szűrése a cenzúrával, nehéz meghúzni a határokat, ha egyáltalán meg lehet.
“Ez az internetes világ számos antagonizmusának egyike. Egyik oldalon sajtószabadságról beszélünk, a másikon személyiségi jogokról meg etikáról. Ez inkább a jogászokra és jogfilozófusokra tartozik, de az biztos, hogy hosszú ideig egymásnak fog feszülni a két érvvilág. Olyan ez, mint a szabadság és a biztonság antagonizmusa. Mindenki tele szájjal kiabálja a magáét, és egyiknek sincs teljesen igaza. Olyan alapkérdésekhez vezet ez vissza, mint hogy mi az, ami igaz, és mi az, ami hazugság. Ha valaki azt mondja, hogy az ég zöld, és a fű kék, az elég egyértelmű, de nagyon sokszor véleményről vagy féligazságról van szó, vagy sok igazság közé keveredő egyetlen hazugságról” – mondta Vadász.
Nem hiszem, hogy ebben világos, egyértelmű, éles határt lehet majd húzni, ez azoknak az antagonizmusoknak az egyike, amelyek sokáig kísérni fogják a szakmát.
Fontos még a kérdés jogi oldala is, ahol nagy különbségek vannak az Egyesült Államok és Európa között. Előbbiben egy 1996-os törvény, a Communications Decency Act egyik kiegészítése, a 230. cikkely arról szól, hogy az internet- és tartalomszolgáltatók jogilag nem felelnek a tartalomért, amely az ő platformjukon megjelenik. Ez egyrészt jogvédők szerint a szabad internet fontos garanciája, másrészt viszont felmentést adó kiskapu a cégeknek.
E mögé bújik az egész internetes szakma, hogy ők erről nem tehetnek. Mint ha egy kuplerájban a madame azt mondaná, hogy a szobát rendelkezésre bocsátja, de ő nem felelős azért, ami a szobában történik
– mondja Vadász Pál.
Az ellenpélda Németország, ahol annyira féltek attól, hogy az álhírek és az orosz propaganda az ő idei választásaikba is belerondít, hogy bekeményítettek, és hoztak egy új törvényt, amely szerint a közösségi oldalak üzemeltetői akár 50 millió euró (15,5 milliárd forint) pénzbüntetést is kaphatnak, ha nem távolítják el a jogsértő tartalmakat, egyértelmű esetekben 24 óra, a kérdéses bejegyzéseknél egy hét alatt. A törvény október 1-jén lépett életbe, de büntetni csak 2018-tól fognak. A Facebook ennek hatására erősítette is a német részlegét, de ahogy a propagandát sokszorosítva terjesztő Twitter-botok kapcsán írtuk, Németországot végül nagyrészt elkerülte az álhírvihar.
“Magyarországon semmiféle törvény vagy jogszabály nem tiltja a hazugság terjesztését a közösségi platformokon” – mondja a hazai helyzetről Vadász Pál. “A sajtótörvény erőteljesen szabályozza a médiatartalom-szolgáltató felelősségét, de a közösségi oldalakra ez nem vonatkozik, ott bárki bármit mondhat, nem lehet felelősségre vonni. De ha lenne is ilyen jogszabály, ennek az érvényesítése rendkívül nehézkes lenne. Ez egy óriási luk.”
A technológiák további fejlődésével tehát egyre pontosabbak lesznek az álhírellenes megoldások. De ha még a cégek is hajlandóan lennének használni ezeket a megoldásokat, és a jogi környezet is efelé terelné őket, akkor is teljesen másik kérdés, hogy az emberek mennyire lennének hajlandók hinni annak, ha egy általuk olvasott cikkről egy harmadik fél azt állítaná, hogy hazugság – bár reménységre adhat okot az a magyar kutatás, amely arra jutott, hogy a közhiedelemmel ellentétben az észérvek igenis számítanak, sőt ez a leghatékonyabb lehetőség.
Mindenesetre az biztosan nem árt, ha legalább a lehetőségünk meglesz, hogy minél egyszerűbben utánajárjunk, mi az igazság abból a tengernyi állításból, amely nap mint nap a tévéből, rádióból, újságokról vagy éppen óriásplakátokról ránk ömlik.
Borítókép: szarvas / Index.