A közösségi médiaóriás másfél éve indította a kihívást, melynek győztes pályázata az esetek 82 százalékában kiszúrta a manipulált videókat.
2019 szeptemberében hirdette meg a Facebook a „Deepfake-felismerési kihívás” (Deepfake Detection Challenge) elnevezésű pályázatát – egy olyan nyilvános versenyt, amelynek célja autonóm algoritmikus észlelőrendszerek kifejlesztése és a deepfake videók jelentette fenyegetés leküzdése. Közel egy év elteltével a közösségi médiaplatform kihirdette a kihívás nyerteseit, amelyen több mint 2000 versenyző vett részt a világ minden tájáról.
Az arcképeket manipuláló deepfake-videók komoly kihívást jelentenek a közösségi médiaplatformok számára. Az előállításuk egyaránt rendkívül egyszerű és olcsó is: egy átlagos PC-vel és benne lévő videókártyával, illetve az internetről letölthető szoftverrel a legmegtévesztőbb manipulált videókat is elő lehet állítani. Ezáltal bárki
gyorsan és egyszerűen
készíthet hamisított videóklipeket, amelyek alanyai látszólag olyan dolgokat mondanak vagy tesznek, amelyeket valójában nem tettek. Leginkább sztárokat vagy közszereplőket szokták ilyesmivel „betámadni”, de persze akár magánembereket is lehet zsarolni vagy lejáratni ilyen hamisított videókkal. A Facebook kihívása arra irányult, hogy a potenciálisan jogsértő videók automatikus felismerésével és további ellenőrzésre történő megjelölésével lépjen fel a félretájékoztatás ellen.
Személy szerint engem eléggé frusztrált, hogy mennyi időt és energiát fordítanak intelligens kutatók az egyre tökéletesebb deepfake elkészítésére – anélkül, hogy ezzel arányosan a felismerési módszereket is fürkészték volna, hogy a káros felhasználás elleni küzdelemben részt vegyenek
– állította Mike Schroepfer, a Facebook technológiai igazgatója csütörtökön újságíróknak.
Megpróbáltuk kitalálni, hogyan lehetne katalizálni, nemcsak a saját beruházásainkat, hanem egy szélesebb körű iparági fókuszt az eszközökre és technológiákra, hogy segítsünk felismerni ezt a technológiát, azért, hogy amikor rosszindulatú módon használják őket, akkor meglegyenek a megfelelő eszközeink a leküzdésükre
– tette hozzá Schroepfer.
A Facebook mintegy tízmillió dollárt (jelenlegi árfolyamon nagyjából 300 millió forintot) költött a versenyre, és több mint 3500 színészt bérelt fel, hogy több ezer videót – összesen 38,5 napnyi adatot – generáljanak. Ez az amatőr, telefonos felvételekből álló fajta volt, amit általában a közösségi médiában látni, nem pedig a tökéletesen megvilágított, stúdióban készült, influenszerek által készített videók szerepeltek a kihívásban.
A mi személyes érdeklődésünk az olyan videókra irányul, amelyeket olyan platformokon osztanak meg, mint a Facebook. Tehát ezek a videók általában nem professzionális megvilágítással, stúdióban készülnek, vagyis amatőr anyagokről van szó
– magyarázta Schroepfer.
A vállalat ezután ezeket az videókat átadta a verseny résztvevőinek. Az első csoport nyilvánosan elérhető videós anyagokat tartalmazott, a második pedig egy több mint 10 000 videóból álló „fekete doboz” nevű készletet, amelybe további technikai trükköket építettek be, például módosított képsebességet és videóminőséget, képátfedéseket, a videó képkockáiba beleszórt független képeket. A biztonság kedvéért még néhány olyan videót is belecsempésztek, amelyek valódiak voltak, deepfake nélkül.
A nyilvános videóknál a versenyzők átlagosan alig több mint 82 százalékos pontosságot értek el, a fekete dobozos videóknál pedig a győztes versenyző, Selim Seferbekov modellje átlagosan 65 százalék feletti pontosságot ért el, ami szép eredménynek számít, lévén a versenyzőnek rengeteg digitális trükkel és csapdával kellett megküzdenie.
A verseny nagyobb sikert aratott, mint amit valaha is remélhettem. 2000 résztvevőnk volt, akik 35 000 modellt küldtek be. Az első pályázatok gyakorlatilag 50 százalékos pontosságúak voltak, ami használhatatlan eredménynek számít. Az első igazán használhatók körülbelül 59 százalékos pontosságnál kezdődtek, a győztes modellek pedig a 82 százalékos pontosságot érték el
– állítja Schroepfer, hozzátéve, hogy még lenyűgözőbbnek tartja, hogy ezeket az eredményeket nem évek, hanem hónapok alatt érték el.
Azért arra nem számíthatunk, hogy a Facebook egyhamar bevezetné ezeket a különböző modelleket az oldalának háttértárán. Bár a vállalat
nyílt forráskódú licenc
alatt kívánja kiadni ezeket a modelleket, így minden vállalkozó kedvű szoftverfejlesztő szabadon hozzáférhet a kódhoz, ugyanakkor a Facebook már most is alkalmaz egy saját deepfake-felismerő algoritmust. Schroepfer kifejtette, hogy a verseny célja egyfajta szabvány felismerési képesség kialakítása az iparágon belül.
Szerintem ez egy fontos mérföldkő volt arra nézve, hogy a nulláról az egyre eljussunk, hogy ténylegesen létrehozzunk néhány felismerési alapszintet
– hangsúlyozta Schroepfer, hozzátéve:
Az elmúlt néhány évben elég nehezen tanultam meg azt a leckét, hogy előre kell felkészülni, hogy ne érjenek váratlanul az ilyen ügyek. Az igazi célom az egésszel tehát az volt, hogy jobban felkészüljek arra az esetre, ha a deepfake-videók súlyos problémává válnának. Jelenleg nem jelentenek komoly problémát, de ha nem rendelkezünk olyan eszközökkel, amelyekkel automatikusan felismerhetjük az ilyen tartalmakat, hogy adott esetben megtegyük a megfelelő ellenlépéseket, az komolyan problémákat okozhat.
Más nagyobb cégek is foglalkoznak a deepfake elleni harccal: a Microsoft rövidesen saját mesterséges intelligenciával működő programokat fog a piacra bocsátani.
(Borítókép: Reuters TV / Reuters)