A kínai vezetéshez közeli szereplők mesterséges intelligencia által generált, úgynevezett deepfake hírolvasókkal terjesztik a Kína-barát propagandavideókat a közösségi médiaplatformokon – állapította meg egy kutatócég a minap közzétett jelentésében.
A Graphika az álcázott, spamouflage néven ismert, Kína-barát dezinformációs műveletek nyomon követésekor fedezte fel a szinte tökéletes humanoid hamisítványokat a közösségi médiában.
Peking egyelőre nem kommentálta a jelenséget, a kínai kormány azonban korábban arra figyelmeztetett, hogy a deepfake „veszélyt jelent a nemzetbiztonságra és a társadalmi stabilitásra” egyaránt.
Maga a deepfake mesterséges intelligencia segítségével módosított videós tartalom, amelyet úgy hoznak létre, hogy egy arcot – a hitelesség látszatát keltve – máséra, nemritkán egy híresség arcára cserélik úgy, hogy közben a mimikát is híven utánozzák.
Ebben az esetben nem celebeket szerepeltettek.
A HAMIS MŰSORVEZETŐKET – EGY WOLF NEWS ELNEVEZÉSŰ FIKTÍV HÍRCSATORNA SZÁMÁRA – A MESTERSÉGES INTELLIGENCIÁT ALKALMAZÓ SZOFTVERREL HOZTÁK LÉTRE.
Olyan felvételek jelentek meg a közösségi médiában, amelyek, legalábbis látszólag, a Kínai Kommunista Párt érdekeit népszerűsítették – áll az amerikai Graphika jelentésében.
„Ez az első alkalom, hogy egy államhoz kötődő műveletet ismerhetünk meg, amely mesterséges intelligencia által generált, fiktív személyről készült videófelvételeket használ megtévesztő politikai tartalmak tolmácsolására” – mondta Jack Stubbs, a Graphika alelnöke az AFP-nek.
A Graphika által elemzett egyik videóban egy Alexként bemutatkozó, fiktív férfi műsorvezető bírálja az Egyesült Államok tétlenségét az országot sújtó fegyvereserőszak-hullámban.
Egy másik videós hírben egy női műsorvezető a Kína és az Egyesült Államok közötti „nagyhatalmi együttműködés” fontosságát méltatja.
Deepfake 'news anchors'.
— AFP News Agency (@AFP) February 8, 2023
The "news broadcasters" appear stunningly real, but they are AI-generated deepfakes in first-of-their-kind propaganda videos that a research report attributes to Chinese state-aligned actorshttps://t.co/QN0AXF9Mpf
A két hírolvasó a megszólalásig élő emberre hasonlít.
A mesterséges intelligencia fejlődése világszerte riadalmat keltett a technológia dezinformációs és visszaélési potenciálja miatt.
A semmiből kreált álemberek ugyanis soha ki nem mondott információkat közölnek.
Tavaly a Facebook tulajdonosa, a Meta közölte, hogy eltávolított egy hamisított videót, amelyben Volodimir Zelenszkij ukrán elnök arra szólította fel honfitársait, hogy tegyék le a fegyvert, és adják meg magukat Oroszországnak.
Kína nem kommentálta azonnal a Graphika jelentését, amely alig néhány héttel az után készült, hogy Peking szigorú szabályokat fogadott el a deepfake szabályozására.
Kína a múlt hónapban életbe lépett új előírások alapján megköveteli a deepfake szolgáltatásokat nyújtó vállalkozásoktól a szereplők valós személyazonosságának igazolását.
A deepfake tartalmakat ráadásul a megfelelő módon kell címkézni, megjelölni az esetleges „félreértések” elkerülése érdekében.
A Graphika jelentése szerint a Wolf News két műsorvezetőjét szinte biztosan a londoni Synthesia AI startupcég által kifejlesztett technológiával hozták létre.
A Synthesia olyan szoftvert hirdet, amellyel „élő szereplőkről készült videófelvételek alapján” deepfake utánzatokat lehet létrehozni.
A Graphika a spamouflage néven ismert Kína-barát dezinformációs műveletek nyomon követésekor fedezte fel a deepfake-et a többi között a Twitteren, a Facebookon és a YouTube-on.
A spamouflage Kína-barát befolyásolási művelet, amely elsősorban a gyenge minőségű, politikai spamnek tekinthető videókat terjeszti
– mondta Stubbs, aki szerint a kifinomult technológia ellenére az üzenetek egy kaptafára készülnek.
„Ez bizonyítja a deepfake befolyásolás korlátait: csak egy eszköz az egyre fejlettebb eszköztárban” – hangoztatta a szakértő.
Az azonosított videók alacsony minőségűek és „spamszerűek” voltak. Egyiknek sem volt háromszáznál több megtekintése – írta az ausztrál ABC News.
(Borítókép: Kevin Frayer / Getty Images)