Számítástechnikai mérnökök és műszaki beállítottságú politológusok évek óta figyelmeztetnek arra, hogy az olcsó, nagy teljesítményű mesterségesintelligencia-eszközök hamarosan bárki számára lehetővé teszik, hogy olyan hamis képeket, videókat és hangfelvételeket hozzon létre, amelyek elég valósághűek ahhoz, hogy megtévesszék a választókat, és esetleg befolyásolják a választásokat.
A mesterséges intelligencia által létrehozott képek gyakran durvák voltak, nem voltak meggyőzőek és költséges volt az előállításuk, különösen akkor, amikor a félretájékoztatás egyéb eszközei olcsón előállíthatóak és könnyen terjeszthetőek a közösségi médiában. A mesterséges intelligencia és az úgynevezett deep fake hamisítványok jelentette fenyegetés mindig még egy-két évvel távolabbra lévőnek tűnt.
Ez azonban már nem így van.
A kifinomult generatív mesterségesintelligencia-eszközök ma már másodpercek alatt, minimális költséggel képesek emberi hangok klónozására és hiperrealisztikus képek, videók és hangok létrehozására. Ha ezeket a hamis és digitálisan létrehozott tartalmakat erősen megtámogatják a közösségi média algoritmusaival, akkor azok nagyon messzire és nagyon gyorsan terjedhetnek, és rendkívül specifikus részközönségeket célozhatnak meg. Ez soha nem látott piszkos kampánytrükköket fog jelenteni − írja az AP hírügynökség.
A probléma a 2024-es amerikai elnökválasztási kampányra és a választásokra gyakorolt hatásai éppoly nagyok, mint amennyire aggasztóak: a generatív mesterséges intelligencia nemcsak gyorsan képes célzott kampány-e-maileket, szövegeket vagy videókat készíteni, hanem a választók megtévesztésére, jelöltek megszemélyesítésére és a választások aláásására is felhasználható. Méghozzá eddig nem látott mértékben és sebességgel − írja az AP hírügynökség.
Erre még mindig nem vagyunk felkészülve. Soha nem látott előrelépést jelentenek a most megjelenő audio- és videós képességek. Ha ezt nagyléptékben meg lehet csinálni, és a közösségi platformokon terjeszteni, nos, annak rendkívüli hatása lesz
− figyelmeztetett A.J. Nash, a ZeroFox kiberbiztonsági cég hírszerzési alelnöke.
A mesterséges intelligencia szakértői gyorsan fel tudnak sorolni számos riasztó forgatókönyvet, amelyekben a generatív mesterséges intelligenciát médiatartalmak létrehozására használják a választók összezavarása, egy jelölt rágalmazása vagy akár erőszakra való felbujtás céljából.
Csak néhány ezekből: automatizált robothívás, amely a jelölt hangján direkt rossz időpontban kéri arra a szavazókat, hogy szavazzanak; hangfelvételek, amelyeken egy jelölt állítólag bevall egy bűncselekményt vagy rasszista nézeteket hangoztat; videófelvételek, amelyeken valaki olyan beszédet vagy interjút ad, amelyet soha nem adott. Hamis hírek, amelyeken bejelentik, hogy az adott jelölt kiszállt a versenyből.
Mi van, ha Elon Musk személyesen hív fel, és azt mondja, hogy szavazz egy bizonyos jelöltre? Sokan hallgatnának rá. Pedig nem ő volna az
− mondta Oren Etzioni, az Allen Institute for AI alapító vezérigazgatója, aki tavaly azért mondott le, hogy megalapítsa az AI2 nonprofit szervezetet.
Donald Trump volt elnök, aki 2024-ben is indul a jelöltségért, megosztotta követőivel a közösségi médiában az AI által generált tartalmakat. A CNN műsorvezetőjéről, Anderson Cooperről készült egy manipulált videó, amelyet Trump pénteken osztott meg a Truth Social nevű platformján.
A múlt hónapban a Republikánus Nemzeti Bizottság által közzétett disztópikus kampányreklám újabb bepillantást enged ebbe a digitálisan manipulált jövőbe. Az online hirdetés, amely azután jelent meg, hogy Joe Biden elnök bejelentette újraválasztási kampányát, és amelyet már a mesterséges intelligencia tervezett, a
Mi lenne, ha a valaha volt leggyengébb elnökünket választanák újra?
− szöveget helyezi Biden fotója elé.
Ezt számtalan mesterséges intelligenciával kreált kép követi, amelyeken katonák és páncélozott katonai járművek járőröznek a helyi utcákon, miközben tetovált bűnözők hordái és bevándorlók hullámai tűnnek fel.
Ez egy mesterséges intelligencia által generált betekintés az ország lehetséges jövőjébe, ha Joe Bident 2024-ben újraválasztják
− olvasható az RNC által készített hirdetés leírásában.
Az RNC elismerte a mesterséges intelligencia használatát, de mások, köztük a rosszindulatú politikai kampányguruk és a külföldi ellenfelek nem fogják − mondta Petko Stoyanov, a Forcepoint, egy Austinban működő kiberbiztonsági vállalat globális technológiai vezetője. Stoyanov azt jósolta, hogy az amerikai demokráciába beavatkozni kívánó csoportok a bizalom aláásására mesterséges intelligenciát és szintetikus médiát fognak alkalmazni.
Mi történik, ha egy nemzetközi szervezet − egy kiberbűnöző vagy egy nemzetállam − valaki másnak adja ki magát? Milyen hatást lehet elérni? Van bármilyen jogorvoslati lehetőségünk? Sokkal több félretájékoztatást fogunk látni nemzetközi forrásokból
− mondta Stoyanov.
Az AI által generált politikai dezinformáció már most is terjed az interneten. Látni a Bidenről készült hamisított videót, amelyen látszólag transznemű embereket támadó beszédet tart, vagy az AI által generált képeket, amelyeken állítólag sátánizmust tanuló gyerekek láthatóak a könyvtárakban.
A Donald Trump rendőrségi fotójának látszó AI-képek szintén megtévesztettek néhány közösségi médiafelhasználót, pedig a volt elnökről nem is készült ilyen kép, amikor letartóztatták és vád alá helyezték egy manhattani büntetőbíróságon üzleti feljegyzések meghamisítása miatt. Más, szintén mesterséges intelligencia által generált képek Trumpot úgy ábrázolták, amint ellenáll a letartóztatásnak, bár alkotójuk gyorsan elismerte eredetüket.
A képviselőházban Yvette Clarke New York-i képviselő olyan törvényjavaslatot terjesztett elő, amely előírná a jelölteknek, hogy a mesterséges intelligenciával készített kampányhirdetésen vízjelet kéne elhelyezni. Néhány állam saját javaslatokat tett a deep fake kampányokkal kapcsolatos aggályok kezelésére.
Clarke elmondta, hogy a legnagyobb félelme az, hogy a generatív mesterséges intelligenciát a 2024-es választások előtt olyan videó- vagy hanganyag létrehozására használnák, amely erőszakra buzdít és egymás ellen fordítja az amerikaiakat.
A mesterséges intelligencia más formái már évek óta elterjedtek a politikai kampányokban. Gyakran használnak adatokat és algoritmusokat olyan feladatok automatizálására, mint a szavazók megcélzása a közösségi médiában vagy az adományozók felkutatása.
Mike Nellis, az Authentic nevű, demokrata párti digitális ügynökség vezérigazgatója elmondta, hogy „minden egyes nap” használja a ChatGPT-t, és arra bátorítja munkatársait, hogy ők is használják, feltéve, hogy az eszközzel megfogalmazott tartalmakat utólag emberi szemmel is átnézik.
Nellis legújabb projektje egy Quiller nevű mesterségesintelligencia-eszköz. Ez megírja és elküldi az adománygyűjtő e-maileket, majd értékeli azok hatékonyságát − ezek a kampányokban általában unalmas rutinfeladatnak számítanak.
Az elképzelés az, hogy minden demokrata stratégának, minden demokrata jelöltnek lesz egy másodpilóta a zsebében
− mondta.
(Borítókép: Szavazók Los Angelesben 2013. május 21-én. Fotó: Kevork Djansezian / Getty Images)