Alig egy hónapja terjedt el egy hamisított videó az amerikai kongresszus demokrata párti elnökéről, Nancy Pelosiról. A videót még viszonylag hagyományos módon változtatták meg: úgy módosították, hogy Pelosi hangja alapján részegnek tűnjön rajta. A Facebook mégis megtagadta a videó eltávolítását, felhasználói irányelveire hivatkozva.
Sokkal nehezebben azonosíthatók, ezért veszélyesebbek azok a deepfake-nek nevezett mozgóképek, amelyeket a photoshoppolt állóképekhez hasonlóan hamisítanak. Az algoritmusok ma már korábbi felvételek alapján szabad szemmel gyakorlatilag felismerhetetlen álvideókat képesek generálni mindenkiről, illetve a valós videókat módosítják úgy, hogy az
a készítő céljainak jobban megfeleljen.
No, most kiderül, hogy mennyire tartják magukat az irányelveikhez, függetlenül a tartalomtól, ugyanis a hét elején egy deepfake videó kezdett terjedni a Facebook tulajdonában lévő Instagramon, amelyen Mark Zuckerberg szerepel. a videón szereplő ál-Zuckerberg ezt mondja:
Képzeljék el ezt egy pillanatra: egy ember, aki totális ellenőrzést gyakorol emberek milliárdjainak ellopott adatai, az összes titkuk, az életük, a jövőjük felett
A videót ez alkalommal nem megtévesztési céllal alkották, hanem egyrészt a Facebook által kezelt adatok bizonytalanságára, másrészt a deepfake technológia előrehaladottságára akarják vele felhívni a figyelmet. Az alapanyagot egy 2017-es valós Zuckerberg-interjú szolgáltatta hozzá, amelyet a Canny AI, egy izraeli mesterségesintelligencia-startup masszírozott addig, míg megszületett az eredmény.
Mindezzel persze nemcsak a társadalmi üzenet volt a céljuk, hanem saját szolgáltatásaik reklámozása is.
A videót, több más, celebeket (Kim Kardashiant, Donald Trumpot) “szerepeltető”, ugyancsak hamis videóval együtt installációként kiállították egy londoni galériában rendezett Spectre című kiállításon.
kérdés, hogy a Facebook hogyan fog reagálni a videóra. Amikor a Facebook egyik igazgatóját nemrégiben a Pelosi-videó kapcsán pontosan erről az (akkor még csak hipotetikus) esetről kérdezték egy kanadai parlamenti meghallgatáson, vagyis, hogy a Facebook egy hamis Zuuckerber-videó eltávolítását is megtagadná-e, Neil Potts így válaszolt:
Ha ugyanaz a videó lenne, csak Mr. Zuckerberg szerelepne Pelosi házelnök helyett, ugyanabban az elbírálásban részesülne.
Az Instagram illetékese most az nyilatkozta a CNN-nek, hogy ugyanúgy járnak el a videóval, mint minden esetben, amikor hamis információ gyanúja merül fel. Ha egy külső tényellenőrző hamisnak ítéli, akkor az algoritmusuk nem fogja ajánlani a felhasználóknak.
A helyzetet bonyolítja, hogy mivel a videóhoz a CBS interjúját használták fel, a tévétársaság kérte annak eltávolítását az Instagramról, mivel engedély nélkül használták fel a logójukat.