A fogalmazástámogató eszközbe előre betáplált véleményt a sajátjuknak vélték a kísérleti alanyok. A közösségi média politikai felforgatása után itt a tudat alatt befolyásoló okosgépek kora.
A mesterséges intelligencián alapuló szöveggenerátorok és elektronikus levelek megírását segítő okosszolgáltatások, amelyek befejezik az elkezdett mondatot, nemcsak segítenek írni, de észrevétlenül átírják a szerző gondolatait is – állapították meg a Cornell Egyetem informatikai karának munkatársai.
Maurice Jakesch doktorandusz ezerötszáz önkéntest vont be a vizsgálatba, amiben az volt a feladat, hogy a résztvevők írjanak egy bekezdést arról a kérdésről, hogy „jó-e a közösségi média a társadalomnak”.
Mivel Jakesch az emberek gondolkodása és az intelligens gép közötti viszonyra volt kíváncsi, elfogult írástámogató programot alkotott, amit egy közösségimédia-platformnak tűnő felületen keresztül lehetett használni. Rögzítette a gép segítségével író emberek viselkedését, hogy milyen felajánlott megfogalmazásokat tartanak meg vagy vetnek el, hogy mennyi időt töltenek a fogalmazással.
A gép segítségével fogalmazók több mondatból álló paragrafusokat írtak, de legfőképp a saját kútfőből fogalmazók véleményével szemben kétszer annyian hajlottak a gép által sugallt álláspont felé.
Igyekszünk az AI-modelleket az élet minden területére alkalmazni, de jobban meg kellene értenünk, hogy ez mivel járhat. A nagyobb hatékonyság és kreativitás mellett a nyelvet és a közvéleményt érintő következményei lehetnek az egyénre és a társadalomra nézve is
– mutatott rá a kutatás egyik szerzője, Mor Naaman.
A kutatókban felötlött, hogy az emberek esetleg gyorsan túl akarnak lenni a feladaton, és ezért nagyobb eséllyel fogadják el a felajánlott lehetőségeket. A feladattal töltött időt elemezve azt találták, hogy azok is a gép véleményét tükrözték, akik a legtöbb időt töltötték az írással.
A kérdésekből kiderült továbbá, hogy a résztvevők – magától értetődően – nem voltak tudatában, hogy a gép befolyásolta a véleményüket. Amikor az írási feladat témáját megváltoztatva megismételték a kísérletet, ugyanolyan befolyásoló hatást mértek.
Írás közben nincs olyan érzésed, mintha épp próbálnának meggyőzni. Természetes és organikus dolognak érződik – a saját gondolataimat fejezem ki egy kis támogatással
– mondta Naaman.
Eddig csak olyan mérések készültek, hogy mennyire meggyőzőek a ChatGPT által generált reklámok vagy agitációs anyagok – ezek lényegében azt követik le, mennyire képesek az emberi produktumok minőségét utolérni, és mint ismert, ma már nagyon. Az áprilisban, egy konferencián bemutatott kutatás az ennél is közvetlenebb befolyásolást vizsgálta. Eddig a nudge néven ismert viselkedésterelés jutott ehhez legközelebb, ami az interneten sötét mintáknak nevezett toxikus dizájn taktikává fejlődött kikerülhetetlen gombokkal és kikapcsolhatatlan reklámokkal.
Naaman viszont látens vagy tudat alatti meggyőzésnek nevezi Azt,
amire a gép segítség és támogatás címén képes. Minden arra utal, hogy a mesterséges intelligencia nagyon rövid idő alatt hatalmasat lépett elő az emberi gondolatok olvasása és írása terén.
A közösségi média elterjedése teljesen átrajzolta a politikai életet dezinformációk terjesztésével és véleménybuborékok létrehozásával. A mesterséges intelligencia térhódítása hasonló változásokat idézhet elő. David Rozado új-zélandi adattudós például a ChatGPT válaszait elemezve megállapította, hogy a válaszok „liberális, progresszív és demokrata” elfogultság jeleit mutatják, ezért elkezdte létrehozni RightWingGPT néven saját konzervatív-jobboldali mesterséges intelligenciáját.
A kutatók most azt kutatják, hogy hogyan változik meg a felhasználó véleménye, és hogy meddig tart ez a hatás. Véleményük szerint a mesterséges intelligencia befolyásoló hatásával szemben a legalapvetőbb védekezés, hogy minél többen tisztában legyenek vele, hogy a technika mire képes. Az elfogultságot, előítéleteket és az átlátható működést viszont hivatalos szabályozás és törvények alapján lehet számonkérni.
(Google)