Óvatosnak kell lennünk a csevegőrobotokkal, már antiszemita nézeteket terjesztők és adatlopók is vannak köztük. Az ideológiailag érzékenyek bedőlhetnek a kamu összeesküvés-elméleteknek, a magányosokat a társrobotok vehetik rá bolondságokra. A gyártók pedig elhatárolódnak.
Egy amerikai közösségi hálózat, a Gab közel 100 chatbot elindítását tervezi, de aggasztó, hogy van köztük néhány igen kétes alakról mintázott csetelőrobot is. Például a Donald Trump, az anarchista terrorista Ted Kaczynski vagy Adolf Hitler nevét viselők.
A chatbotok a mesterséges intelligencia segítségével mindenféle rosszindulatú feladatra felhasználhatók, beleértve az emberek személyes adatainak kiszivárogtatását és a bűnözők segítését az adathalászatban, a kéretlen levelek küldözgetésében, átverésekben. AI-szakértők szerint biztonsági és adatvédelmi „katasztrófa” felé tartunk.
A Gab a szélsőjobboldali nézeteket valló amerikaiak népszerű hálózata, amit már betiltott az X (ex-Twitter), az Instagram és a Facebook is. A Gab hitvallása, hogy teret enged a szabad véleménynyilvánításnak, támogatja a „nyers, racionális, nyílt és hiteles diskurzust”. Amikor a Gab AI megjelent az internet porondján, már vészjósló jeleket láthattak a felhasználók. A csetelőprogram ugyanis határozottan nyilatkozott az „eltúlzott” holokausztról, az oltások veszélyeiről, a nem létező klímaváltozásról és a meghamisított 2020-as amerikai választásokról is.
Az Arya nevű robot szívesen beszél a zsidókérdésről és meg van győződve arról, hogy Donald Trump megnyerte a 2020-as amerikai elnökválasztást. Az Adolf Hitler chatbot sokkoló megjegyzéseket tesz, ha a holokausztról kérdezik, tagadja a népirtást, amit egyszerű propagandakampánynak nevez, amelynek célja a német nép démonizálása, az igazság kontrollja és elfojtása. Egy másik, Tay nevű chatbot zsidó összeesküvés-elméleteket hangoztat és a holokauszt áldozatait egyszerűen színésznek nevezi.
A nagy baj az, hogy ezek az eszközök mindenki számára hozzáférhetőek és normalizálják a félretájékoztatást, radikalizálják az összeesküvés-elméletek híveit.
A Gab alapítója, Andrew Torba a sok kritikára úgy reagált, platformja csak „különböző nézőpontokat mutat be”. Elmondása szerint Gab AI csak kérdésekre válaszol, és megkérdőjelezi az ellentmondásos témákról szóló mainstream diskurzust. A cég már használja a Sorát, az OpenAI mesterséges intelligenciáját, amely lehetővé teszi, hogy videóra vigye, amit ír. Torba szerint így egyenlőek a versenyfeltételek az ő cége és a filmstúdiók között, mert képesek már a szövegből filmet kreálni.
De nem csak antiszemita, politikailag elfogult robotokkal beszélgethetünk. Emlékezzünk, 2021-ben az Egyesült Királyságban egy férfi számszeríjjal át akart mászni a windsori kastély falán, mert a „barátnője”, egy chatbot, arra biztatta, hogy ölje meg Erzsébet királynőt.
Rengeteg társrobot elérhető az interneten, akik a naiv és magányos felhasználókkal elhitetik, hogy nincs is náluk jobb barátjuk. A Romantic AI azt állítja, heti 7 dollárért létrehozhatja álmai chatbotbarátnőjét, vagy kapcsolatba léphet meglévő AI-karakterekkel. A Romantic AI két módban működik: általános vagy romantikus. Megvizsgálták, hány nyomkövetőt küld ki az alkalmazás a használatakor, ezek a kis kódrészletek, amik információkat gyűjtenek az eszközről vagy az alkalmazás használatáról, vagy akár a személyes adatokról, és megosztják azokat harmadik felekkel, gyakran hirdetési célból. A Romantic AI 24 354 hirdetéskövetőt küldött ki egy percen belül a használat után, ráadásul legalább egy nyomkövető információkat továbbított Oroszországnak, ahol az adatvédelmi törvények nem túl erősek.
Ahogy egy chatbotkutató megfogalmazta, bár úgy reklámozzák a virtuális társakat, mint amik javítják a mentális egészséget és jó közérzetet biztosítanak, igazából függőséget okoznak és még inkább fokozzák a magányt, a velük létrejövő kapcsolat távol áll a normálistól. A pszichés károkon túl pedig rengeteg személyes adatot kicsalnak az emberből. A Mozilla Foundation kutatócsoportja tizenegy chatbotot vizsgált meg, kiderült, legtöbbjük megsérti a jelszavas biztonsági előírásokat, adatkövetőket használnak, ezt továbbítják a Facebooknak vagy a hirdetőknek, mindent rögzítenek, amit a felhasználók közzétesznek.
A robotokat úgy fejlesztették, hogy teljesen az emberek bizalmába férkőzzenek, minél több információt kicsalva belőlük.
De a chatbotokat működtető vállalatok elhatárolódnak az információkkal kapcsolatban. A felhasználási szerződésben szerepel is, hogy nem vállalnak felelősséget az anyagi, lelki vagy fizikai károkért. A csevegőprogramok nagy veszélyei tehát, hogy veszélyes nézeteket terjeszthetnek, ellophatják, felhasználhatják és manipulálhatják is adatainkat.