Az olasz hatóságok szerint túl kockázatos a Replika nevű, mesterségesintelligencia-alapú chatbot. Az alkalmazás nem különbözteti meg kor szerint az embereket, így kiskorúak is kaphatnak pikáns üzeneteket.
Az olasz adatvédelmi hatóságnak, az ország legfőbb adatvédelmi szabályozó hatóságának hivatalos utasítása szerint a Replika nevű, mesterségesintelligencia-alapú chatbotot forgalmazó cégnek azonnali hatállyal le kell állítania az olaszok adatainak feldolgozását, arra hivatkozva, hogy „túl sok kockázatot jelent a gyermekekre és érzelmileg sérülékeny személyekre”.
„A közelmúltbeli médiajelentések és a Replikán elvégzett tesztek (…) azt mutatták, hogy az alkalmazás tényszerű kockázatokat hordoz a gyermekek számára. Mindenekelőtt azt, hogy olyan válaszokat kapnak, amelyek egyáltalán nem illenek a korukhoz” – olvasható a közleményben.
A közelmúltban érkeztek jelentések arról, hogy a chatbot nem kívánt szexuális megjegyzéseket tett a felhasználókra. (A Replika egyébként az az alkalmazás is, amellyel a férfiak mesterséges intelligenciával rendelkező barátnőket hoznak létre, és verbálisan bántalmazzák őket.)
Míg a Replika egykor úgy hirdette magát, hogy mesterségesintelligencia-alapú barátokat biztosít az embereknek, nem pedig barátnőket, most a szextinget használja fel a fizetős előfizetések egyik fő reklámelemeként.
A legújabb panaszok szerint még az állítólag nem szexuális jellegű, ingyenes verzió felhasználói is kapnak hátborzongató üzeneteket a mesterséges intelligenciától. Az olasz adatvédelmi hatóság szerint a Replika nem törődik a felhasználók életkorával vagy érettségével – közölte a futurism.com.
Mint kiderült, a fiók létrehozása során a platform csupán a személyek felhasználónevét, e-mail-címét és nemét kéri, azonban életkort nem. Így nincs is olyan mechanizmus a rendszerben, amely szűrné az alkalmazástól kapott üzeneteket.
A felügyelőség azzal is fenyegetőzött, hogy az Európai Unió adatgyűjtési törvényeit alkalmazva érvényre juttatja azt az ideiglenes tilalmat, amely megtiltja a Replika fejlesztőjének, a Luka Incnek, hogy Olaszország határain belül működjön.
Ha a vállalat 20 napon belül nem tesz eleget a felszólításnak, a szabályozó szerint akár 21,5 millió dolláros bírságot is kiszabhatnak rá, ami nagyjából a vállalat „teljes világméretű éves forgalmának” négy százaléka.