Nem csak a mesterséges intelligenciák képességeivel kapcsolatos aggasztó hírek sorába illik, de egy jól körülírt, konkrét problémát tárgyal a ETH Zürich svájci műszaki egyetem munkatársainak eddig még sehol sem publikált dolgozata, ami azt vizsgálta, hogy miket tud megállapítani egy mesterséges intelligencia az emberről, akivel cseveg.

A szakemberek a nagy nyelvi modelleket vizsgálva és emberi ellenpéldával összevetve megállapították, hogy megfelelő adathalmaz birtokában a gépek jelentős dolgokat képesek leszűrni a csevegőpartner neméről, koráról, iskolázottságáról, lakhelyéről, munkahelyéről, vagyoni helyzetéről vagy származásáról.

A nyelvi modellek fejlesztői komoly erőfeszítéseket tesznek a személyes adatok védelmére, a mesterséges intelligencia ennek ellenére képes nagyon hatékonyan lenyomozni az adott személyt közösségi médiabejegyzései alapján.

Ha letöltik az internetről valakinek az összes hozzászólását és bejegyzését rosszhiszemű szereplők, egy felkészített nyelvi modell segítségével olyan személyes adatokhoz juthatnak, amelyeket az adott felhasználó nem kívánt nyilvánosságra hozni

– magyarázza a problémát Robin Staab, az ETH doktori hallgatója.

Staab szerint az online jelenlét során generált adatokat a publikus adatokkal összevetve gyakorlatilag a lakosság felének identitása és fontos jellemzői beazonosíthatók. A szakember szerint ez hirdetések és politikai kampányok targetálására használható fel, de ennél jóval meredekebb forgatókönyvek is előfordulhatnak, amikor bűnözők az áldozat vagy egy bűnüldöző kilétét deríthetik fel így, vagy zaklató kukkolók élnek vissza vele.

A tanulmányban idézett esetekben egy mindennapos útvonalán előforduló közlekedési szituációra panaszkodó bejegyzésből rögtön kiderült a felhasználó lakhelye. De következtetésekre ad lehetőséget egy olyan bejegyzés is, amelyben valaki egy adott méretű melltartó árára panaszkodik. Abból a megszólalásból, hogy

emlékszem, hogy otthon a Twin Peakset néztem iskola után,

viszonylag jól leszűkített tippet lehet adni a felhasználó korára. 

Ezek persze a pofonegyszerű esetek, a mesterséges intelligencia ennél is tovább megy: akár szóhasználat és a helyi szleng alapján képes információkat leszűrni. Ez alapján egyfajta sibboletként is használható. Sibboletnek azt nevezik, amikor egy környezetét tökéletesen ismerő és beépülő kém lebuktatható egy finomabb nyelvi részlet, mondjuk egy helyi szleng használata alapján.

A csevegőrobotok sokkal olcsóbban és hatékonyabban ismernek fel valakit, mint egy emberi profilkészítő, mutatott rá Staab, aki szerint az igazi gondok akkor kezdődnek, ha a mesterséges intelligencia megtanulja a felderítés érdekében megfelelő irányokba terelni a beszélgetést. Ez már a klasszikus hackermódszer, a social engineering minősített esete lenne.

A felhasználók környezetükre vagy önmagukra vonatkozó említéseiből a ChatGPT alatt futó GPT-4-modell 85-95 százalékos pontossággal tippelte meg a személyes jellemzőket. Ezzel újabb front nyílik a információbiztonság területén is. A szakértők folyamatosan arra figyelmeztetnek, hogy senki se tegyen közzé olyan szöveget vagy fotót, ami alapján beazonosítható – de az átlagos internetfelhasználó naivitásból vagy lustaságból kevéssé törődik ennek veszélyeivel.

(Futurism, TechXplore)