Az OpenAI nyelvi modelljén alapuló intelligens csevegőrobot majdnem két és fél évvel ezelőtt robbant be a köztudatba, felforgatva a mesterséges intelligencia fejlesztésének addig megfontoltan haladó tempóját.

A terület egyik széles körben ismert problémája a gépi elmék fékezhetetlen hajlama az általuk kitalált információk tényként való tálalására, szakszóval hallucinációra. Ez többnyire ártalmatlan, esetenként szórakoztató butaságokban nyilvánul meg, más esetekben ugyanakkor kifejezetten húsba vágóan hat.

Az osztrák Noyb civil jogvédő szervezet (a név a Semmi közöd hozzá, vagyis az angol None Of Your Business rövidítése) egy norvég férfi bejelentése alapján panaszolta be az OpenAI-t az európai uniós hatóságoknál.

A férfi arra volt kíváncsi, hogy mit tud róla a ChatGPT és váratlanul nyomasztó választ kapott kérdésére. E szerint 21 éves börtönbüntetést kapott két gyermeke elleni gyilkosság és a harmadik elleni gyilkossági kísérlet miatt. A ChatGPT a történetet további valótlanságokkal, a férfi lakóhelyének nevével, a gyerekek nemével és neveikkel spékelte meg.

A Noyb 2024 áprilisában tett először panaszt, mert a mesterséges intelligencia folytatólagosan valótlanságokat állított egy meg nem nevezett közszereplő születési dátumáról, ahelyett, hogy beismerte volna, hogy nem tudja a választ. Az OpenAI azzal védekezett, hogy a betanításkor a rendszerbe kerülő információn már nem tudnak változtatni, és egyébként is kiírták, hogy a ChatGPT tévedhet.

A Noyb szerint ez személyes adatok kezelésére vonatkozó európai törvénybe, a GDPR-be ütközik, amely szerint nem lehet hamis személyes adatokat közzétenni, anélkül hogy lehetőséget adnának az adatok korrigálására.

Egy kis nyilatkozat, hogy a ChatGPT tévedhet, nyilvánvalóan nem elég. Nem terjeszthetsz hamis információt valakiről úgy, hogy a végén röviden hozzáteszed, hogy lehet, hogy nem igaz

– emelte ki Joakim Söderberg, a Noyb jogásza.

Nem ritka dolog, hogy a ChatGPT embereket bűncselekménybe keverő hallucinációkkal áll elő. Volt olyan, akit sikkasztással és csalással, egy bírósági tudósítót gyerekzaklatással, egy jogászprofesszort szexuális zaklatással vádolt.

(Engadget)