Index Vakbarát Hírportál

Létrehozták a világ első pszichopata mesterséges intelligenciáját

2018. június 7., csütörtök 16:47

Nincs szükség gonosz nagyvállalatokra és világuralomra törő tudósokra, hogy megvalósítsák az Elon Musk rémálmait kísértő elborult mesterséges intelligenciát (MI). Elég hozzá, ha ráeresztik a Reddit legsötétebb bugyraira – írja az Engadget.

Az MIT kutatói fogtak egy MI-t, elnevezték Normannak (nyilván a Psycho főhőse után), és a Redditen posztolt erőszakos és beteg képeket mutogattak neki, majd elvégeztettek vele egy Rorschach-tesztet. Nem volt olyan jó ötlet.

Az egyik tesztpacában egy kontrollcsoportként funkcionáló MI vázát látott virágokkal. Norman egy agyonlőtt férfit. Egy másikban a jó MI egy esernyőt tartó embert ismert fel. Norman egy férfit, akit épp agyonlőnek a sikító felesége előtt. Egy harmadikban a jó MI szerint egy szerelmespár álldogált. Norman szerint egy terhes nő zuhant le egy épületről.

A kutatás célja egyébként nem a pánikkeltés volt. Azt hivatott alátámasztani, hogy a betanítás módja és az ahhoz használt adatok nagyon is meghatározzák a végeredményt. Vagyis amikor egy algoritmus elfogultságot mutat, nem az algoritmus rossz, hanem csak a tréningezéséhez használt adatok elfogultságát örökíti át, az tehát illúzió, hogy az emberi elfogultságot ki lehet szűrni pusztán azzal, ha gépekre bízzuk a döntéseket. Ez önmagában nem újdonság, viszont kritikus fontosságú az MI-fejlesztés jövője szempontjából.

Magáról Normanról a neki létrehozott weboldalon lehet többet megtudni.

Rovatok