A Google és a Stanford kutatói az online térképek előállítását akarták hatékonyabbá tenni egy gépi tanulásos mesterséges intelligencia (MI) bevetésével, de az a neki szánt feladat elvégzése helyett trükkösen átverte a fejlesztőit – írja a Techcrunch egy korábban közzétett, de eddig kevés nyilvánosságot kapott tanulmány [pdf] alapján.

A CycleGAN nevű neurális háló feladata az lett volna, hogy műholdképeket utcatérképpé alakítson, majd ezeket vissza műholdképpé, hogy a segítségével hatékonyabb, mégis pontos legyen a Google térképeinek előállítása. A rendszer pedig már az első teszteken olyan jól teljesített, hogy épp emiatt gyanússá is vált. A kutatóknak például feltűnt, hogy bizonyos elemek az első és a harmadik képen is szerepelnek, holott a köztes utcaképről lemaradtak:

Mint kiderült, az utcaképeket még valóban létrehozta, de az újabb műholdképeket már nem ezekből hozta létre, hanem emberi szemmel észrevehetetlen módon elrejtette az utcaképekben az információt, amelyből egyszerűen újragenerálta az eredeti felvételt.

Ez ügyes trükknek hangzik, de valójában nem arról tanúskodik, hogy milyen intelligens a rendszer, hanem éppen arról, hogy csak pontosan azt képes elvégezni, amit mondanak neki – ezért nagyon nem mindegy, hogy pontosan milyen utasításokat kap.

A kutatók célja az lett volna a tréningezéssel, hogy a rendszer képes legyen az egyik típusú kép jellegzetességeit értelmezni és megfeleltetni a másikon szereplő sajátosságokra. A kísérlet ott csúszott félre, hogy a hatékonyságát többek között az alapján értékelték, hogy a kiinduló műholdkép mennyire hasonlít a végeredményként kapottra, illetve hogy az utcakép mennyire tiszta. Márpedig ezeknek szuperül megfelelt, csak éppen az eredeti szándéknak nem: nem átalakította egyik képet a másikból, hanem belekódolta az egyik tulajdonságait a másikba, hogy szükség esetén megtalálta és újra le tudja generálni az eredeti képet.

Maga a módszer, azaz az adatok képekbe rejtése egyébként egyáltalán nem újdonság: a szteganográfia bizonyos formáival már az ókorban is kísérleteztek, manapság meg rutinszerűen kerülnek a képekbe láthatatlan vízjelek és metaadatok. Az viszont, hogy egy gép saját szteganográfiai módszert dolgozzon ki, hogy megkerülje a feladatát, korábban nem tapasztalt jelenség. A trükk egyébként olyan jól működik, hogy további kísérletezéssel a kutatók rájöttek, hogy a rendszer gyakorlatilag bármilyen utcaképen képes szabad szemmel észrevétlenül elrejteni bármilyen műholdképet:

Az ember eszén túljáró gonosz MI tehát továbbra sem létezik, a tanulság itt inkább valami olyasmi, hogy a hasonló rendszerek fejlesztése során extrém fontos nemcsak a pontos feltételek és utasítások megadása, de az eredmények rigorózus értékelése is.