Adott egy pixeles kép, és mindenki, aki egy kicsit is jártas a külpolitikai hírekben, felismerheti rajta az Egyesült Államok volt elnökét, Barack Obamát. A gépek viszont nem ilyen ügyesek, és bizonyos algoritmusok a képet úgy próbálják feljavítani, hogy a végeredmény egy fehér bőrű, kék szemű férfi lesz.
A hiba a PULSE nevű algoritmusban van, amit vizuális tartalmak feljavításához használnak, mint amikor egy 4K tévén lejátszunk egy kisebb felbontású filmet, és a tévé megpróbálja kitölteni a hiányzó pixeleket. A szoftver nem tud új adatot szerezni a felvételen látható szereplőkről, és itt kapnak feladatot a gépi tanuló algoritmusok, amelyek a betanításuk alapján pótolják a hiányzó információkat. A PULSE egyébként az Nvidia által létrehozott StyleGAN algoritmusra épül.
Ugyanez a technika működik a ThisPersonDoesNotExist.com weboldalon is, amely valódinak tűnő, ám valójában nem létező emberek arcképét állítja elő, teljes mértékben a gép által kitalált pixelekből. De még a régi videójátékok pixeles szereplőinek rajzolt képéből is lehet emberszerű fotót generálni:
A PULSE létrehozói is észrevették a hibát, hogy úgy tűnik, az algoritmus gyakrabban hoz létre fehér bőrű arcokat, mint más árnyalatúakat, ami valószínűleg a betanításnál használt adatkészlet hiányosságaiból fakad. Az MI-vel foglalkozó mérnökök, akadémikusok és kutatók nincsenek egységes állásponton ezzel kapcsolatban. Egyesek szerint maga az algoritmus a hibás.
Egy mesterséges intelligenciát alkalmazó művész szintén kipróbálta Obama pixeles fotóját, kicsit más módszerrel alkalmazta a kritizált algoritmust, és három különböző, nem igazán Obamára hasonlító fényképet kapott eredményül, de egyik sem volt fehér bőrű.
Sokan úgy látják, hogy a probléma olyan mélyen gyökerezik, hogy nem is a technológiára, a beállításokra vagy az adatkészletekre kell fókuszálni, ha azt szeretnénk, hogy a mesterséges intelligencia ne legyen elfogult vagy előítéletes. Azokban az intézményekben kell megváltoztatni a gondolkodásmódot, ahol ezeket a megoldásokat kutatják, megtervezik és piacra viszik, hogy a nulladik lépéstől kezdődően a mindenféle bőrszínt jól kezelő algoritmus létrehozása legyen a cél.