Amikor amerikai és európai kutatók különféle kongresszusi tagok képeit elemezték a Google képfelismerő szolgáltatásával segítségével, a szolgáltatás háromszor annyi feljegyzést tett a fizikai megjelenéssel kapcsolatban a nők fotóin, mint a férfiaknál. A férfiakra alkalmazott leggyakrabban használt címkék a „hivatalos” és „üzletember” voltak; míg a nőknél „mosoly” és az „áll”.

Ennek eredményeként a nők alacsonyabb státuszú sztereotípiát kapnak: a nők azért vannak, hogy csinosak legyenek, a férfiak pedig üzleti vezetők.

– hangsúlyozta Carsten Schwemmer, a GESIS Leibniz Társadalomtudományi Intézet Kölnben élő posztdoktori kutatója. Schwemmer a pár hete megjelent tanulmányon a New York-i Egyetem, az American University, a University University Dublin, a Michigani Egyetem és a nonprofit kaliforniai YIMBY kutatóival dolgozott együtt.

A kutatók a szóban forgó képeket a Google, valamint a rivális Amazon és a Microsoft mesterséges intelligencia által irányított képszolgáltatásaihoz töltötték fel. Az MI jellemzően különböző dolgokat vett észre a nőknél és a férfiaknál és általában véve jellemző volt, hogy a nők megjelenését sokkal fontosabb szempontnak tartotta. A női törvényhozókat gyakran „lány” és „szépség” címkével látták el. Emellett gyakran fordult elő az is, hogy a képszolgáltatások nem is ismerték fel a nőket – ez többször előfordult, mint a férfiak esetében.

A tanulmányt egyben arra vonatkozó bizonyítékokkal is kiegészítették, hogy az algoritmusok nem matematikai elemzéssel és távolságtartással látják a világot, hanem helyette megismétlik vagy akár fel is erősítik a történelmi kulturális előítéleteket. Részben a Gender Shades nevű 2018-as projektet is felhasználták ehhez, amely kimutatta, hogy bár a Microsoft és az IBM MI felhőszolgáltatásai nagyon pontosak voltak a fehér férfiak nemének azonosításában, de rendkívül pontatlanok a fekete nők nemének beazonosításában.

Az új tanulmány a múlt héten jelent meg, de a kutatók e 2018-as projekt eredményeit is felhasználták. A Wired magazin is kísérletezett a szóban forgó képelemző szolgáltatással, oly módon, hogy a Kaliforniai Állami Szenátusból 10 férfi és 10 nő hivatalos fényképeit elemeztette szúrópróbaképpen és az eredmények azt sugallják, hogy a tanulmány eredményei még mindig érvényesek.

A képeken az összes törvényhozó mosolygott, de a Google címkéző rendszere csak egy férfinél jegyezte meg, hogy mosolyog, míg a nőknél hét esetben. Emellett az MI abban a tekintetben is komolyabban vette a férfiakat, hogy az összes öltönyös férfit „üzletembernek” jelölte, gyakran használva a „hivatalos” vagy „fehérgalléros” jelzőket is. A női szenátorok közül csak öt kapott egy vagy több ilyen címkét. A nők megjelenésükhöz kapcsolódóan egyéb címkéket is kaptak: például „bőr”, „frizura” és „nyak”, amiket az MI férfiakra soha sem használt.

Rebel, rebel

Az Amazon és a Microsoft szolgáltatásai kevésbé mutatnak nyilvánvalóan szexista elfogultságot, bár az Amazon több mint 99 százalékban biztos volt abban, hogy a 10 szenátor nő közül kettő „lány” vagy „gyerek” volt, miközben egy szóval sem utalt arra, hogy a 10 férfi egyike is kiskorú lenne. A Microsoft szolgáltatása azonosította az összes férfi nemét, de a nők közül csak nyolc esetben, az egyiket férfinak nevezte, egy másik nőnél pedig nem tudott nemet megjelölni.

A Google az év elején kikapcsolta az AI látásszolgáltatásánál a nemek felismerését, azért, mert szerintük a nemre nem lehet következtetni egy ember megjelenéséből. Tracy Frey, a Google felhőosztályának felelős mesterséges intelligencia-igazgatója szerint a vállalat továbbra is dolgozik az elfogultság csökkentésén, és üdvözli a külső segítségeket is.

Mindig arra törekszünk, hogy jobbak legyünk, és továbbra is együttműködünk külső érdekelt felekkel – például az akadémiai kutatókkal –, hogy munkánkat ezen a téren folytassuk

– állította Frey. Az Amazon és a Microsoft viszont nem volt hajlandó a témában nyilatkozni: mindkét vállalat szolgáltatása a nemet csak binárisnak ismeri el.