Eddig súlyos tévedéseket produkált a Microsoft arcfelismerő algoritmusa, ha sötét bőrű egyének ültek a kamera elé, de a vállalat blogbejegyzése szerint az eszközei egyre pontosabbak. A hibaarány a sötét bőrű férfiaknál a huszadára csökkent, és kilenced részére a nőknél. A mesterséges intelligenciával működő rendszernek nem a kódjaival volt gond, hanem emberi mulasztás történt. Az zavarta össze, hogy a betanításához használt mintában jóval több volt a fehér bőrűekről készült fénykép, így a világosabb tónust jobban kezelte.
A Microsoft azt állítja, hogy jelentősen kibővítette az AI-t betanító mintakészletét, és abban nagyobb arányban jelennek meg a sötétebb bőrárnyalatok.
Ha a gépi tanulási rendszereket úgy oktatjuk, hogy utánozza az előítéletes társadalom által hozott döntéseket, és ennek a társadalomnak az adatait használjuk fel, akkor ezek a rendszerek szükségszerűen reprodukálhatják ezeket az előítéleteket
– mondta Hanna Wallach, a Microsoft vezető kutatója a blogbejegyzésben.
Februárban az MIT Media Lab kutatói mutattak rá az arcfelismerő rendszerekben rejlő problémára, és megállapították, hogy a sötétebb bőrű nők 35 százalékának nemét nem ismerik fel ezek a rendszerek. A jelentés csak megerősítette, amit sokan évek óta gyanítottak: az arcfelismerő rendszereket korlátozott adatkészletekkel tanítják be.
Voltak ennél súlyosabb hibák is, például amikor a Google gorillaként azonosította a fekete férfiakról készült fotókat.