New York a 2023. július 5-én életbe lépett jogszabály értelmében előírja: a mesterséges intelligenciát alkalmazó vállalatoknak bizonyítaniuk kell, hogy a munkaerő-kiválasztás folyamata mentes a rasszizmustól és a szexizmustól.
New York mostantól megköveteli az elfogultság ellenőrzését, amikor a vállalatok mesterséges intelligenciát használnak a munkaerő-toborzásban – írja Fox Business. A harmadik fél által végzett „elfogultsági ellenőrzésre” vonatkozó városi követelmény célja a kisebbségi jelöltek diszkriminációjának megelőzése.
A 2023. július 5-én hatályba lépett jogszabály értelmében egy harmadik félnek elfogultsági ellenőrzést kell végeznie minden automatikus foglalkoztatási döntési eszközön (AEDT), amelyet egyre több vállalat használ a potenciális munkavállalók felkutatására.
A törvényjavaslat azt is előírja, hogy a jelölteket értesíteni kell az AEDT alkalmazásáról, és a vállalatoknak közzé kell tenniük az elfogultsági vizsgálat eredményeit is, ha ilyen célokra mesterséges intelligenciát alkalmazó szoftvert használnak.
Julia Stoyanovich, a New York-i Egyetem informatika professzora, az NBC News szerint elismerően nyilatkozott az új szabályokról, de aggodalmát is kifejezte, miszerint ennyi nem lesz elég.
Ez egy fontos kezdet, de még mindig sok a hiányosság, például az elfogultsági ellenőrzés nagyon korlátozott a kategóriák tekintetében. Nem vizsgálja az életkoron alapuló megkülönböztetést, ami a munkaerő-felvételben óriási probléma, továbbá a fogyatékosságot sem
– mondta Stoyanovich.
A mesterséges intelligencia diszkriminációs potenciálja egyre nagyobb aggodalomra ad okot egyes megfigyelőcsoportok körében.
A Fehér Ház a múlt hónapban ígéretet tett arra, hogy hamarosan szövetségi szabályok születnek a mesterséges intelligenciára vonatkozóan, és a kongresszus is vizsgálta a feltörekvő technológia lehetséges szabályozását.