A DeepMind csapata olyan eredményt tett közzé, amely alapján a mesterséges intelligencia nemcsak összetett fizikai és biológiai problémák megoldására alkalmas, hanem igazságos és jól működő társadalom létrehozására is.

A probléma nehéz, mert a gép „értékhez igazodik”, vagyis azt az eredményt produkálja, amit az emberek jónak tekintenek. Társadalmi kérdések esetében viszont jól ismert világképek mentén oszlanak meg szociális, gazdasági és politikai kérdéseket illetően az emberi vélemények.

Az értékigazodás egy fő problémája, hogy az emberi társadalom különböző nézeteket ismer el, így nem világos, hogy kinek a preferenciáihoz kellene igazodnia a mesterséges intelligenciának

– fogalmazott a Nature Human Behaviour hasábjain a kutatását vezető Raphael Koster.

A politológusok és közgazdászok gyakran összekülönböznek azon, hogy milyen mechanizmusok működtetik igazságosabban vagy hatékonyabban a társadalmat.

– tette hozzá.

A problémát úgy hidalták át, hogy a gépet egy társadalmi újraelosztáson alapuló játékba helyezték, ahol emberek között emberi interakciókból tanult – így olyan megoldásokat keresett, amit az emberek általában elfogadhatónak tartanak. 

A tudományos munka egyik fontos tanulsága az volt, hogy a magára hagyott MI elfogadhatatlan eredményekhez vezet, ezért nagyon fontos az emberi részvétel.

A mesterséges intelligencia kutatásban egyre erősebb a felismerés, hogy emberrel kompatibilis rendszereket kell építeni, olyan kutatási módszer kell, ahol az ember és az ágens együttműködik és nagyobb hangsúlyt helyezünk arra, hogy az MI közvetlenül az emberektől tanuljon értékeket

– írták a kutatók.

A kísérletben a Demokratikus MI nevű ágens több ezer emberi résztvevővel közösen vett részt játszott egy közgazdasági matematikai játékot. A játszma lényege, hogy a közös vagyon működését modellezi: minden játékos saját döntés alapján ad a közösbe, majd a közös hasznot elosztják. Ebben a játékban vannak együttműködő stratégiát folytató résztvevők, akik befizetnek a közösbe, és vannak „potyautasok”, akik befektetés nélkül részesednek a közös haszonból.

Az újraelosztásnak különböző ismert módjai voltak, a szigorúan egalitárius, libertárius és liberális egalitárius, vagyis egyenlőségre törekvő, szabadelvű és a kettőt közötti átmenet.

A negyedik újraelosztási módszer a gép által kitalált emberközpontú redisztribúciós mechanizmus volt. Ennek alapját az emberi és gépi játékosok stratégiái képezték. A kísérletek során kiderült, hogy az emberközpontú redisztribúció volt a legnépszerűbb játékmód, szemben a fent leírt klasszikus elosztási logikákkal és az újabb népszerűség központú kísérleti módszerekkel.

A mesterséges intelligencia elosztási módszere orvosolta a jövedelmi egyenlőtlenségeket és szankcionálta a potyautasokat, ezzel olyan népszerűvé vált , hogy megszerezte a többségi szavazatot.

A kutatók az eredményekkel kapcsolatban megfogalmaztak pár fenntartást. Az egyik, hogy az MI demokratikus logika szerint működik, így a szavazatoktól függően akár az egyenlőtlenségek fokozódása és az előítéletek felé viheti el a játszmát. A másik a bizalom hatásának kérdése, ugyanis a játékosok nem tudták, hogy adott esetben egy gép által felajánlott elosztási megoldásra szavaznak.

Az eredmény nem jelenti, hogy egyfajta mesterséges intelligencia alapú államot támogatnánk. A Demokratikus MI egy kutatási módszer potenciálisan hasznos működések tervezéséhez, nem pedig recept az MI közszférában való alkalmazására

– szögezték le.

(Borítókép: Vernon Yuen / NurPhoto / Getty Images)

(ScienceAlert)