Stuart Russell, a Berkeley informatika professzora, az Egyesült Államok és Egyesült Királyság kormányzatainak tanácsadója szerint a világ kormányai nem tesznek eleget az intelligens gépek veszélyeinek megfékezéséért. A mesterséges intelligencia szakértő szerint az állami hivatalok vonakodnak megregulázni az ipart, annak ellenére, hogy a technika fejlődés irányíthatatlanná válval fenyegeti az emberiség jövőjét. Russell szerint a tavaly novemberben bemutatott ChatGPT egy szuperintelligens gép részeként hamarosan emberek számára megzabolázhatatlan erővé válhat.

Hogyan tudod fenntartani a hatalmad egy nálad erősebb entitás felett – örökké? Ha nincs válaszod, fejezd be a kutatást. Ilyen egyszerű. Ennél nincs nagyobb tét: ha nincs ellenőrzésünk a saját civilizációnk felett, akkor nem szólhatunk bele, hogy tovább létezhet-e

– mondta Russell a Timesnak.

Mint ismert, nemrég több mint ezer professzor és cégvezető írta alá azt a nyílt levelet, ami a mesterséges intelligenciák fejlesztésének felfüggesztésére szólított. Az aláírók között volt Elon Musk, a Tesla, a SpaceX és Twitter tulajdonosa és Steve Wozniak, a világ legértékesebb cége, az Apple egyik alapítója. (Igaz később Wozniak úgy nyilatkozott, hogy ha valaki gyilkos mesterséges intelligenciát akar látni, vessen egy pillantást a Musk cége által gyártott Teslára) Nemrég a mesterséges intelligencia tudományának egyik alapító atyja Geoffrey Hinton professzor is elfordult korábbi szerepétől és átállt a veszélyt kiáltók táborába.

A Lordok Házában Lawrence Freedman katonai szakértő egy múlt héten tartott meghallgatáson beszélt róla, hogy a mesterséges intelligencia milyen szerepet játszhat a jövő háborúiban. Russellt, aki korábban az ENSZ nukleáris fegyverkezés elleni egyezményének betartatásával adott tanácsokat, szintén megkérdezték.

A külügyminisztérium egy csomó emberrel beszélt és arra a következtetésre jutottak, hogy az ellenőrzés elvesztése egy teljesen valós és rendkívül nagy jelentőségű végkimenetel

– mondta a professzor.

„Az állam ezután úgy közelítette meg a szabályozást, hogy »nincs itt semmi látnivaló üdvözöljük a mesterséges intelligencia ipart« mintha autógyártásról vagy ilyesmiről lenne szó. Szerintem már rögtön az elején félrement valami, annyira elvarázsolt minket a gondolat, hogy megérthetjük és létrehozhatjuk egy gondolkodó lényt, de nem gondolkodtunk el azon, hogy mire jó egy ilyen intelligencia” – tette hozzá.

Amennyiben nem az az egyetlen célja, hogy az emberiség javát szolgálja, lényegét tekintve egy versenytársat alkottunk - ami elég nagy hülyeség lenne. Nem lenne szükség olyan rendszerekre, amik az emberi viselkedést utánozzák… alapjában véve olyannak tanítják őket, hogy emberi céljaik legyenek és ilyen célokért dolgozzanak. El lehet képzelni milyen katasztrofális lenne, ha igazán komoly képességű rendszerek kezdenének ezekért a célokért küzdeni

– figyelmeztetett Russell.

(The Guardian)