HAL. Skynet. Mátrix. Johnny Depp. A scifi-történelem tele van öntudatra ébredő, gonosz számítógépekkel, amik (akik?) az emberiség életére törnek. A mesterséges intelligencia azonban a valóságban is egyre fejlettebb, így nem csoda, hogy egyre többen félnek tőle a mozin kívül is. De ha már Stephen Hawking vagy Elon Musk is aggódik, akkor érdemes megnézni, miért van igazuk, és miért nincs.
A mesterséges intelligencia (MI) már fél évszázada nem csak a mozikban és scifi-regényekben bukkan fel. Persze elsősorban nem az emberre megszólalásig – vagy pont utána – hasonlító robotokra kell gondolni: a technológia ma már ott a van a mindennapjainkban, az asztalunkon és a zsebünkben.
Először Alan Turing tette fel az azóta egyre aktuálisabb kérdést, 1950-ben: tudnak-e a gépek gondolkodni? De aztán rögtön helyettesítette is egy jóval egyértelműbb kérdéssel, amellyel gyakorlatiasabb alapokra szerette volna helyezni a problémát: mi történik, ha egy gép sikerrel veszi az imitációs játékot, vagyis az azóta világhírű Turing-tesztet?
A téma legutóbb akkor izzott fel, amikor pár hónapja bejárta a világot a hír, hogy Eugene, egy magát 13 éves ukrán fiúnak kiadó robot a világ első igazi mesterséges intelligenciája, hiszen átment a Turing-teszten. Ennek lényege, hogy egy robotnak cseten kell a bírákkal elhitetnie magáról, hogy ő az ember, nem a másik versenyző, aki pedig valóban az.
Az első probléma ezzel, hogy a teszt eredeti változatának a hatékonysága vitatott, a modern variánsai ezért jóval nehezebbek is. Másrészt Eugene kicsit csalt – de legalábbis trükközött – is, hiszen egy 13 éves ukrán gyerekkel szemben az angol anyanyelvű bírák más elvárásokat támasztanak, így könnyebb volt eladni nekik a következetlenségeket vagy hibákat.
Végül pedig azóta tudjuk, hogy a párbeszéd hatékony szimulációja nem feltétlen és kizárólagos bizonyítéka az intelligenciának, ezt erre szakosodott, de más szempontból nem különösebben kifinomult NLP- (natural language processing) programok is megoldják, vagyis nem bizonyítja a valódi intelligencia létét. Viszont akár kommunikációs képesség nélkül is lehet egy számítógép intelligens. Ráadásul nem minden értelmes viselkedésforma emberi. A helyzet megoldására a kutatók már dolgoznak egy frissített, átfogóbb teszten, de közben felmerül a kérdés, hogy mit is nevezhetünk MI-nek?
Sokaknak elsősorban a videojátékokból lehet ismerős a fogalom, hiszen ezekben az MI felel az ellenfél viselkedéséért. Újabban pedig a virtuális személyi asszisztensek – Siri, a Google Now és a microsoftos Cortana – juthatnak eszünkbe. De ide tartozik a spamszűréstől kezdve a személyre szabott filmajánlón át az önvezető autókig sok minden.
Az utóbbi évek legnagyobb MI-sztárja Watson, az IBM szuperszámítógépe, aki 2011-ben megnyerte a Jeopardy! nevű amerikai tévés vetélkedőt az emberi bajnokokkal szemben. Watson egy intelligens adatelemző rendszer, megérti a természetes nyelvet, az így feldolgozott kérdések és a rendelkezésére álló embertelen adatmennyiség alapján hipotéziseket alkot és értékel, a tapasztalataiból pedig folyamatosan tanul. A sikerét főleg az elképesztő számítási teljesítményének, az egyszerre sok ezer párhuzamosan futó műveleteknek köszönheti, a szó hagyományos értelmében nem nevezhetnénk intelligensnek.
John Searle amerikai filozófus szerint az, hogy egy gép kívülről intelligensnek tűnik, nem jelent semmit. A Turing-teszt és általában az MI-kutatás korlátaira a kínai szoba érvvel mutat rá, amellyel azt bizonyítja, hogy a mai értelemben vett intelligens gépek valójában nem értik azokat a problémákat, amelyeket megoldanak. Ebben a fényben Watson inkább olyannak tűnik, mint egy nagyon szorgalmas, de butácska diák: nem érti igazán, amit tanul, cserébe irdatlan mennyiséget olvas.
Hasonló véleményen van Alva Noë, a Berkeley filozófusa is. Szerinte azért nem kell attól tartani, hogy hamarosan túl intelligensek lesznek a gépek, mert egyelőre egyáltalán nem azok. Az órák is mérik az perceket, de valójában fogalmuk sincs, hány óra van, csak mi használjuk őket arra, hogy tudjuk, mennyi az idő. Ugyanígy Watson se játszott avetélkedőben, nem válaszolt a kérdésekre, hanem mi használtuk nagyon is konkrét feladatra.
Majd akkor kezdek aggódni, ha az IBM olyan gépeket gyárt, amelyek egy amőba tudatosságát produkálják
– mondta Noë, aki szerint jelenleg inkább a gépek pszeudointelligenciáról lehet beszélni.
A mesterséges intelligencia meghatározását egyébként az is megnehezíti, hogy azt se tudjuk pontosan, mi az az emberi intelligencia. Ráadásul a kettő hat egymásra, és ahogy egy gép elér egy újabb mérföldkövet, feljebb helyezzük az emberi intelligencia kritériumát. Így vált például a logika emberi privilégiumból a számítógépek működésének alapjává.
Mindenesetre általánosságban elmondható, hogy a sokrétű és szerteágazó MI-kutatás központi kérdése a gépi tanulás . Ennek lényege, hogy egy adott számítógépes rendszer képes legyen a rendelkezésére álló adatok segítségével önállóan fejlődni, vagyis ahelyett, hogy csak előre beprogramozott utasításokat követne, modelleket hoz létre, amelyek alapján döntéseket hoz és feladatokat hajt végre. Ami erre képes – mint Watson –, azt MI-nek hívjuk, noha e gyenge vagy alkalmazott mesterséges intelligenciával szemben az erős MI lenne az, amelyet már valójában intelligensnek tekinthetnénk.
Persze a félelmek se arról szólnak, hogy az önvezető autók elkezdenek nagy tömegben gázolni, vagyis napjaink MI-je még nem tart azon a szinten, hogy félnünk kellene tőle. Az okosautó, az egyre fejlettebb képfelismerés vagy más hasonló bejelentések ugyanakkor a színfalak mögött zajló fontos változásokat jeleznek.
A Kevin Kelly, a Wired alapítójának cikke meggyőző adatokkal támasztja alá, hogy nagy a verseny és egyre több a pénz az MI-kutatásban: 2009 óta több mint 17 milliárd dollár (4700 milliárd forint) ömlött az ágazatba, és a magántőke mértéke az utóbbi négy évben évi 62 százalékkal nőtt. A Google és a Facebook is házon belüli MI-szakártői csapatot hozott létre, de az utóbbi évben a Yahoo, az Intel, a Dropbox, a LinkedIn, a Pinterest és a Twitter is vásárolt fel ezzel a területtel foglalkozó céget.
Három feltétel teljesülésének köszönhető, hogy az utóbbi hatvan év örök ígéretéből az MI valóban elérhető, sőt mindenütt jelen lévő technológiává válhat. Egyrészt a big data korába léptünk, vagyis soha nem látott mennyiségű adat áll rendelkezésre, ami elengedhetetlen a gépi tanuláshoz, az AI-rendszerek fejlődéséhez. Másrészt ezt a tanulási folyamatot egyre fejlettebb mélytanulási (deep learning) algoritmusok vezérlik. Ezek a különböző típusú adatokat külön rétegekben dolgozzák fel, amelyek egymásra épülnek. Ez a gyakorlatban arra jó, hogy az algoritmusokat strukturálatlan adatbázisokra is rá lehet ereszteni, vagyis nem kell például több ezer képet előre felcímkézni, hanem a gép a kép egyszerűbb mintázataitól a specifikusabbak felé haladva felismeri, hogy mit lát. Mindez persze iszonyatosan számításigényes. Itt jön be harmadik feltételként, hogy az egyre fejlettebb és olcsóbb grafikus processzorok egyre nagyobb párhuzamos számítási kapacitást tesznek lehetővé. Vagyis
Kelly jóslata szerint a következő évtized mesterséges intelligenciái továbbra is egy-egy területre fognak szakosodni – például nyelvek között fordítanak, autót vezetnek, arcokat azonosítanak –, de máshoz nemigen értenek majd. És ezt is várjuk el tőlük: intelligencia helyett mesterséges okosságot. Ha mégis felébrednének a robotok, akkor Kelly szerint az “öntudatmentes MI” kifejezetten marketinges hívószó lehet majd.
Hawking maga is aktív MI-használó: az Intel épp decemberben frissítette a mozgáskorlátozott professzor kommunikációt segítő berendezését, az új verzióba pedig bekerült a Swiftkey prediktív szövegbeviteli megoldása is. Ez – akárcsak a cég okostelefonos billentyűzete – a korábban alkotott szövegekből tanulva próbálja megjósolni Hawking következő szavát, az eddigi kétszeresére gyorsítva a kommunikációt.
Vannak azonban, akik másként látják a jövőt, és az MI-vel kapcsolatos félelmek nem csak napjaink ludditáira jellemzők. Olyan tudományos nagyságok is óva intenek tőle, mint Stephen Hawking, aki más neves kollégáival közösen írt cikkében önmérsékletre int. Elismerik, hogy az MI eleinte jobb hellyé teheti a világot, de míg középtávon a hatásai attól függnek, ki irányítja, hosszabb távon a kérdés az lesz, hogy képes lesz-e még bárki irányítani.
Az MI megteremtése az emberiség történetének legnagyobb eseménye lenne. És az utolsó is, hacsak nem jövünk rá, hogyan kerülhetjük el a kockázatait.
– vagyis ha egyszer tényleg elérjük a technológiai szingularitást, és egyre kevésbé fogjuk érteni a gépeinket, akkor az ezzel járó kockázatokra előre fel kell készülnünk, írták Hawkingék. Elon Musk, a Tesla és a SpaceX alapítója, aki pedig maga is híres az őrült ötleteiről, az utóbbi hónapokban szintén többször figyelmeztette a kutatókat, hogy óvatosan játsszanak az MI-vel, mert olyan démont szabadíthatnak az emberiségre, amely a nukleáris fegyvereknél is nagyobb veszélyt jelenthet ránk. Szerinte szükség lehet valamilyen kormányzati vagy akár nemzetközi szabályozás kidolgozására, amely kordában tartaná az MI-kutatók fantáziáját.
Musk félelmeit a techvilágon belül is többen osztják. Louis Del Monte, a korábban az IBM-nél is dolgozó fizikus szerint a veszélyek nagyon is valósak, a fő kérdés pedig az, hogyan fognak a jövő intelligens gépei az emberiségre tekinteni. A történelmünkön végignézve ugyanis nem lenne meglepő, ha a tevékenységünket potenciális veszélyként értékelnék, és megpróbálnának kiiktatni minket a rendszerből.
Del Monte azt is felvázolta, hogyan is nézne ki a hatalomátvétel a gyakorlatban. Először az MI megoldaná a legtöbb problémánkat: új gyógymódokat produkálna, felszámolná az éhezést. Ezután agyimplantátumokkal javítaná az emberi gondolkodást, és lehetővé tenné, hogy feltöltsük a tudatunkat a gépekre. Az elgépiesedő emberek és az intelligens kiborgok egyre inkább az MI-vel azonosulnának az organikus emberek helyett, akik közül egyre többeket csábítanának át a másik oldalra. Az így kisebbségbe kerülő bioemberek idővel teljesen kihalnának, például egy rájuk eresztett vírus közreműködésével. Végül – valamikor a 22. század elején – a gépek a feltöltött embereket is törlik, mint erőforráspazarló kódot.
Érdemes észrevenni egyébként, h egyikőjük se azt mondja, hagyjunk fel az MI-kutatással, hanem éppen hogy szélesebb körben kell vizsgálni a témát. Musk például saját bevallása szerint éppen azért fektetett be MI-cégekbe, hogy szemmel tarthassa a technológia fejlődősét. Az egyik ilyen cég egyébként a Deepmind, amely más érdeklődését is felkeltette: többek között őket vásárolta fel a Google.
Tudós körökben sok a vita arról, hogy mikor lesz a kérdés aktuális, abban viszont általában egyetértenek, hogy az elővigyázatosság is a kutatás része kell, hogy legyen. Stuart Russell, a Berkeley professzora szerint például az MI fejlődésével párhuzamosan a gépeknek az alapvető emberi értékeket is meg kell majd érteniük és tanulniuk. (A roboetika egyébként már létező terület, a robotika asimovi alaptörvényeire épül, és itt lehet követni a legfrissebb fejleményeket.)
Rodney Brooks, egy neves robotkutató szerint az aggódók összekeverik a gépi mélytanulásból adódó lehetőségeket a valódi intelligenciával, de hiába fejlődik az első exponenciálisan, attól még a második nem lesz aktuális probléma a következő néhány száz évben. Vagyis hiába tudunk egyre többet a gépi tanulásról, a gépek pedig a világról,
abban, hogy megértsék, mi az, hogy tudás, mint jelent tudni és hogy mások tudnak valamit, mire lehet a tudást használni, mik lehetnek ennek a következményei, milyen az, mikor valamit akarunk, és így tovább. Márpedig Brooks szerint mindez elengedhetetlen ahhoz, hogy egyáltalán lehetőségük legyen gonosznak lenni. Az MI mostani szintje és az öntudatra ébredés szerinte nem egyszerűen messze vannak egymástól, hanem nem ugyanazon az úton helyezkednek el:
A tudatosan gonosz MI miatt aggódni egyszerű félelemkeltés. És óriási időpocsékolás.
Utóbbival egyetért Mark Bishop, a Londoni Egyetem kognitív számítástechnika professzora, egyben a robotfegyverek ellenőrzéséért felelős nemzetközi bizottság (ICRAC) tagja is. Bishop viszont még tovább megy, mert szerinte nem valószínű, hogy a számítógépek valaha is képesek lesznek reprodukálni az emberi értelem minden aspektusát. Három gondolatkísérletet sorakoztat fel, amelyek szerinte bizonyítják, hogy a gépek valójában nem értik meg az algoritmikusan megoldott problémákat, nem lehet öntudatuk, és híján vannak az algoritmikus gondolkodáson kívül eső intuíciónak.
Bishop ugyanakkor azt mondja, hogy ha az embert lenyomó mesterséges intelligenciától nem is, de a mesterséges butaságtól, vagyis a jelenleg tökéletlen MI fegyverként való felhasználásától nyugodtan tarthatunk.
Az árnyaltabb tudományos vitáknál azonban nagyobb hatása lehet a Musk-féle kijelentéseknek a közhangulatra. Az MI-kutatás – és bármely más tudományterület – számára a pozitív hype is kártékony lehet, mert a felfokozott várakozásokkal szemben végül alulteljesítő kutatások könnyen forrás nélkül maradhatnak.
Ennél is többet árthatnak Musk sötét hangvételű kirohanásai, mert könnyen technopánikhoz, vagyis az új technológiáktól való irracionális félelemhez vezethetnek. Ráerősítenek arra a modern kori alaphelyzetre, hogy olyan technológiákkal vesszük magunkat körül, amelyeket nem értünk, ez pedig a kiszolgáltatottság érzését kelti bennünk, hiszen olyasmire építjük a mindennapjainkat, amiben nem bízunk meg igazán. Mivel ugyanez az átlagos törvényhozóra is igaz, nagyon nem mindegy, hogy az olyan véleményvezérek, mint Musk milyen hangot ütnek meg egy-egy ilyen érzékeny téma kapcsán.
Vagyis a mesterséges intelligencia – Musk esetében szó szerinti – démonizálása kevésbé alkalmas az értelmes szabályozás kialakításának ösztönzésére, de annál inkább a pánikkeltésre az erre fogékonyak körében – kicsit hasonlóan ahhoz, mint amikor bevándorlásügyi kérdéseket szeretnénk idegenellenes retorikával rendezni.
Selmer Bringsjord, az Rensselaer Politechnikai Intézet MI-kutatója szerint az aggodalomra okot adó kockázatokat már ma is egyre több, kormányok által pénzelt kutatás vizsgálja. Bringsjord úgy gondolja, hogy a közpolitikai szabályozás helyett a jó mérnöki munkára kellene helyezni a hangsúlyt, mert a veszélyek alapos tervezéssel jórészt kiszűrhetők, ha nem sajnálják rá a pénzt: “Olyan ez, mint a New Orleans-i árvíz. A mérnökök részletesen elmagyarázták, hogyan lehetne megvédeni a várost, de a tervet túl drágának ítélték.
A meggondolatlan garasoskodás az igazi veszély, nem maga az MI.
Az általános szakértői véleménynél jóval optimistább Kurzweil szerint már 2029-re elérjük az emberi szintű MI-t. Hülyén hangzik? Nem hülyébben, mint ahogy a 90-es éves elején hangozhattak azok a jóslatai, hogy 2000-re egy gép legyőzi a világ legjobb sakkozóját, vagy hogy az internet robbanásszerűen elterjed, és a 21. századra főleg vezeték nélküli eszközökön fogjuk használni.
Egyébként meg örökké akar élni. Úgy számol, hogy ha kihúzza még 10-15 évig, akkor a gépek segítségével ez már megvalósítható lesz.
Nem csak a fenti kollégáinál, de talán mindenki másnál optimistább Ray Kurzweil jövőkutató, az MI legismertebb evangelistája. Szerinte nem a mostani az első egzisztenciális veszély, amellyel az emberiségnek szembe kell néznie, az atomfenyegetéstől a bioterrorizmuson keresztül sok mindentől féltünk már, hiszen a fejlődés mindig is kétélű fegyver volt. De szerinte éppen a néhány évtizeddel az MI előtt járó biotechnológia példája mutatja, hogy igenis kordában tarthatók a találmányaink, csak időben meg kell határozni a biztonságos használatukhoz szükséges technikai és etikai alapvetéseket.
Szerinte az egyetemek és a cégek már dolgoznak ezeknek a biztonsági intézkedéseknek a kidolgozásán. (Január közepén például éppen Musk támogatott meg egy ilyen projektet Az MI jövője című konferencián.) A legfontosabb ugyanakkor nem is ez, hanem hogy
A gépek pedig nem ellenünk lesznek, hanem éppen a mi mentális teljesítményünket fogják javítani azzal, hogy kiegészítenek bennünket – mondjuk Del Monte jóslata is valami hasonlóval kezdődött.
Kurzweil mostanában azon dolgozik, hogy a természetes nyelvek hatékonyabb megértésére tanítsa a gépeket – vagyis hogy megtanítsa őket rendesen olvasni. A kulcsszó alapú keresés ugyanis egyre kevésbé elégíti ki az információéhséget, helyébe a szemantikus keresés lép, vagyis a gépeknek meg kell érteniük, hogy miről szólnak a szövegek, és a jelentés, nem pusztán a szavak alapján válaszolni a kérdéseinkre. Ez az MI jelenének egyik legfontosabb feladata, Kurzweil pedig 2012 vége óta Google-alkalmazottként foglalkozik vele.
De nem csak Kurzweil csatlakozott a Google szupercsapatához az utóbbi időben, a legjobb cégeket és szakembereket halmozzák fel. Nem csoda, hogy a gépesített apokalipszis hírnökeinek kedvenc példájává váltak.
A legnagyobb dobásuk a Deepmind tavaly januári felvásárlása volt. A hírek szerint 400 millió dollárt (110 milliárd forintot) fizettek a mélytanulás-specialista cégért, amely tele van tehetséges MI-szakemberekkel, és a Facebook is szívesen vette volna a szárnyai alá. Jó hír viszont a Skynetet kiáltóknak, hogy a Deepmind azzal a feltétellel csatlakozott a Google-höz, hogy felállítanak egy etikai bizottságot, amely kifejezetten az MI-vel kapcsolatos aggályokkal foglalkozik.
De a Google már 2012 óta folyamatosan vásárol. Azóta megvették a Viewdle nevű arcfelismerő céget, a neurális hálózatokat kutató DNNResearch-öt, a nyelvfeldolgozásban jártas Wavii-t, a gesztusfelismerő Fluttert, a gépi látással foglalkozó Industrial Perceptiont és az otthonokosító Nestet. Mindehhez októberben hozzácsapták még a Dark Blue Labs és a Vision Factory nevű MI-startupokat. Adjuk hozzá, hogy van egy saját kvantumszámítógépük, és egész érdekes fejlesztések elé nézhetünk.
Annyiban semmiképp nem meglepő a terjeszkedés iránya, hogy a cég legalapvetőbb szolgáltatásai nagyban támaszkodnak a gépi mélytanulásra. Adat meg, ha valahol, hát náluk van bőven, amiből tanulni lehet. És minél fejlettebb algoritmusokat eresztenek rá az óriási adatbázisaikra, annál jobban fogják tudni például, hogy mi a keresett válasz egy-egy kérdésünkre, akár már azelőtt, hogy egyáltalán feltennénk őket.
Mindemellé megvették még a robotépítésben úttörő Boston Dynamicsot is, amivel összesen már nyolc robotos céget szippantottak fel, és szépen haladnak is robotügyben:
Függetlenül attól, hogy mennyire kell félnünk az MI-től, és hogy tervez-e a Google a közeljövőben Skynetté válni, a robotok és a mesterséges intelligencia találkozása azért elég Terminátor-szerű élmény lenne. Van viszont ennél közvetlenebb veszély.
– írhattam volna, de ennél még egy MI is képes lenne kreatívabb címet adni, főleg, hogy már az újságírásban is megjelentek a robotok. Pontosabban olyan algoritmusok, amelyek összedobják a sok adaton alapuló rövidhíreket. Tudósítanak például földrengésekről, a pénzpiacokról, vagy a média radarja alatt maradó sporteseményekről. De az MI-kutatás sok más területén is fontos eredményeket hozott 2014,
A Pew Research tavaly augusztusi felmérésében 1896 szakártőt kérdezett meg, hogy milyen gazdasági és társadalmi hatásokat várnak az MI-kutatástól és a robotikától 2025-ig.
Az eredményből az látszik, hogy ha valamiért aggódnak a kutatók, az nem a hatalomátvétel, hanem jóval földhözragadtabb, munkaügyi problémák. A megkérdezettek majdnem fele attól tart, hogy az új technológiák egyre többfajta munkát vehetnek át az emberektől, akik megfelelő oktatás hiányában munkanélkülivé válhatnak.
A kutatók többsége szerint viszont az a történelmi tapasztalat, hogy hosszabb távon a fejlődés mindig több munkahelyet teremtett, mint amennyi megszűnt miatta. Ráadásul nekünk nem is olyan rossz az, ha az emberhez kevésbé méltó, vagy egyszerűen csak kellemetlen munkákat nem nekünk kell elvégezni. Kinek van kedve például tőzsdei híreket gépelni, ha mondjuk a mesterséges intelligenciáról is írhatna cikket?
Ehhez persze szükség lenne arra is, hogy az oktatási rendszer és a szabályozás rugalmasabb legyen és kövesse a fejlődést. Mivel jelenleg nem éppen ez a helyzet, a változások bizonyára átmeneti válságidőszakkal járnak majd. Felértékelődhetnek viszont olyan munkák, amelyeket még sokáig nem képes ellátni a gép, a kreativitást igénylő területek, a társadalmi munka vagy éppen a tanítás.
Két lehetőség van. Egy: minden jó lesz, az egyre okosabb gépek megkönnyítik az életünket, kevesebbet kell kényszerből dolgozni. Utópisztikusan hangzik? Azért árnyalja a képet, hogy még ha soha nem látott mértékben javítani is fogja a mesterséges intelligencia az életszínvonalat, az átmeneti időszak rengeteg kérdést, problémát és ellenállást hozhat.
A másik forgatókönyv szerint pedig a gépek egyszer kiszámolják, hogy hatékonyabban hasznosíthatják az erőforrásaikat, ha mi nem ugráljuk körbe őket, és likvidálják az emberiséget. Ez meg túl borús? Éppen ezért mondja Elon Musk, hogy oda kell figyelni, mi folyik ott a Szilícium-völgyben.
Hiba lenne, ha hagynánk, hogy elbagatellizálja a kérdést, hogy manapság minden eszközt okosnak hívunk, ami többet tud, mint egy tamagocsi. De legalább ennyire káros a pánikkeltés, mert elvonja a figyelmet sokkal sürgetőbb kérdésekről. Például hogy hogyan alkalmazzuk az olyan, nagyon limitált intelligenciával rendelkező eszközeinket, mint az önvezető autó, a katonai MI, vagy éppen a tőzsdei pénzmozgásokat irányító algoritmusok, amelyek már ma is elég nagy galibát tudnak okozni. Mindez pedig legalább annyira mérnöki probléma, mint szabályozásbeli.
Hawking híres arról, hogy szeret tudományos kérdésekben fogadásokat kötni. Bízzunk benne, hogy a mesterséges intelligencia jövőjéről szólót elvesztené.