A nemrég elhunyt volt amerikai külügyminiszter szerint Amerikának és Kínának együtt kell dolgoznia a katasztrófa elkerülése érdekében.
Idén lesz 78 éve, hogy véget ért a történelem legtöbb halálos áldozattal járó háborúja, és megkezdődött a nagyhatalmak egymással vívott háborúit hátrahagyó, leghosszabb békeidőszak. A hidegháború évtizedei felett azonban ott lebegett a harmadik világháború kísértete, amit olyan pusztító erejű fegyverekkel vívhattak volna, amelyek elméletileg az egész emberiség létét fenyegethették. Amikor az Egyesült Államok Hirosimára és Nagaszakira ledobta az atombombát, és Japánt azonnali, feltétel nélküli megadásra kényszerítette, senki sem tartotta elképzelhetőnek, hogy a világ a következő hét évtizedben de facto moratóriumot rendel el a nukleáris fegyverek használatával szemben. Még valószínűtlenebbnek tűnt, hogy majdnem nyolc évtizeddel később már csak kilenc, atomfegyverrel rendelkező állam lesz. Az Egyesült Államok ezekben az évtizedekben vezető szerepet vállalt a nukleáris háború elkerülése, a nukleáris fegyverek elterjedésének lelassítása és egy olyan nemzetközi rend kialakítása terén, amely évtizedeken át tartó nagyhatalmi békét biztosított.
Ma, amikor a világ egy másik, bizonyos szempontból még félelmetesebb technológia – a mesterséges intelligencia – által támasztott kihívásokkal szembesül, nem meglepő, hogy sokan a történelemben keresnek útmutatást.
Vajon az emberfeletti képességekkel rendelkező gépek veszélyeztetik-e az emberiségnek az univerzum uraként betöltött státuszát?
Aláássa-e a mesterséges intelligencia a nemzetek erőszakeszközei felett gyakorolt monopóliumát? Képessé tehet-e a mesterséges intelligencia egyes embereket vagy azok kis csoportjait olyan mértékű gyilkolásra képes vírusok előállítására, amire korábban csak a nagyhatalmak voltak képesek? A mesterséges intelligencia alááshatja a nukleáris elrettentés eszközeit, amelyek a mai világrend egyik pillérét jelentik? – tette fel a kérdést a Foreign Affairs hasábjain 2023 októberében megjelent cikkében a nemrég elhunyt jelentős külpolitikus, Nixon és Ford elnök nemzetbiztonsági tanácsadója és külügyminisztere, Henry Kissinger, illetve Graham Allison, a Harvard Egyetem professzora, Bill Clinton védelmi minisztériumának volt helyettes államtitkára.
Jelenleg senki sem tudja megválaszolni ezeket a kérdéseket. A halála előtti két évben azonban Kissinger a mesterséges intelligencia forradalmának élvonalába tartozó technológiai vezetők egy csoportjával együtt vizsgálta ezeket a kérdéseket. Arra a következtetésre jutott, hogy a mesterséges intelligencia fejlődése katasztrofális következményekkel járhat az Egyesült Államokra és a világra nézve, épp ezért olyan kényszerítő erő, ami miatt a kormányok vezetőinek azonnal cselekedniük kell. Bár senki nem tudhatja, hogy mit hoz a jövő, ahhoz, hogy a döntéshozók lépéseket tegyenek, elégséges ismeret áll rendelkezésünkre. Azt is hozzátették, hogy ezeket az újabb és újabb információk ismeretében többször is felül kell majd vizsgálni.
A vezetőket a nukleáris korszakban szerzett tapasztalatok segíthetik a döntéshozatalban. Még azok az Egyesült Államokkal szemben álló országok is felismerték közös érdekeiket, melyek e példátlan, emberek százmillióinak halálát okozni képes technológiák kifejlesztéséért és bevetéséért versenyeznek – írta Kissinger. Duopolistaként mind az Egyesült Államoknak, mind a Szovjetuniónak az volt az érdeke, hogy megakadályozza e technológia gyors elterjedését más államokban. Washington és Moszkva egyaránt felismerte, hogy ha a nukleáris technológia saját országaikban gazemberek vagy terroristák kezébe kerül, akkor az őket is fenyegetheti, ezért mindketten robusztus biztonsági rendszereket fejlesztettek ki.
Ezzel számolva mindkét szuperhatalomnak érdekében állt, hogy megvitassák egymással a fennálló kockázatokat, és ismertessék azokat a gyakorlatokat, illetve technológiákat, amelyeket biztosítékként fejlesztettek ki. Miután nukleáris arzenáljuk olyan szintet ért el, hogy egyikük sem támadhatta meg a másikat pusztító válaszcsapás kiváltása nélkül, megtalálták a kölcsönös biztosított megsemmisítés doktrinájának (mutual assured destruction, MAD) paradox stabilitását.
Ahogy ezt a nem túl dicsőséges realitást magukévá tették, a nagyhatalmak megtanulták korlátozni önmagukat, és a háborúhoz vezető konfrontáció elkerülése érdekében megtalálták a módját, hogy erről meggyőzzék ellenfelüket is. Valójában mind az Egyesült Államok, mind a Szovjetunió vezetői felismerték, hogy egy nukleáris háború elkerülése alapvető felelősségük, ugyanis annak ők is áldozatul esnének.
Jelen pillanatban csak két mesterségesintelligencia-szuperhatalom létezik: az Egyesült Államok és Kína. Ez a két ország rendelkezik a legfejlettebb, mesterségesintelligencia-modellek betanításához szükséges innovátorokkal, kutatóintézetekkel és tömeges számítástechnikai kapacitással. Ez biztosít lehetőséget számukra, hogy iránymutatásokat dolgozzanak ki a mesterséges intelligencia legveszélyesebb fejlesztéseinek és alkalmazásainak megakadályozására. Joe Biden amerikai elnöknek és Hszi Csin-ping kínai államfőnek egy csúcstalálkozó keretében kellene kiterjedt, közvetlen, személyes megbeszéléseket folytatniuk erről a kérdésről – írta Kissinger.
A két japán városra ledobott atombomba pusztítása után azok a tudósok is elborzadtak, akik találmányukkal kinyitották Pandóra szelencéjét. Robert Oppenheimer, a Manhattan-projekt vezető tudósa a Bhagavad-gítából idézett fel egy sort:
Most én lettem a Halál, a világok elpusztítója.
A hidegháborúban a nukleáris stratégia középpontjában az elrettentés koncepciója állt: az ellenfél támadását úgy kell megakadályozni, hogy azt olyan költségekhez kötjük, amelyek aránytalanok minden elképzelhető haszonnal szemben. A sikeres elrettentéshez azonban nemcsak képességekre, hanem hitelességre is szükség van.
Hogy ezt az állapotot szemléletessé tegyék, a stratégák megalkották az ironikus MAD betűszót. A „mad” angolul annyit tesz, hogy „őrült” vagy „dühös”, itt azonban a „mutually assured destructionnek”, vagyis a „kölcsönösen biztosított megsemmisítésnek” a rövidítése. Ennek lényegét Reagan gyakran ismételt kijelentése foglalta össze:
Egy nukleáris háborút nem lehet megnyerni – és ezért nem is szabad soha megvívni.
Operatív értelemben a MAD a kölcsönös sebezhetőséget jelentette. Bár mind az Egyesült Államok, mind a Szovjetunió igyekezett kikerülni ebből az állapotból, végül felismerték, hogy erre képtelenek, ezért alapvetően újra kellett fogalmazniuk a kapcsolatukat. 1955-ben Churchill már meglátta az iróniát abban, hogy
a biztonság a terror robusztus gyermeke, a túlélés pedig a megsemmisítés ikertestvére lesz.
A mesterséges intelligencia megfékezésére tett javaslatokban ez a múltbeli felismerés köszön vissza. A milliárdos Elon Musk szerint hat hónapos szünetet kellene tartani a mesterséges intelligencia fejlesztésében. Eliezer Yudkowsky, a mesterséges intelligencia kutatója azt javasolta, hogy töröljük el a mesterséges intelligenciát, Gary Marcus pszichológus pedig azt, hogy a mesterséges intelligenciát egy globális kormányzati szerv irányítsa. Ezek azonban a nukleáris korszak sikertelen javaslatainak megismétlődései, mivel mindegyik azt követelné meg a vezető államoktól, hogy korlátozzák saját szuverenitásukat.
A történelem során még soha nem fordult elő, hogy egy nagyhatalom lemondott volna a technológia saját maga számára történő kifejlesztéséről csupán azért, mert attól tartott, hogy egy versenytársa az új technológiával fenyegetné biztonságát. Még az Egyesült Államok közeli szövetségesei, például az Egyesült Királyság és Franciaország is úgy döntött, hogy az Egyesült Államok nukleáris ernyőjére támaszkodva kifejlesztik saját nemzeti nukleáris kapacitásaikat.
Ahhoz, hogy a nukleáris korszak tanulságait a jelenlegi kihívásokhoz igazítsuk, elengedhetetlen, hogy felismerjük a mesterséges intelligencia és a nukleáris fegyverek közötti lényeges különbségeket. Először is, míg a nukleáris technológia fejlesztését a kormányok vezették, addig a mesterséges intelligencia terén magánvállalkozók hajtják végre a fejlesztéseket. Másrészt: a mesterséges intelligencia digitális.
A nukleáris fegyverek kézzelfoghatóak; a mesterséges intelligencia lényege fogalmi jellegű.
Kissinger szerint a fejlődésnek még ebben a korai szakaszában (amikor az Egyesült Államok is csak azon dolgozik, hogy kialakítsa a saját keretrendszerét a mesterséges intelligencia hazai szabályozására) is indokolt párbeszédet kezdeményezni a világ másik mesterségesintelligencia-szuperhatalmával, Kínával, ahol a technológiai szektor legjobbjai – a Baidu (az ország vezető keresőmotorja), a ByteDance (a TikTok alkotója), a Tencent (a WeChat készítője) és az Alibaba (az e-kereskedelem uralkodója) – a ChatGPT saját, kínai nyelvű verzióit építik. Azt is megjegyzi ugyanakkor, hogy a kínai politikai rendszer különleges nehézségeket okoz az MI számára.
Vajon ha Biden, Hszi és a világ más vezetői ugyanolyan határozottan lépnének fel a mesterséges intelligencia jelentette kihívásokkal szemben, mint ahogyan elődeik tették azt a nukleáris fenyegetésekkel, ugyanolyan sikeresek lennének-e? Ha a történelem és az egyre erősebb polarizáció alapján tekintünk a kérdésre, nehéz optimistának maradni. Az a tény, hogy immár 78 éve béke van a nukleáris hatalmak között, mindenkit arra kellene, ösztönözzön, hogy megbirkózzon a mesterséges intelligenciában elkerülhetetlenül jelen lévő kockázatokkal – írta a közelmúltban elhunyt egykori külügyminiszter.
(Borítókép: Henry Kissinger 2007. december 12-én. Fotó: Brooks Kraft LLC / Corbis / Getty Images)