Fordít, moderál és szórakoztat a Meta szörnyetege, az RSC.
Szuperszámítógépet épít az egykor Facebook néven ismert cég a metaverzum kiszolgálására. Amikor elkészül az AI Research Supercluster (RSC), a bolygó egyik legerősebb számítógépe és a leggyorsabb mesterséges intelligenciára specializált számítástechnikai eszköze lesz.
Az RSC képes lesz több tízezer ember online kommunikációját valós időben tolmácsolni, de még előtte megtanítják korunk legemberpróbálóbb munkájára, a tartalmi moderációra. Az eszköz nemcsak a valós élet robotikai problémáit lesz képes megoldani, de lerakja a születő metaverzum alapjait is.
A metaverzum százszázalékos háromdimenziós multiszenzoros élményt jelent, ebben a környezetben az ember számára használható mesterséges intelligenciákra van szükség
– mondta Jerome Presenti, a Meta mesterséges intelligenciáért felelős alelnöke a Wall Street Journalnak.
Rossz hírnév ide, zuhanó részvényárfolyamok oda, az egyori Facebook teljes gőzzel megy tovább abban a versenyben, amiben a nagy techcégek mesterséges intelligenciákat építenek.
Az Elon Musk által alapított OpenAI nyelvi intelligenciája, a GPT-3 megmutatta, hogy jelentős teljesítmény érhető el az algoritmuson belüli, paramétereknek nevezett összefüggések és az általuk összekötött adathalmaz méretének növelése által. A GPT-3 ezekben a jellemzőkben tizenhétszer akkora volt, mint elődje, a GPT-2. A Microsoft által tavaly bemutatott Megatron AI háromszor akkora, mint a GPT-3. Kínai kutatók és a Google egymástól függetlenül ezermilliárd paraméterrel dolgozó algoritmusokat fejlesztettek. A Meta pedig a következő lépés megtételére készül: betanítja az ezermilliárd paraméteres algoritmust futtató RSC-t.
Az OpenAI hasonlóra készül a Microsofttal együttműködésben. A gép, amit építenek, minden idők öt legerősebb számítógépe közé fog tartozni. A Meta nem adott ki részleteket a gépéről, de ami tudható, az alapján a világ ötödik legerősebb szuperszámítógépével, a Perlmutterrel lesz egy szinten, ha csak egyszerű teljesítményről van szó.
Az RSC jelenleg 6800 Nvidia A100 grafikus processzort tartalmaz, a gépi látással kapcsolatos feladatokat már jelenleg is hússzoros sebességgel végzi (helló, borzasztó tartalommoderáció) a vetélytársaihoz képest. Amikor teljesen elkészül a gép, 16 ezer GPU lesz benne, és mintegy 36 ezer évnyi nagy felbontású videó tárolására alkalmas, egy exabyte-os háttértár. Másodpercenként 16 terabyte beérkező adaton fog tanulni 5 exaflop sebességgel.
Az MI-k, például a nyelvi intelligenciák létrehozásának egyik legnehezebb része, hogy olyan irgalmatlan mennyiségű jó minőségű adatra van szükség hozzá, ami mellett a teljes Wikipédia eltörpül. A Meta számára nagy előny, hogy ilyen problémájuk nincs, mivel a valaha létezett legnagyobb mennyiségű felhasználói adaton csücsülnek. Ha ez sem lenne elég, az élő felhasználói aktivitást is ráköthetik az RSC-re. Utóbbival kapcsolatban máris igyekeztek eloszlatni az aggodalmakat, mondván, hogy anonimizált és titkosított adatokról van szó, és a szuperszámítógép amúgy sem kapcsolódik közvetlenül az internethez.
A világ jelenleg legerősebb szuperkomputere, a japán Fugaku nem tartalmaz grafikus processzorokat, és 442 ezer billió lebegőpontos műveletet (rövid neve flop) végez el. A mesterséges intelligenciáknál használatos, kevésbé egzakt mérőszámok alapján a Fugaku egy exalopot teljesít (vagyis egymillió billió műveletet végez el másodpercenként). Az RSC-t azt teheti a világ legerősebb MI-szupergépévé, hogy ebben az üzemmódban többször gyorsabb a Fugakunál. Persze ezen a téren is van konkurencia: az Oak Ridge National Laboratorynál épülő, a Fugakunál háromszor gyorsabb Frontier szuperszámítógép komoly versenytárs lehet.
Az RSC mindenképpen elképesztő erejű masina lesz, főleg ha figyelembe vesszük, hogy például a nyelvi intelligenciák hatékonysága is folyamatosan javul. A DeepMind tavaly mutatta be 280 milliárd paraméteres Gopher modelljét, de ennél is érdekesebb az ezzel egy időben bemutatott, 7 milliárd paraméteres RETRO, aminek csak külső adatbázis-hozzáférés kellett a tájékozódáshoz, és képes volt lenyomni a huszonötször annyi paraméterrel dolgozó algoritmusokat, ráadásul teljesen átlátható logika mentén.
Összességében tehát nemcsak arról van szó, hogy nagyon erős gépek készülnek egy adott feladatra, de maga a feladat is finomodik.
(Borítókép: Refik Anadol „Machine Hallucinations Space: Metaverse” című installációja 2021. október 8-án Hongkongban. Fotó: Miguel Candela / Anadolu Agency / Getty Images)