Problémákat tudunk megoldani a generatív nyelvi modellekkel, ugyanakkor veszélyei is vannak, ugyanis hallucinál – világított rá az Indamedia által megrendezett AI Summit konferencián Petra Viola. A Google Cloud AI csapatának fejlesztési igazgatója a techóriás generatív irányú termékét is bemutatta, amely segít az AI-hallucinációk visszaszorításában, és tartalmakat is lehet vele készíteni.
Hatalmas népszerűségnek örvendenek a nyelvi modellek, ez is lehet az egyik magyarázata annak, hogy ilyen sokan gyűltek össze a konferencián – mondta Petra Viola az ECNMX AI Summit konferencián. Az olyan nyelvi modellekről, mint például a népszerű ChatGPT, elmondta, hogy úgy tűnik, mintha gondolkodnának, pedig nem.
Ha egy üzleti területen szeretnénk alkalmazni, akkor a klasszikus szoftverfejlesztési minőségbiztosítás akadozik ezen a területen – világított rá a nyelvi modellek gyenge pontjára a szakértő.
Azzal a jelenséggel találkozunk, amit hallucinációnak nevezünk
– jelezte a Google fejlesztési igazgatója, hozzátéve, hogy a nyelvi modell szöveggenerátorként működik, és megjósolhatatlan, milyen következtetéseket talál. Kihívásként emelte ki a rendszer tanításának és kiszolgálásának magas költségeit, amely miatt a minőség és a költség egyensúlya egy kényes kérdéssé vált.
A Google számára azért is fontos, hogy kiszűrje a hallucinációkat, mivel a generatív oldalról közelítik meg a termékfejlesztést, azt kutatják, hogy az új technológiával milyen új megoldásokat tudnak nyújtani a vállalati ügyfeleknek. Petra Viola bemutatta a problémát kiküszöbölő termékét, a Vertex AI-t.
A Vertex AI egy gépi tanulási (ML-) platform, amely lehetővé teszi az ML-modellek és AI-alkalmazások képzését és telepítését, valamint a nagy nyelvi modellek (LLM) testre szabását az AI-alapú alkalmazásokban való használatra. A Vertex AI egyesíti az adatmérnöki, az adattudományi és az ML-mérnöki munkafolyamatokat, lehetővé téve a csapatok számára, hogy közös eszközkészlet segítségével működjenek együtt, és a Google Cloud előnyeit kihasználva skálázzák alkalmazásaikat.
Igazából az az érdekes, hogy bármilyen kreatív feladatra fel tudnánk használni a generatív AI-t, versek, zenék komponálásra, e-mailek írására, adatbázisok lekérdezésére, mindezt programozás nélkül. A vállalatok számára ugyanakkor más szempontoknak is érvényesülniük kellene, például az adatellenőrzés, a csalások kiküszöbölése, a költségek csökkentése, és a minőségre vonatkozó legnagyobb kihívás, a hallucinációk visszaszorítása
– ismertette, mi mindenben nyújt segítséget a Vertex AI, megjegyezve, hogy a pozitív oldalról szemlélve pontosságot és megbízhatóságot garantál a rendszer. A konferencián demóvideóban mutatták be, hogy a Google chatbotja egy webáruházba integrálva képes a keresés után az ajánlott termékekhez navigálni. Ráadásul termékspecifikus kérdésekre, visszajelzésekre is képes választ adni. Ha mégsem tudna válaszolni, akkor viszont kapcsol egy ügyintézőt.
Petra Viola felfedte, hogy a Vertexben több nagy nyelvi modell is elérhető, nem csak a Google által fejlesztett LaMDA.
A Vertex AI válaszokat tud adni, tartalmakat tud generálni, akár képeket vagy egy összehasonlító táblázatot termékekről, és akár tranzakciókat is tudunk innen indítani
– sorolta a Google fejlesztési igazgatója. Az alkalmazásban egyrészt egy „generatív flow-t” lehet irányítani, ami egy chatablakhoz hasonlít, illetve ezenkívül determinisztikus folyamatokat is kezelhetünk. A szakértő bemutatta, hogy a különböző alkalmazások összekapcsolhatók a rendszerben. Az egyes cégek saját modelleket hozhatnak, illetve saját titkosító kulcsot is kapnak, és minden adat a többi vállalattól elkülönülten kerül tárolásra, ezzel is növelve az adatbiztonságot, ami a Google számára elsődleges szempont, mutatott rá Petra Viola.
Korábban bemutattuk a Médiaunió Ipsosszal együttműködésben készített kutatását, melyből kiderült, hogy a kiberbűnözők legtöbbször közvetlenül a felhasználót akarják megtéveszteni, ezt pedig sajnos egyre kifinomultabb módszerekkel teszik.
A MAGYAR FELHASZNÁLÓK 22 SZÁZALÉKA, AZAZ TÖBB MINT ÖTÖDE VÁLT MÁR ONLINE CSALÁS ÁLDOZATÁVÁ.
A probléma súlyát jelzi, hogy múlt csütörtökön jelentette be a Gazdaságfejlesztési Minisztérium és a Magyar Államkincstár, hogy csatlakozik a kiberbűnözést visszaszorító KiberPajzs-projekthez.
Petra Viola rávilágított, hogy a biztonság és az adatvédelem kulcsfontosságú kérdés a mesterséges intelligencia fejlesztéseknél vállalati és felhasználói oldalról is, hiszen az emberek jelentős része tart attól, hogy a chatbotok ellopják személyes adataikat.
Egyre több applikációban működik AI-modell, amely segíti nemcsak a fejlesztők, hanem a felhasználók életét is. Kész megoldásokat is kínálnak a cégeknek: a Google Conversation alkalmazása garantálja, hogy a vállalkozások saját maguk hozzák létre adatállományukat, a nagy nyelvi modellt pedig egy központi szerver irányítja, amit a cégek készen kapnak.
(Borítókép: Petra Viola. Fotó: Németh Kata / Index)