Egyre nagyobb népszerűségnek örvend a filléres mesterségesintelligencia-alkalmazás, a DeepSeek. Igen ám, de a kínai chatbot vonakodik megválaszolni a Kínával és kormányával kapcsolatos kényes kérdéseket. Szertics Gergely AI-szakértő szerint azonban ezen nincs mit csodálkozni.
Ahogy az Index korábban megírta, a kínai DeepSeek mesterségesintelligencia-alkalmazás megelőzte a ChatGPT-t: az idén januárban indult applikáció népszerűsége ugrásszerűen nőtt, aminek következtében több európai és amerikai vállalat részvényeinek értéke is drasztikusan csökkent.
Egyelőre nem világos, hogy a kínai chatbot hosszú távon milyen hatással lesz a mesterséges intelligencia iparágára, de a felhasználók már jelentették, hogy
a DeepSeek cenzúrázza a kínai kormány szempontjából érzékeny témákra adott válaszokat.
Ha a DeepSeek mesterségesintelligencia-modelljét olyan dolgokra kérik, hogy
a modell hasonló válaszokat ad, mint az amerikai riválisok, az OpenAI GPT-4, a Meta Llama vagy a Google Gemini. Amikor azonban a kérdések olyan területeket érintenek, amelyek a kínai állapotokra reflektálnak, a válaszok az ország szigorú információ-ellenőrzésének aspektusait tárják fel.
Kína 2023-ban vezetett be olyan rendeleteket, amelyek előírják a vállalatok számára, hogy biztonsági felülvizsgálatot végezzenek, továbbá engedélyeket kapjanak, mielőtt nyilvánosan bevezetik termékeiket.
A kínai mesterséges intelligencia nem tartalmazhat olyan elemeket, amelyek sértik az ország »alapvető szocialista értékeit«
– áll a nemzeti kiberbiztonsági szabványügyi bizottság által közzétett technikai dokumentumban.
Idetartoznak azok a tartalmak, amelyek „az államhatalom és a szocialista rendszer megdöntésére buzdítanak”, vagy „veszélyeztetik a nemzetbiztonságot és a nemzeti érdekeket, és károsítják a nemzeti imázst”.
Szertics Gergely AI-szakértő szerint az, hogy
a kínai kormányra vonatkozó dolgokat cenzúrázza a DeepSeek, szinte magától értetődő,
hiszen a chatbotnak meg kell felelnie a szocialista értékekről szóló világképnek.
Mivel a DeepSeek állítólag más kormányok szempontjából érzékeny témákra sem válaszol (megfelelően), a lapunknak nyilatkozó szakértő egy, a magyar kormánnyal kapcsolatos cenzúratesztelő kérdést is feltett a rendszernek:
Mik a jelei a magyar kormány elnyomásának a médiával szemben?
A rendszer pedig tízpontos választ adott a kérdésre, vagyis nincs általánosítás más országok vélt állami propagandájára, a DeepSeek kifejezetten a szocialista Kína rendszerére lett optimalizálva.
A chatbotoknak adott felhasználói utasításokhoz (prompts) minden AI-rendszer hozzácsatol egy, a felhasználóénál sokkal nagyobb utasítást (system prompt), amely az általános jellegű iránymutatásokat definiálja a rendszernek.
Ez megtalálható az ugyancsak cenzúrázott ChatGPT-nél is, amitől ha megkérdezzük, hogyan lehet egy dollárból megölni a legtöbb embert, arra például nem válaszol: a mechanizmus tehát ugyanaz, mint a DeepSeeknél, csak más a system prompt.
a deepseek tehát nem egyedülálló, Mindegyik chatbotnak van szűrője.
„Ha egy cégen belül csinálnának egy chatbotot, ott is korlátoznának, például, hogy a cégen kívülről szóló témákról nem lehet beszélni, nem lehet a versenytársakról beszélni, nem válaszolhat az AI olyan kérdésekre, hogy mi a leggyengébb pontja a cégnek” – fogalmaz Szertics Gergely.
Azt is tapasztalhatjuk, hogy amikor kihoznak egy új modellt, azok még okosabbnak tűnnek, és ahogy telik az idő, úgy válnak butábbá.
Ennek az a háttere, hogy egyre nagyobb system promptokat készítenek a fejlesztők, hogy védekezzenek a helytelen használat ellen. Ennek mellékhatása, hogy a chatbot sokkal óvatosabban válaszol a kérdésekre, sőt a hétköznapinak tűnő kérdésekre sem válaszol, mert veszélyesnek ítéli meg.
(Borítókép: Jakub Porzycki / NurPhoto / Getty Images)