Ma már a népszerű online szolgáltatások algoritmusai döntenek egy gyerek életének fontos részeiről. Mit nézzen? Mit hallgasson? Vagy éppen mennyire legyen népszerű a kortársai között? Az UNICEF közzétette ajánlásait a gyermekek jogainak mesterséges intelligenciával szembeni védelméről.
Ötven követője van a legóépítős dolgaimnak – dicsekszik vacsora közben a 6 éves Pistike, aki még nem tud írni, olvasni vagy számolni, és mivel nem internetezhet, valójában nincsenek online követői. Anyukája hangosan összeszámolja neki, hogy hány követője lehet rokonokból és barátokból, a végeredmény ötvennél jóval kevesebb. Annyira sokan követnek, hogy nem is ismerem őket – vélekedik Pistike.
Ahogy régen a televízió előtt hagyott gyereket a tévé nevelte fel, a maiakat a számítástechnikai eszközök. Minden iskolásnál van telefon vagy okosóra, de ha egyik sincs, jó eséllyel találkozhat okostelevízióval vagy számítógéppel otthon. Gyakorlatilag kikerülhetetlenné váltak a mesterséges intelligenciát (MI) futtató eszközök.
Mesterséges intelligencián jelen esetben nemcsak beszélgetésre vagy autóvezetésre képes programokat értünk, hanem olyan algoritmusokat, amelyek korábban ember által végzett részfeladatot hajtanak végre, vagy helyette hoznak döntéseket. A döntéshozó mesterséges intelligenciák általában gépi tanulással sajátítják el az intelligens viselkedést. Ez utóbbira példa a mára az online szolgáltatásokban elterjedt ajánló algoritmusok, amelyek a következő videó, fotó vagy potenciális ismerős személyre szabott ajánlásával komoly befolyással vannak az egyén gondolkodására.
Az algoritmus dönti el, hogy mi pattan fel a YouTube-on, Instagramon vagy TikTokon, és olyan dolgokra is hatással lehet, hogy mennyire népszerű valaki a kortársai körében, és ki legyen a barátja. Ma ezek a szolgáltatások nem veszik figyelembe egy gyerek igényeit, pedig
ők teszik ki az online közönség harmadát.
„Mivel fejlődésben vannak, fizikailag és érzelmileg könnyen formálhatók” – mondja Steve Vosloo, az ENSZ gyermekalapja, az UNICEF szakértője a mesterséges intelligencia szabályozása a gyermekekért program vezetője.
Az ENSZ munkatársai 39 ország döntéshozóinak és szakértőinek bevonásával, valamint 250 gyerek megkérdezésével készítették el első ajánlásukat, amely az ENSZ-közgyűlés 1989-ben elfogadott gyermekjogi egyezményén alapul. Emellett a Berkeley Egyetem jogi kara által készített 2019-es, gyermekjogokat és mesterséges intelligencia problémáit körüljáró jelentésére támaszkodtak.
A Berkeley jogászai olyan problémákat is felvetettek: mint az intelligens játékok, például babák működése, amelyek felveszik és a felhőben tárolják a hozzájuk beszélő gyerek hangját. A CloudPets intelligensplüssállat-gyártó esetében például hackerek nyolcszázezer felhasználó személyes adatait lopták el 2017-ben. A CloudPets végül jelszavas védelemmel orvosolta a problémát, de mivel a későbbiekben nem válaszolt a megkeresésekre, termékeit egy évvel később eltávolították az Amazon webáruházából.
A Mattel esetében azzal kapcsolatban merültek fel kérdések, hogy a 2015-től forgalmazott intelligens játékuk, Hello Barbie tényleg csak akkor hallgatózik-e, amikor a felhasználó akarja, és megnyomja a baba övén elhelyezett gombot. A játékhoz tartozó online felület, a ToyTalk honlapján keresztül a szülők egyébként meghallgathatták és a törölhették a játék által felvett hangokat, de a Hello Barbie esetében ennél is bonyolultabb élethelyzetekbe is belefutottak: amikor a gyerek megnyilvánulása önveszélyes viselkedésre utal vagy őt ért zaklatásról beszél. Előbbi esetben
a játék felszólította, hogy beszéljen felnőttel a problémájáról,
utóbbi esetben viszont az amerikai törvények értelmében nem volt jelentési kötelezettsége vagy lehetősége a cégnek. A játék gyártását 2017-ben befejezték.
Hasonló történet a My Friend Cayla hajas baba, amelyet illegális lehallgatóeszközként betiltottak Németországban.
„Sajnos a kutatások azt mutatják, hogy a szülők nem igazán vannak tisztában azzal, hogy mit csinál a gyermekük az interneten. Ennek több oka is van: egyrészt, sok esetben a szülők nem igazodnak el annyira az online térben, mint a gyerekek, nincsenek meg a készségeik ahhoz, hogy felügyeljék gyermekük tevékenységét. Másrészt, tiszteletben szeretnék tartani a gyerek magánéletét, még annak ellenére is, hogy a társas tevékenység ezeken a felületeken teljesen publikus. Harmadrészt, sok szülő nincs tisztában a veszélyekkel. És végül, nyilván nem is mindig tudja a szülő felügyelni a dolgot, hiszen nincs annyi ideje, és nem lehet állandóan a gyerek mellett. Ezért azt gondolom, hogy nem elég, ha a szülők szabályozzák ezeket a kérdéseket, egyetértek azzal, hogy jó, ha van intézményesítettebb szabályozás” – vélekedik dr. Konok Veronika, az ELTE Etológia Tanszék és a NKFIH Felsőoktatási Intézményi Kiválósági Program munkatársa.
„A gyerekek számára nyilván sokkal több olyan tartalom létezik, amely traumatizálhatja őket, vagy a fejlődésüket nem a megfelelő irányba tereli. Sokkal több dolog ijesztő a számukra, és ráadásul kevésbé vannak meg az eszközeik ahhoz, hogy a bennük keletkező negatív érzéseket kontrollálják, mint a felnőtteknek. Sokkal kevésbé tudatosak is, így könnyebb őket manipulálni, pl. reklámokkal vagy a kortársak által. Mivel kevésbé fejlett az önkontrollképességük is és az időérzékük is, hajlamosabbak még jobban belefeledkezni az online tevékenységbe, mint a felnőttek.”
„A nem kívánt tartalmak csak egy részét képezik a veszélyeknek. A gyerekek ki vannak téve idegenek zaklatásának, abúzusnak is, ezenkívül egymást is bánthatják, megjelenhet a cyberbullying jelensége, vagyis az online térben való kiközösítés. De veszélyforrás még a szexuális tartalmak egymással való megosztása is.”
A szakember szerint mindenképpen érdemes betartani a közösségimédia-oldalak többségén érvényes 13 éves korhatárt, és érdemes például családi étkezéseknél, tanuláskor vagy lefekvés előtt kerülni a mobileszközök használatát. Dr. Konok Veronika szerint az online szolgáltatásoknak a maguk a jó oldalai mellett veszélyeik is vannak.
„A pszichés veszélyek közé tartozik a függőség és a depresszió. De valószínűleg sok hatás még ismeretlen, hiszen nem olyan régóta létező jelenség az, hogy a gyerekek már egész kicsi kortól használják az internetet és a digitális eszközöket. Sok kutatásra van még szükség ezen a területen. Mi, az etológiai tanszéken működő Alfa Generáció Laborban is számos kutatást végeztünk és végzünk, hogy megállapítsuk, milyen hatással van a gyerekekre a mobil- és tablethasználat. Ezek még folyamatban levő vizsgálatok, de annyit például már tudunk, hogy néhány perces kütyüzés is elég ahhoz, hogy megváltoztassa a figyelmi folyamatokat.”
Az UNICEF-program munkáját az IEEE-SA nemzetközi szabványügyi közösség és Finnország kormánya támogatta. A finnek egyébként szeretnék elérni, hogy a lakosság legalább 10 százaléka elvégezze a mesterséges intelligencia alapjait bemutató online kurzust.
Az ENSZ-szervezettel együttműködésben és párhuzamosan jelentette be a Pekingi Mesterséges Intelligencia Akadémia (BAAI) nagyon hasonló alapelveit a kínai tudományos és technikai minisztérium. A BAAI a legnagyobb kínai technológiai cégekkel – többek között a Xiaomival és a Baiduval – dolgozott az MI-ajánlásokon. A javasolt kínai szabályozás a helyi sajátosságoknak megfelelően külön kitér a környezet védelmének fontosságára is.
„Nyitott szemmel kell mozognunk ezen a területen. Tisztában vagyunk vele, hogy ez teljesen új terület a kormányoknak és a cégeknek. Ha a gyerekeket bevonják a mesterséges intelligencia szabályozásának megalkotásába, és többet törődnek azzal, hogy hogyan kezelik az adataikat, ha jobban elmagyarázható a mesterséges intelligencia működése a gyerekeknek és azoknak, akik róluk gondoskodnak, az már győzelem” – vélekedett Vosloo.
Az alapelv: a gyermekjogok érvényre juttatása, gondoskodás, biztonság és elfogadás által.
(Borítókép: NurPhoto / Getty Images)