Az ügyfelek érzelmi állapotát vizsgáló mesterséges intelligencia használata miatt rekordösszegű, 250 millió forintos bírságot szabott ki egy hazai pénzintézetre a Nemzeti Adatvédelmi és Információs Hatóság – hívta fel a figyelmet a hatóság 2021-es éves beszámolójából kiderülő esetre a Deloitte. Mint kiderült, a hatóságnak elsősorban azzal volt problémája, hogy a beszédjel-felismerő és -értékelő szoftveres rendszer az ügyfelek hangulati állapota alapján határozta meg, mely ügyfeleket szükséges visszahívni az ügyfélmegtartás érdekében, azonban sem a szoftverhasználat tényéről, sem pedig a várható következményéről nem tájékoztatták egyértelműen és megfelelően az ügyfeleket. A NAIH utasította a bankot az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti az Általános Adatvédelmi Rendeletet (GDPR).
„Az eset számos problémát felvet; először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene. Ezenfelül az érdekmérlegelési tesztben nem vizsgálják az érintettek oldalát, nem részletezik a hangulati állapot elemzését, és az adatvédelmi hatásvizsgálatban sem javasolnak érdemi megoldást ennek a nem elhanyagolható kockázatnak a csökkenésére” – értékelte az esetet Barta Gergő, a Deloitte Kockázatkezelési tanácsadás üzletágának szakértője.
A cég közleménye felhívja a figyelmet arra, hogy a mesterségesintelligencia-rendszerekkel kapcsolatos kutatások száma és a tanuláson alapuló alkalmazások üzleti felhasználása az előző évtizedben jelentősen megnövekedett. A technológiai fejlődést azonban még nem követte a hatályban lévő jogi szabályozás, ez még várat magára. Egyebek között az EU is készít egy rendelettervezetet a mesterséges intelligencia használatáról, ennek 52 cikke részletezi az érzelemfelismerő rendszerek használatának lehetőségeit, és egyben szigorú tájékoztatási kötelezettségeket állapít meg, amelyek megszegése esetén magas, tiltott gyakorlatok alkalmazása esetén, akár 30 millió eurós bírsággal kell számolni a hatálybalépése után.
Közleményében a tanácsadó cég felhívja a figyelmet arra is, hogy a mesterségesintelligencia-rendszerek képesek többek között nyelvi elemek feldolgozására is, mely alkalmassá teszi az emberi beszéd és hangelemek kiértékelésére, így az érzelmi és hangulati ingadozások viszonylag pontos meghatározására. Az intelligens rendszerek efféle felhasználása számos kivetnivalót eredményezhet, mivel etikailag is megkérdőjelezhető felhasználásuk, rejtett előítéleteket tartalmazhat, ez pedig egyéb adatok felhasználásával diszkriminatív lehet az ügyfelekre nézve.
A NAIH tavalyi kötelezése felhívja a figyelmet az adatkezeléssel kapcsolatban az érintetti jogok megfelelő biztosítására, különösen, de nem kizárólagosan a megfelelő tájékoztatásra és a tiltakozáshoz való jognak a biztosítására. Az adatkezelésnek a szükségesre kell korlátozódnia, és ennek megfelelő tájékoztatást kell nyújtani az érintettek részére a kapcsolódó pontos következmények megjelölésével.
„Ez az ügy tökéletesen szemlélteti, hogy a mesterséges intelligenciára egy új típusú és fokozott kockázatú technológiaként kell gondolnunk, amit működési elvéből adódóan igen nehezen lehet átlátni és követni. A GDPR követelményei nem csak adminisztrációs feladatokat rónak az adatkezelőkre, a dokumentumokat nem elegendő csak formailag elkészíteni, a teendőt »kipipálni«. Jogos érdek alkalmazása esetén ez azt jelenti, hogy az érintetteket fenyegető adatvédelmi kockázatokat teljeskörűen fel kell tárni, és ezek kezelésére alkalmas szervezeti és technológiai garanciákat kell az adatkezelőnek életbe léptetnie. Nem magától értetődő tehát, hogy az adatkezelő jogos érdekére alapítva minden esetben megvalósítható az adatkezelés csak azért, mert erről egy teszt készül” – tette hozzá Albert Lili, a Deloitte Legal Technológia és Adatvédelmi Csoportjának jogi szakértője.
(Borítókép: A Nemzeti Adatvédelmi és Információszabadság Hatóság [NAIH], az Alkotmányvédelmi Hivatal [korábban Nemzetbiztonsági Hivatal] és az Alapvető Jogok Biztosának Hivatala [AJBH] irodáinak épülete a főváros V. kerületében, a Falk Miksa utcában 2021. július 11-én. Fotó: Róka László / MTI)