Az Apple Sirije, az Amazon Alexája vagy a Google (épp most felturbózott) Asszisztense ékes példái annak, hogy a mesterséges intelligencia szép lassan a mindennapok részévé válik, könnyebbé és kényelmesebbé teszi az életünket. Nem kell már gépelgetni se, ha valami óhajunk-sóhajunk van, csak mondanunk kell, és a gép válaszol.
Na de mi van, ha nem csak azt hallják ezek a hangvezérelt asszisztensek, amit mi mondunk nekik, hanem azt is, amit hekkerek parancsolnak, ráadásul úgy, hogy az emberei füllel hallhatatlan? Illetéktelen kezekbe kerülve ajtókat lehetne kinyittatni, pénzt átutaltatni vagy ezer más módon megkárosítani az asszisztensnek otthont adó kütyü tulajdonosát. A Berkeley-i Kaliforniai Egyetem kutatói szerint márpedig ez a veszély nagyon is reális – írja a New York Times.
Azt az utóbbi pár évben már amerikai és kínai kutatók is többször demonstrálták, hogy ezek az asszisztensek rábírhatók észrevétlenül különböző parancsok végrehajtására. 2016-ban a Berkeley és a Georgetown Egyetem hallgatói fehér zajban is el tudták rejteni a kéretlen parancsokat. A Berkeley csapata viszont most továbbment:
közvetlenül zenébe és hangfelvételekbe ágyazták be az emberi fül számára hallhatatlan parancsokat,
vagyis amíg a felhasználó zenét vagy rádióbeszélgetést hallgat, a közelben figyelő eszköze titkos parancsokat fogad a távolból.
A kutatók szerint egyelőre nincs bizonyíték arra, hogy ezt a módszert a laborjaikon kívül más is ismeri és alkalmazni tudja, de ez csak idő kérdése, és feltehetően már javában dolgoznak rajta.
A módszer hasonló ahhoz, ahogy a képelemző algoritmusokat is át tudják verni kutatók: ott a pixeleket, itt a hangokat igyekszik a gép a maga nyelvére fordítani, de ha sikerül apró (az ember által észrevehetetlen) módosításokkal elhitetni velük, hogy más látnak vagy hallanak, könnyen eltéríthetővé válnak.