Egy friss jelentés szerint a népszerű képmegosztó nem csak ajánlotta az gyerekeket veszélyeztető tartalmaket, de a füle botját sem mozdította, amikor bejelentést kapott ilyen fiókokról.
A Stanford Egyetem, a Massachusettsi Egyetem és a Wall Street Journal munkatársainak közös nyomozása kiderítette, hogy a Meta képmegosztó szolgáltatása, az Instagram algoritmusa gyerekmolesztálással kapcsolatos tartalmat ajánl annak, aki ilyesmire keres.
A pedofilhálózatok által témakörökbe rendezett képek között önsebzést és bestialitást ábrázolók is voltak, és ezeket egyértelmű címkékkel jelölték. Amikor a kutatók tesztfiókon keresztül a pedofilok oldalaira látogattak, a platform algoritmusa rögtön hasonlókat ajánlott.
A tesztfiókot gyakorlatilag elöntötték a gyerekeket szexualizáló tartalmak
– fogalmazott a Wall Street Journal.
A lap jelentésére reagálva a Meta közölte, hogy azonnal belső csoportot alakítottak a kérdés haladéktalan kezelésére.
A gyerekmolesztálás szörnyű bűncselekmény. Folyamatosan nyomozunk, hogy aktívan védekezzünk az ilyen viselkedés ellen
– közölte a vállalat. Kiemelték, hogy csak idén januárban 490 ezer olyan fiókot távolítottak el, amely megsértette gyerekek védelmére vonatkozó szabályaikat, és az elmúlt 2 évben 27 pedofilhálózatot távolítottak el. A Facebookot és WhatsAppot üzemeltető cég közölte, hogy több ezer gyerekeket szexualizáló hashtaget letiltottak, és ezeket a keresőből is eltávolították.
Az, hogy három kutató korlátozott háttérrel ekkora hálózatokra bukkant, be kellene indítania a vészcsengőket a Metánál. Remélem, hogy ismét többet fektetnek az emberi felügyeletbe
– vélekedett Alex Stamos, a Meta egykori biztonsági főnöke, aki szerint a vállalat többet tehetne a probléma megoldása érdekében.
Ahogy Stamos nyilatkozatából is kitűnhet, az ügy nem áll meg az hashtageknél és ajánló algoritmusnál: a vizsgálat megállapította, hogy az Instagram figyelmen kívül hagyta, amikor pedofil tartalmakat jelentettek neki. A WSJ jelentése szerint, amikor bejelentést tettek egy konkrét fiókról, ami saját leírásában is kifejezetten pedofil tartalmat kínált, a platform törölte a bejelentést, és annyit válaszolt, hogy túl sok munkájuk van, ezért nem tudják megvizsgálni a fiókot. A Meta elismerte az esetet, és közölte, hogy felülvizsgálják belső folyamataikat.
A nyomozás más közösségi szolgáltatásokat is megvizsgált. A Twitteren mindössze 128 pedofil tartalmat ajánló fiókot találtak, harmadannyit, mint az Instagramon. A Snapchat csevegőszolgáltatáson vagy a TikTok videómegosztón ugyanakkor nem találtak ilyen tartalmakat.
A Stanford Internet Observatory technikai igazgatója, David Thiel szerint az Instagram problémája, hogy nem találta meg a megfelelő egyensúlyt a felhasználói aktivitást növelő ajánló algoritmus és a biztonsági követelmények között.