2019-ben negyedévente 2 milliárd kamuprofilt távolított el a Facebook, nemrég arról is mesélt, hogyan hívja ehhez a feladathoz segítségül a gépi tanulás folyamatát. A hamis profilokat általában spamek küldésére, adathalászathoz és csalásokhoz használják vagy éppen vírusokat küldenek a többi felhasználónak.
Két részre lehet bontani a kamuprofilokat. Az egyik csoportba tartoznak azok, amiknek tulajdonképpen oldalnak kellene lenni, mégis személyként vannak fenn a közösségi oldalon. Néhány vállalkozás csinálja ezt, vagy ide sorolhatóak például a kisállatok profiljai is. Ez a könnyebbik eset, mert egyszerűen csak átkonvertálják oldallá, és a probléma megoldódott. A másik csoport a veszélyesebb, azok a személyes profilok, amiket adathalászatra, spammelésre és bármi olyan dologra használnak, amik megsértik a felhasználási szabályzatot. Ezeket még az előtt el kell tüntetni az oldalról, hogy kárt okozhatnának.
A Facebook célja, hogy az ilyen oldalakat még az előtt kiszűrje, hogy aktiválnák, vagyis elindulna a csalás, ehhez pedig az kell, hogy már az oldal készítése közben jelezzenek az algoritmusok. Miután egy profil elkészül, az algoritmusok elkezdik mélyen elemezni a személyt, ezt hívja a Facebook úgy, hogy Deep Entity Classification (DEC).
A DEC elemzi a felhasználó kapcsolati rendszerét, ugyanis máshogy néz ki egy valós és egy kamuprofil kapcsolatainak szerkezete, de ezen kívül is több mint 20 ezer szempont szerint karakterizálják a profilokat, hogy nehezebb legyen kijátszani, és valós képet kapjanak arról, hogyan működik egy valós és egy kamuprofil.
Kezdetben automatikusan generált, nem túl specifikus, de nagy mennyiségű címkét generál a rendszer előre meghatározott szabályok szerint, aztán jön a finomhangolás, amiben már olyan szabályrendszerek is vannak, amik például az adott kultúrát és a normákat és rengeteg más tényezőt is figyelembe vesznek. Ez a típusú mélyelemzés olyan kamuprofilokat is kiszűr, amik más nevében születnek, az olyan profilokat, amiket valaki feltört és használja, olyan profilokat, amik folyamatosan spammelnek, és azokat, amik felhasználókat manipulálnak.
A Facebook elemzése szerint mióta ezzel a módszerrel dolgoznak, a kamuprofilok aránya 5 százalék alatt maradt.
A Facebookot az utóbbi időben több kritika is érte azzal kapcsolatban, hogy például az amerikai elnökválasztásra milyen hatással lehetnek a kamuprofilok, és az általuk generált dezinformációs kampányok. A közösségi oldal szerint csak véletlen egybeesés, hogy az új profilelemző rendszerüket a választások környékén élesítették, ugyanis ők minden típusú csalás ellen fel szeretnének lépni. A Facebook mérnöke, Daniel Bernhardt kiemelte, hogy azzal, hogy ennyire mély és részletes elemzést készítenek az algoritmusok a potenciálisan kamuprofilokról, a deepfake képek és videók ellen is hatékonyabban fel tudják venni a versenyt.
A szakértők szerint mindenképpen értékelendő, hogy a Facebook megoszt olyan részleteket, amik a sokkal kisebb vállalkozásoknak is segíthetnek, melyik módszer az, ami beválhat a kamufelhasználók és más támadások ellen. Ugyanakkor emlékeztetnek arra is, hogy az 5 százalékos eredmény még mindig azt jelenti, hogy
havonta 125 millió kamuprofil van jelen aktívan a Facebookon.
Bár rengeteget segít a gépi tanulás a hamis profilok elleni harcban, egyedül nem tudja teljesen kiszűrni a kártékony oldalakat, vagyis a jobb eredményhez valószínűleg olyan módszerre lesz szükség, ahol az ember és a gépek együtt lépnek fel a csalók ellen.