Diszkriminatív hirdetéseket is közzé lehetett tenni Facebookon
Korábban "nem tűnt fel" a Facebooknak, hogy a hirdetők különböző antiszemita kifejezésekkel is rátalálhattak a megcélozni kívánt közönségre, és politikai üzeneteket helyezhettek el számukra.
Hatalmas botrányt okozott a ProPublica felfedezése, hogy a Facebookon a hirdetők különböző antiszemita felhasználókra is tudnak szűrni, és célzott reklámokat elhelyezni a csoportok számára az önkiszolgáló rendszeren keresztül. A közösségi oldal válaszként időlegesen lezárta e kategóriáknak használatát, amelyekkel diszkriminatív hirdetéseket lehetett elhelyezni, például egyes vallási csoportok számára. A vállalat a közleményben hozzátette, hogy a közösségi irányelvek tiltják a felhasználók támadását a "védett jellemzőkön" keresztül, és a hirdetők számára sem megengedett a kirekesztő célú reklámok közzététele. "A gyűlöletbeszédnek és a diszkriminatív hirdetéseknek nincs helye a platformunkon" - írja a cég.
A Facebook hirdetési rendszerében olyan kifejezéseket is ki lehetett választani a célzási kategóriák közül, mint például "Hitler semmi rosszat nem tett" vagy "zsidógyűlölő" - közölte beszámolójában a ProPublica. Ezek a kategóriák ugyanúgy a hagyományos hobbi és érdeklődési kör között jelentek meg, amelyeket a hirdetők kiválaszthattak. Ráadásul a rendszer ki is egészítette a beírt karakterek alapján a lehetséges kifejezéseket. Ezáltal pedig néhány cég kihasználhatta a helyzetet, hogy politikai célú reklámokat jelentessen meg a csoportok számára.
A ProPublica szerzője ki is próbálta három hirdetés feladását, amelyben például az antiszemitizmus és a náci párt kifejezések szerepeltek, és sikeresen meg is jelent a közösségi oldal jóváhagyásával az üzenete a célzott csoportok számára, néhány percen belül. A probléma nem egy új frissítéssel érkezett, hanem már régóta a rendszer "vakfoltját" képezte, így korábban ki is használhatták a hirdetők - teszi hozzá a TechCrunch.
A ProPublica egyik próbahirdetése a kiválasztott antiszemita kifejezésekkel
A Gitlab mint DevSecOps platform (x) Gyere el Radovan Baćović (Gitlab, Data Engineer) előadására a november 7-i DevOps Natives meetupon.
A problémát az okozta a Facebook magyarázata szerint, hogy a felhasználók "egy kis százaléka" vagyis néhány ezer ember az oktatás vagy a munkaadó mezőbe olyan kifejezéseket írt, amelyek sértik a közösségi oldal szabályzatát. A rendszer algoritmusa számára valószínűleg nem egyszerű megkülönböztetni, hogy az oktatás mezőben mi a különbség a "Judaizmus története" tanulmányok és a "Miért a zsidók rombolják a világot" kifejezések tartalma között, de a fejlesztés problémája mindenképp a Facebookot terheli - teszi hozzá a TechCrunch. Ezek a mezők ugyanis a hirdetők rendszerében mind választható kategóriákként jelentek meg a kampányokhoz. A vállalat igyekszik hangsúlyozni, hogy mivel a profilok közül "nagyon kevés tartozott ebbe a szegmensbe", ezért a reklámkampányokban sem lehetett sokakat elérni ezeken a mezőkön keresztül.
A Facebook ígéretet tett arra, hogy hamarosan javít az algoritmuson és a folyamatokon, illetve megelőző intézkedéseket tesz, hogy a jövőben elkerülje a hasonló problémákat. Az viszont sok kérdést felvet a vállalat gyűlöletbeszéd elleni hatékonyságával kapcsolatban, hogy korábban senki nem jelentette ezeket a kategóriákat a rendszerben, és a Facebook eddig a diszkriminatív hirdetésekkel is bevételhez tudott jutni.