Troll-etető lett a Facebook Trends
Lecserélte a "Trendek" lista szerkesztőit algoritmusra a Facebook, de a változás nem a várt következménnyel járt. Az elfogultsággal vádolt hírszerkesztők helyett megjelent az "elfogult" algoritmus, amely a legnépszerűbb közösségi tartalmakat választja ki - figyelmen kívül hagyva azok igazságtartalmát.
Megszüntette a Trendek rovat szerkesztőségét a Facebook, és teljes mértékben algoritmusokra cserélte a csapatot. A fejlesztők által írt kódok viszont rögtön az első munkahetükön hamis pletykát kezdtek el terjeszteni a Trendek között, ezzel tovább dagasztva a hírlista körül zajló felzúdulást, ami március óta folyamatossá vált a politikai elfogultsággal vádolt hírszerkesztők miatt.
Ez a rovat egy olyan funkció a Facebook falon, amely a közösségi háló legnépszerűbb témáit közli egy listába gyűjtve. A tartalom egyelőre csak angol nyelven működik, így Magyarországon nem elérhető, pedig a Facebook fejlesztői pont az önműködő és pártatlan algoritmusok beindításától várták volna a funkció nemzetközi elterjedését.
Elfogult vagy nem elfogult?
A botrányt a Gizmodo indította el egy leleplező cikkel, amelyben a Trendek korábbi munkatársai nyilatkoztak a munkafolyamatról. Az újságírókból álló csapat 2014 óta szerkesztőségként működött a Trendek körül, címeket és összefoglalókat írtak, linkeket illesztettek be a rövidhírekhez. A megjelenő híreket azonban befolyásolták a vezetőség instrukciói a volt dolgozók állítása szerint, a Facebook utasította őket bizonyos hírek beemelésére, míg más témák kivételére a listából, például figyelmen kívül kellett hagyniuk a konzervatív politikai híreket. Mindez azért jelent nagy problémát, mert a Facebook könnyen befolyásolhatja 167 millió amerikai felhasználó gondolkodását azzal, hogy mit látnak rendszeresen a fontos hírek között.
A Facebook titakozott a vádak ellen, a Trendek rovatért felelős Tom Stocky a saját profilján igyekezett megmagyarázni a szerkesztési folyamatot rögtön egy nappal a bíráló cikk után. Stocky bejegyzése szerint a közösségi hálón előforduló témákat egy algoritmus elemzi, majd a szerkesztők csak átfésülik a tartalmat néhány szempont alapján, de nincs utasítás ettől eltérő témák beemelésére a hírlistába.
Saját igazának a bizonyítására a Facebook belső nyomozást indított, majd az eredményeket nyílt levélben jelentette meg John Thune-nak, a Kereskedelmi Bizottság Szenátus elnökének címezve, mely szerint nem talált politikai elfogultságra való jelet a szerkesztési folyamat során. A levél részletesen leírja, hogy a szerkesztői kézikönyvben nem volt utasítás a politikai hírekre vonatkozóan, hanem csak néhány érthető esetben nem került be a hír a rovatba, például ha nem egyedi eseményről (pl. #ebéd), duplikált tartalomról vagy megtévesztő forrásról volt szó. A szenátus elnöke elfogadta a vizsgálat eredményét, ugyanakkor megjegyezte, hogy a rendszer sokkal inkább az emberi ítélőképességre van bízva az automatikus folyamat helyett, mint azt korábban gondolta volna.
Bevallotta a Facebook, hogy a belső vizsgálat során talált néhány hibát, de a rendszerszintű elfogultságot továbbra is tagadja. Az említett trendfigyelő algoritmus mellett a Facebook használt egy RSS hírfolyamot is a válogatáshoz, de ezt elvetette a vizsgálat után, és nem használja a továbbiakban azt a listát sem, amely korábban a különösen fontos cikkeket gyűjtötte össze.
Szerkesztők ki, algoritmus be
A történtek és a cáfoló nyilatkozatok sorát követően a Facebook mégis elbocsátotta a Trendek híreit szemléző újságírókat - csak néhány, gyors ellenőrzést végző szerkesztőségi tagot hagyott, és helyükre az algoritmusokat állította be. A vállalat tervei szerint a kódok több paraméter szerint személyre szabott trendcsokrot tudnak összeállítani, alapul véve a felhasználó által kedvelt oldalakat, a lokációt és a korábban kedvelt vagy kommentált híreket. Az új felállásban azért nincs szükség újságírókra, mert a kivonatot a rendszer magából a hírből nyeri ki.
Bár az elképzelés jónak tűnt, de 72 órával az algoritmusok magára hagyását követően - más elképesztő hírek mellett -, megjelent egy egyértelműen hamis és felháborodást keltő hír a trendek között az áruló Megyn Kellyről, akit "kirúgtak" a Fox News-tól. A tartalomról egy szerkesztő pár pillanat alatt el tudta volna dönteni, hogy nem igaz, de az algoritmus kudarcot vallott. A Facebook fejlesztői végül úgy oldották meg a problémát, hogy frissítették a megbízható források listáját, és kicserélték a hír linkjét egy másik oldalra.
A Gitlab mint DevSecOps platform (x) Gyere el Radovan Baćović (Gitlab, Data Engineer) előadására a november 7-i DevOps Natives meetupon.
Az egész történet jól szemlélteti, hogy milyen problémák fordulhatnak elő az emberi munka közben, és ha a tapasztalt munkaerőt a vezetőség kódokkal próbálja felváltani - pedig a Facebook már szerzett tapasztalatot a hírfolyam algoritmusa kapcsán. Ebben az esetben a szerkesztőket politikai elfogultsággal vádolták, de nem számoltak azzal, hogy az algoritmus is lehet "elfogult" - ráadásul a programozók gondolkodását tükrözi -, ebben az esetben a legnépszerűbb hírek irányában a megbízható forrásokkal szemben. Az minden esetre meglepő, hogy a Facebook nem hagyott átmeneti időszakot, amíg az algoritmus munkáját emberi kéz ellenőrzi, és jelzi a szükséges módosításokat a fejlesztőknek. Az is kérdéses, hogyan lehet az algoritmus munkáját a végsőkig tökéletesíteni, amíg képes lesz felismerni minden egyes valótlan hírt.