Szélsőséges tartalmak ellen küzd a YouTube
Több nagyobb fejlesztésre is elszánta magát a YouTube, hogy eleget tegyen az EU közelgő rendeletének a terrorizmusra felbujtó videók blokkolásával kapcsolatban. A bejelentések szerint rendszerszinten is bővíti a cég az eszközöket, de a moderálók körét is kiterjeszti.
Négy új eszközt fejlesztett ki a Google, amellyel a videós platformot igyekszik megtisztítani a szélsőséges tartalmaktól - szerepel a cég blogján. A döntésre az Európai Tanács miatt került sor, amely már előterjesztette, hogy törvény kötelezze a Facebookot, a Twittert és a YouTube-ot a gyűlöletbeszédet és a terrorizmusra vonatkozó felbujtást tartalmazó videók letiltására, speciálisan erre vonatkozó technológia implementálásával. Emellett Németország is bejelentette, hogy büntetni készül azokat a közösségi média vállalatokat, amelyek nem távolítják el "gyorsan" a szélsőséges videókat.
Ennek következtében a YouTube közzétette, hogy milyen terrorizmus-ellenes fejlesztéseken dolgozik jelenleg, de mint a közlemény hozzáteszi, már korábban is voltak eszközei a tartalmak szűrésére, csak a jövőben a kibővítésüket tervezi. A vállalat saját elmondása szerint képfelismerő technológiával már a feltöltés előtt monitorozza a videókat az ismert terrorista tartalmakra vonatkozóan. Ezenkívül egy rendszer a már feltöltött videókkal kapcsolatban is vizsgál olyan "tartalomalapú jeleket", amelyek jelzik a szükséges feltöltések eltávolítását. Továbbá a cég szélsőséges-ellenes szervezetekkel is partneri viszonyt épített ki, amelyek információkkal támogatják a platform fejlesztőit.
Egyik újdonság, hogy a jövőben a Google fokozottabban próbálja azonosítani a szélsőséges és terrorizmushoz kapcsolódó videókat. Amint a közlemény megjegyzi, a tartalmak szűrése olykor problémát jelent, mivel a témához kapcsolódó videók lehetnek hivatalos és objektív híradók is, viszont más felhasználók az erőszakot dicsőítő tartalmakat is feltölthetnek hasonló kulcsszavakkal. Az elmúlt hat hónapban a YouTube saját adatai szerint a terrorizmussal összefüggő nem kívánt videók felét sikerült eltávolítani a korábbi videóelemző modellel, de a jövőben még több erőforrást csoportosít a vállalat erre a fejlesztésre. A tervek szerint a Google egy olyan gépi tanulási technológiát hozna létre, amely fejlettebb tartalomkategorizáló funkcióval rendelkezik, és így gyorsabban jelzi, illetve távolítja el a szélsőséges videókat.
Továbbá növelni fogja a vállalat azoknak a számát, akik a YouTube "Trusted Flagger" független szakértői programjához tartoznak. "A gépek segítenek azonosítani a problémás videókat, de az emberi szakértelem még mindig fontos szerepet játszik az erőszakos propaganda és a vallásos vagy hírértékkel bíró beszédek közötti nüansznyi különbségek eldöntésében" - írja a közlemény. A Google szerint nagyon sok tartalmat kifogásoló bejelentés pontatlan, de a Trusted Flagger csoport résztvevői 90 százalékban helyesen jelzik az eltávolítandó videókat. Emiatt a vállalat 50 további civil szervezettel bővíti a jelenleg 63 tagot számláló programot, és nem részletezett mértében "működési támogatást" nyújt számukra. Ezek a szakértői csoportok azok, amelyek figyelik és jelentik a gyűlöletbeszéddel, önbántalmazással és terrorizmussal kapcsolatos tartalmakat, de a jövőben elképzelhető ezeknek a kategóriáknak is a kiterjesztése.
Machine recruiting: nem biztos, hogy szeretni fogod Az AI visszafordíthatatlanul beépült a toborzás folyamatába.
Ezenkívül a Google "keményebb álláspontot" fog megfogalmazni azokkal a videókkal is, amelyek nem egyértelműen sértik a platform szabályzatát, de például vallási szempontból lázítóak vagy valaminek a felsőbbrendűségét hirdetik. A jövőben ezek előtt egy figyelmeztető üzenet fog megjelenni, és a feltöltők nem kaphatnak pénzt ezekért a tartalmakért a támogatói rendszerben vagy akár a Super Chat szolgáltatáson keresztül. Így a jövőben ezek kevesebb nézőt fognak tudni elérni, és nehezebben lehet a videókra rátalálni. "Úgy gondoljuk, hogy ez megfelelő egyensúlyt teremt a szabad kifejezés és az információkhoz való hozzáférés között, anélkül hogy szélsőségesen offenzív nézőpontokat terjesztene." - teszi hozzá a közleményben Kent Walker, a Google általános tanácsadója.
Korábban a YouTube elkezdett már egy hasonló "tisztítási folyamatot", melynek során vélhetően egyszerre több száz videót minősített reklámmentessé, melyre a videoblogger közösség elég erőteljesen reagált és cenzúrát kiáltott - különösen a szűrés néhol nevetségesbe hajló pontatlansága vetette fel kérdéseket. Akkor a vállalat abbahagyta a videók megjelölését, de ezek szerint hamarosan újra folytatni fogja a számára megosztónak tartott tartalmak átminősítését.
Negyedik intézkedésként pedig a YouTube kiterjeszti a radikalizmus-ellenes törekvéseit, amelynek egyik része a "Creators for Change" programban résztvevőkkel közös videók készítése a gyűlölet ellen. A másik része viszont egy érdekes átirányítási módszer, amelyet a Jigsaw-val közösen implementál a Google egész Európában, és ennek keretében ha valaki az Isis tagokat toborzó hirdetésekre kattint, akkor a rendszer átirányítja a nézőket az antiterrorista videókra. Mint kiderült, a cég korábban is alkalmazta már ezt a módszert, így az elmúlt időszakban félmillió percet néztek meg a felhasználók ezekből a tartalmakból - az viszont nem derült ki, hogy mennyi idő alatt.
Korábban a YouTube már több közösségi moderációs funkció bevezetésével is próbálkozott, mint például az önkénteseket bevonó Heroes program, a videósoknak szóló Creator Hub szolgáltatások a csatorna karbantartásához vagy éppen a hozzáadott értékkel bíró hozzászólások kiemeléséhez - a felsoroltaknak viszont nem volt különösebb visszhangja, és ezek szerint nem oldották meg a fő problémákat. A mostani bejelentések szerint a YouTube a közösség helyett-mellett nagyobb erőforrásokat is mozgósít a szélsőséges tartalmak eltávolítása miatt. Korábban közös fórumot indított a vállalat a Facebookal, a Microsofttal és a Twitterrel is, ahol megosztják egymással és más kisebb cégekkel az online terrorizmus-ellenes információkat.