Öngyilkosságra utaló jeleket keres a Facebook AI
Az öngyilkosságok élő közvetítése komoly probléma Facebookon, amit eddig is lehetett jelenteni és egyszerű eszközökkel segíteni, de ez kevésnek bizonyult. Mostantól AI pásztázza a bejegyzéseket, de a felhasználók félelme szerint a megoldás másra is használható.
Újfajta mesterséges intelligencia megoldást jelentett be Mark Zuckerberg vezérigazgató, amely a közösségi oldalon megjelenő bejegyzéseket és élő közvetítéseket vizsgálja, hogy tartalmaznak-e önkárosításra utaló mintázatot. A veszélyeztetett felhasználókról a rendszer értesítést küld a felkészített szakértőknek, akik megteszik az adott esetben szükséges lépéseket. A vállalat szerint mindezzel lecsökkenhet az ideje, míg a segítség eljut a megfelelő személyhez, mivel a megoldás gyorsabban működik mint az ismerősök öngyilkossági hajlamának bejelentését Live-on és Messengeren támogató funkció az Egyesült Államokban.
Az AI megkülönbözteti, hogy a felhasználó részben veszélyeztetett helyzetben van vagy pedig sürgős intézkedést igényel, és utóbbi esetek "kétszer gyorsabban" jutnak el az emberi segítőkhöz. Arról viszont nem túl sok derül ki, hogy a megoldás pontosan milyen jelzéseket figyel. Zuckerberg egyedül a "jól vagy?" visszakérdezést említi a hozzászólások közt, de a rendszer nyilvánvalóan ennél több jelet vizsgál. A vezérigazgató hozzáteszi, hogy a jövőben a gépi tanulással működő megoldás figyelmesebb lesz a nyelv apró részleteire, pontosabban azonosítja például a zaklatást vagy a gyűlöletet.
Segítségképp a rendszer automatikusan összegyűjti a felhasználó nyelvén a mentális egészség megőrzéséhez hasznos forrásokat, és hogy kik számíthatnak elsődleges kapcsolatnak, akiket érdemes értesíteni a segítségre szoruló ismerősükről - a kiképzett segítő pedig vélhetően felveszi velük a kapcsolatot. A vállalat egyébként újabb moderátorokat is képez, akik a hét minden napjában, minden órában tudják követni a rendszer jelzéseit, majd megfelelő segítséget tudnak nyújtani.
Március óta jelenthetik a felhasználók Facebookon, ha valaki öngyilkosságot akar elkövetni
Machine recruiting: nem biztos, hogy szeretni fogod Az AI visszafordíthatatlanul beépült a toborzás folyamatába.
Az elmúlt időszakban több olyan esetről is lehetett hallani, mikor egyes felhasználók az oldalon élőben közvetítették öngyilkossági kísérletüket vagy búcsúüzenetet tettek közzé. A Facebook valószínűleg ezeknek az üzeneteknek a terjedését igyekszik megakadályozni, illetve hogy a kísérletek sikerrel járjanak. Bár Zuckerberg indoklása ennél általánosabb, a statisztikák alapján az öngyilkosság a leggyakoribb halálozási ok a fiatalok körében, így az oldal a megfogalmazása szerint ezen szeretne változtatni. A tesztek során 100 esetben sikerült az öngyilkosjelöltek közeli hozzátartozójának segítségével "wellness checket" végezni, és megakadályozni, hogy nagyobb gond történjen - írja egy közleményben Guy Rosen termékmenedzser.
A felhasználók félelme szerint a tartalmakat vizsgáló mesterséges intelligencia nem csak az öngyilkossági hajlamra utaló jeleket vizsgálhatja, hanem politikai cenzúra vagy bűnüldözési céllal is bevethető a facebookozók tudta nélkül. A kék óriás igyekszik hárítani a vádakat, hogy bármilyen leplezett céllal próbálná bevetni a bejegyzéseket átfésülő prediktív megoldást. Egy kételkedő hozzászólónak Zuckerbeg azzal válaszolt, hogy meg kell különböztetni "a jó és a rossz AI-t" és a fejlesztők felelőssége, hogy a társadalom számára pozitív megoldásokat hozzanak létre, szerinte pedig a jelenlegi fejlesztés ezek közé tartozik.
Mostantól a Facebook AI világszerte vizsgálja az oldalon megjelenő bejegyzéseket, de az Európai Unió országainak állampolgárai kivételt képeznek, mivel ahogy a TechCrunch is megjegyzi, a GDPR szigorúbb szabályokat ír elő a felhasználók érzékeny adatainak monitorozásával összefüggésben mint más országok.