Új módszerrel okosítja fel a Google a kereső biztonságát

A Google keresője gyakran félreérti a bajba jutottak keresőfeltételeit, így például turisztikai keresésként értelmezi az öngyilkossági helyszínek iránti érdeklődést. Ha a keresés egyértelműen problémára utal, akkor a Google a helyi segélyszolgálatok telefonszámait jeleníti meg, de a helyzet nem mindig egyértelmű a keresőrendszer számára. Ennek megoldására a keresőóriás bejelentette, hogy a Search rendszerét legújabb mesterséges intelligencia modellje, a MUM (Multitask Unified Model) képességeivel ruházza fel.

A MUM összetettebb módon képes megérteni az információkat, mint a vállalat korábbi hasonló modelljei (pl. BERT), és a szövegek feldolgozása mellett a generálásukat is megoldja, ezenkívül a képek kezelésével is boldogul. A modell 75 különböző nyelven működik, így például jobban tudja értelmezni az egyszerre több nyelvet tartalmazó keresőkifejezéseket, és lefordít bármit az ismert nyelvek közt. A bántalmazottak és bajbajutottak szempontjából pedig segítséget nyújt a bonyolultabb keresőkifejezések megértésében. Ha a felhasználó csak rejtetten, kérdés szintjén utal rá, abban is felismeri a problémát.

Ünnepi mix a bértranszparenciától a kódoló vezetőkig Négy IT karrierrel kapcsolatos, érdekes témát csomagoltunk a karácsonyfa alá.

Szemléletes példa, hogy ha a felhasználó a "leggyakoribb öngyilkossági módszerekre keresett", akkor azt a korábbi modell egy egyszerű információkeresésként értelmezte, és ennek megfelelően jelenített meg találatokat. Egy másik példa szerint a "miért támadott meg engem, mikor elmondtam, hogy nem szeretem" keresést a Google szintén nem tudta az eddigiekben segélykérésként értelmezni az összetett nyelvi szerkezet miatt. A MUM viszont már képes lesz ezek megértésére, és ennek megfelelően a helyi segítő szervezetek telefonszámainak megjelenítésére a keresésre adott válaszként, melynek megjelenésére "a következő hetekben" lehet számítani.

Ezenkívül más mestereséges intelligencia alapú biztonsági fejlesztések is történtek és vannak még folyamatban a háttérben. A BERT nyelvi modell "az explicit tartalmak" kiszűrését segíti, a vállalat szerint a találatok 30 százalékából szűrte ki a "váratlan, sokkoló" megjelenéseket, főleg az etnikai hovatartozáshoz, szexuális irányultsághoz kapcsolódó keresésekben. A MUM pedig a következő hónapokban a spam oldalak kiszűrésében is előáll egy új megoldással.

A fentiekből is látszik, hogy a Google és az Alphabet csoport más tagjai is egyre több helyen igyekeznek bevetni a gépi tanulás, természetes nyelvi feldolgozás és egyéb mesterséges intelligencia alapú megoldásokat. A szakértők szerint mindez nem várt problémákat is okozhat, például jobban elterjedhet a torzítás és a félretájékoztatás a kereső találataiban, miközben a Google nem ad átlátható képet, például hogy a MUM milyen keresőkifejezéseket azonosít a bajbajutottak segítségkéréseként.