Ezért indult botrányosan az AI-kereső a Google szerint
Magyarázkodik a keresőcég az AI Overview kapcsán, de bevallása szerint is finomításra szorul a fejlesztés.
A Google éves fejlesztői konferenciáján beszélt arról a hónap elején, mennyivel könnyebbé teszi majd a hasznos információk előásását a keresőbe integrált "AI Overview" funkció, amit a Gemini generatív nagy nyelvi modellre épített fel. Az AI Overview összefoglalókat és válaszokat generál a felhasználó által feltett kérdésekre a keresési találatok listájának tetején, ami megváltoztatja annak módját, ahogy az internetezők eddig interaktáltak és információt kerestek a legnépszerűbb keresőben.
Az egyelőre kísérleti és korlátozottan elérhető funkciót használatba vevő felhasználók képernyőmentései az elérhetőség kiterjesztése után elárasztották a közösségi felületeket, mivel egyes esetekben nem csak hamis vagy félrevezető, de egészen bizarr válaszokat és tanácsokat ad a szolgáltatás. Például, hogy a magát kereszténynek valló Barack Obama muszlim, Afrikában nincs K kezdőbetűvel kezdődő ország (Kenya), vagy azt javasolja, hogy ragasztó segítségével lehet segíteni a pizzáról leeső sajt problémáján, illetve érdemes napi egy követ elfogyasztani annak magas vitamin- és ásványianyag tartalma miatt.
A keresőóriás a múlt hetet egy blogbejegyzéssel búcsúztatta, amiben Liz Reid, a Google alelnöke és a Search divízió vezetője hivatalosan is elismeri, hogy a funkció egyelőre hibákkal terhelt, egyben vázolta a lépéseket, amit a szolgáltatás fejlesztése érdekében tettek és terveznek még a visszajelzések alapján.
Ünnepi mix a bértranszparenciától a kódoló vezetőkig Négy IT karrierrel kapcsolatos, érdekes témát csomagoltunk a karácsonyfa alá.
A cég több mint egy éve teszteli az AI Overview-t, ami 2023-ban lépett bétaverzióba még Search Generative Experience elnevezéssel. Sundar Pichai vezérigazgató szerint addig több mint egymilliárd lekérdezést szolgált ki a fejlesztés. Állítása szerint sikerült 80 százalékkal csökkenteni a válaszok generálásával járó költségeket is a „mérnöki és technikai áttöréseknek” köszönhetően.
Alapvető probléma, hogy a különféle generatív AI-eszközök nem képesek megítélni az internetről előásott információ hitelességét, ellenben szívesen dolgoznak a felkeresett oldal népszerűsége alapján, így kerülhetett bele a kavicsok evéséről szóló tanács a The Onion portálon megjelent szatíra cikk nyomán, ami rendkívül olvasott volt.
A Google emberének magyarázata szerint az AI Overview egészen másként működik, mint a széles körben elérhető chatbotok és más nagy nyelvi modellekre épülő szolgáltatások, mivel nem csak a képzési adatok alapján állítja elő a kimenetet. Magát a funkciót egy speciális nyelvi modell működteti, amibe integrálták a „hagyományos" internetes keresési feladatok elvégzésére kialakított webes rangsoroló rendszert a jó minőségű eredmények azonosítására. Így az eszköz nem csak szöveges választ generál, de releváns linkeket is ajánl. A cég ezzel magyarázza, hogy a funkció „nem hallucinál”, tehát nem talál ki dolgokat olyan értelemben, mint más generatív termékek, hanem mindig valamilyen internetről elérhető információból dolgozik.
Az AI overview működése tehát azon a megkérdőjelezhető feltételezésen alapul, hogy a Google rangsoroló algoritmusa a hiteles és pontos eredményeket részesíti előnyben, nem pedig a SEO-szempontból jól optimalizált találatokat. Két éve került ismét terítékre a vita, hogy a Google kereső hanyatlásnak indult-e, miután Dmitri Brereton mérnök megosztó bejegyzést írt arról a tendenciáról, hogy a felhasználóknak egyre nehezebb feladat előásni a releváns, jó minőségű organikus találatokat, mivel a toptalálatok listáján átvették az uralmat a hirdetések és a generált szeméttartalom. A cég most pedig részben erre építi fel a legújabb AI-alapú szolgáltatást.
A Google a bejegyzésében többek közt azzal magyarázza a nem releváns, vagy nonszensz AI-válaszokat, hogy a felhasználók által beírt kérés nem volt egyértelmű, vagy bizonyos témákkal kapcsolatban nem érhető el jó minőségű információ, hozzátéve, hogy a közösségi médiában virálissá vált képernyőmentések egy része láthatóan hamis, és a funkció lejáratásának céljából készült. A cég említi még, hogy nem elérhető jó minőségű tartalom esetén a kereső az információs hézag kitöltésére a szatirikus tartalmakhoz nyúlhat, ahogy történt is a kavicsok fogyasztását javasló The Onion cikk esetében.
A kritikák után a Google állítása szerint tucatnál több technikai fejlesztést hajtott végre a rendszeren, ami már jobban érzékeli az „értelmetlen lekérdezéseket”, és korlátozásokat vezetett be az olyan érzékenyebb területekhez kapcsolódóan, mint a hírek és az egészégügy. Emellett állítása szerint a funkció a későbbiekben kevésbé fog támaszkodni a felhasználók által generált tartalomra, mint például a Redditen elérhető bejegyzésekre.
A funkció szélesebb körű bevezetése előtt talán képes lesz finomhangolni a cég a problémákat, de egyelőre úgy tűnik, hogy az AI Overview továbbra is időnként szokatlan vagy megbízhatatlan eredményekkel térhet vissza, mivel már alapjában lehetőséget ad rá a rendszer, amire épült.