Egyelőre túl költséges a generatív MI a techóriásoknak
Miközben a tőzsde egyik új kedvenc szava a "mesterséges intelligencia" és a "nagy nyelvi modell", a vállalatok annak módját keresik, hogyan szerezzenek bevételt a generatív szolgáltatásokból.
A nagy technológiai cégek sorra jelentik be saját generatív szolgáltatásaikat, amik kódokat, képeket, szövegeket állítanak elő a felhasználók számára, de még mindig küzdenek azzal a problémával, miként fordíthatnák nyereségessé a költséges üzemeltetésű termékeket. Az élen járó Microsoft, Google és Adobe befektetései egyelőre nem térülnek meg – körvonalazza a helyzetet a The Wall Street Journal témával kapcsolatos elemzése.
A Microsoft és a Google a már meglévő üzleti szolgáltatásokba építik be a generatív képességeket, ezért magasabb előfizetési árakat kérnek, egyelőre ilyen módon próbálják fedezni az MI-termékek több százmillió dollárra rúgó betanítási és működtetési költségeit. Erre a felívelő technológiára azonban nem jellemző a szabványos szoftvereknél látható méretgazdaságosság, mivel minden egyes lekérdezéssel és új felhasználóval nő az infrastruktúra fenntartásával járó költség is.
A Microsoft a ChatGPT-t birtokló OpenAI-jal való szoros együttműködés részeként tudta elindítani a GitHub Copilot szolgáltatást, ami a fejlesztők munkáját könnyíti meg társprogramozó funkcióival, és ugyan idővel több mint 1,5 millió fejlesztő kezdte el használni, mégis veszteséggel jár a drága üzemeltetése.
Az egyéni felhasználók havonta 10 dollárért vehetik igénybe a kódoló asszisztenst, de a vállalat átlagosan több mint 20 dollárt veszít havonta felhasználónként – árulták el a lapnak közeli források. A redmondi szoftveróriás egyelőre nem nyilatkozott a szolgáltatás jövedelmezőségéről.
A Gitlab mint DevSecOps platform (x) Gyere el Radovan Baćović (Gitlab, Data Engineer) előadására a november 7-i DevOps Natives meetupon.
Az üzleti ügyfeleknek szánt Microsoft 365 irodai programcsomag esetében a körülbelül 13 dollártól kezdődő havidíjon felül a vállalat további 30 dollárt számít fel a generatív MI-t használó plusz funkciókért, amik többek közt a PowerPoint prezentációk, e-mailek, Excel-táblák kezelését teszik egyszerűbbé. A Google szintén 30 dollár felárat határozott meg a hagyományos előfizetési díjon felül saját produktivitási eszközcsomagjánál.
Az egyik ok, amiért a szolgáltatások ilyen költségesek, hogy a jelenlegi legfejlettebb modellekre épülnek, amelyek több energiát igényelnek, és jobban megterhelik a számítógépes processzorokat, mint a hagyományos szoftverek és felhőszolgáltatások. A Microsoft által használt, OpenAI által készített GPT-4 például az egyik úttörő ilyen modell. Közeli források elmondása alapján a redmondi cég már fontolja, hogy olcsóbb és kevésbé hatékony modellekre alapozza eszközeit, például a Binget.
Az Adobe egy kreditrendszerrel próbálja megoldani, hogy a Firefly képgenerátor ne tegye mínuszba a szolgáltatást: minden ügyfél kap egy havi elhasználható kreditet, amit túllépve a szolgáltatás sebesség lelassul és korlátozza a túlzott használatot.
Az OpenAI ChatGPT-je ugyan ingyen használható, de a legfejlettebb nagy nyelvi modellre épített csevegőbotért havi 20 dollárt kell fizetni az ügyfeleknek. Az OpenAI naponta körülbelül 700 ezer dollárt költ a ChatGPT működtetésére, és bár ugyan a Microsoft és a többi befektető fedezte a kezdeti költségeket, 2024 végére akár csődbe is mehet a startup, ha nem válik nyereségessé. Az OpenAI a 2023-as évre 200 millió dollár bevételt vetített előre, ami 2024-ben egymilliárd dollárra nőne, de ez meglehetősen távolinak tűnik annak fényében, hogy a cég veszteségei idén májusban 540 millió dollárra duplázódtak. A ChatGPT hirtelen felfutott népszerűsége is hanyatlásnak indult: miután a weboldal májusban elérte az 1,9 milliárd látogatót, forgalma júniusban 9,7 százalékkal esett vissza az előző hónaphoz képesz, míg a Sensor Tower adatai szerint az ugyanebben a hónapban megjelent iOS app letöltési számai a június eleji tetőzést követően folyamatos csökkenést mutatnak.
Az iparági elemzők és a techcégek arra számítanak, hogy a generatív mesterséges intelligencia idővel olcsóbbá válik, követve azt a korábban látott trendet, hogy az olyan úttörő technológiák, mint a felhőalapú tárolás, vagy a 3D-animáció használati költségei is csökkentek idővel az új chipeknek és innovációknak köszönhetően.