Saját MI-chipről álmodik az OpenAI
Tavaly óta folynak már a megbeszélések az OpenAI chip-stratégiájáról, mivel a nagy nyelvi modellek betanításához szükséges chipek hiánya egyre súlyosabb problémának tűnik.
A ChatGPT és DALL-E 3 generatív MI-szolgáltatásokról ismertté vált OpenAI még messzebb menne, és saját MI-gyorsító chipek gyártásának ötletét mérlegeli – számolt be róla a Reuters az ügyhöz közel álló forrásokra hivatkozva. A startup a speciális GPU chipek piacán kialakult hiány és a magas működtetési költségek miatt gondolkodik azon, hogy házon belül oldja meg a komponens biztosítását.
Az elmondások szerint a cég számos lehetséges megoldást mérlegel, eddig szóba jött egy chipgyártó felvásárlása is, vagy a szorosabb együttműködésekről való tárgyalás a meghatározó gyártókkal, például az Nvidiával. A tavaly óta folyó megbeszélések során egyelőre még nem sikerült döntést hozni a végleges megoldásról.
Az Nvidia jelenleg a mesterségesintelligencia-fejlesztésekhez szánt chipek globális piacának 80 százalékát fedi le. Az OpenAI vezetője, Sam Altman korábban aggodalmát fejezte ki a komponensek szűkös elérhetősége és költségei miatt. A hardveres beszerzések idővel elsődleges prioritássá váltak az OpenAI-nál, mely jelenleg a 10 ezer Nvidia grafikus feldolgozó egységet (GPU) használó, Microsoft által épített szuperszámítógépre támaszkodik.
Ünnepi mix a bértranszparenciától a kódoló vezetőkig Négy IT karrierrel kapcsolatos, érdekes témát csomagoltunk a karácsonyfa alá.
A ChatGPT működtetése rendkívül komoly költségeket von maga után, a Bernstein elemzője, Stacy Rasgon szerint minden lekérdezés körülbelül 4 centbe kerül, és ha a ChatGPT-lekérdezések a Google-keresés léptékének csak tizedére nőnének, akkor kezdetben nagyjából 48,1 milliárd dollár értékű GPU-ra lenne szükség, valamint évente körülbelül 16 milliárd dollár értékű chipre, hogy minden megfelelően üzemeljen.
Az egyedi MI-chipekkel az OpenAI felsorakozna a Google és az Amazon mellé, amely cégek már szintén az egyedi chiptervezésben látják a hosszútávú megoldást. Amennyiben a startup valóban komolyan gondolja a befektetést, a jelentős stratégiai váltás mellett komoly pénzügyi befektetést jelenthet, de ha végül a felvásárlás mellett dönt, sokkal gyorsabbá válhat a folyamat – hasonlót lépett az Amazon is, amikor 2015-ben akvirálta az Annapurna Labs mikroelektronikai céget. Még így is azonban több éves időtávlatról lehet majd beszélni, miközben az OpenAI kitettsége nem szűnne meg az Nvidia és AMD gyártóknak.
A The Information jelentése szerint az OpenAI fő támogatója, a Microsoft állítólag szintén dolgozik egyedi mesterségesintelligencia-chipen dolgozik, amit az OpenAI már tesztel, az eddigi szivárgások alapján a redmondiak a jövő hónapban tervezik bemutatni a chipet.