Tavasztól bárkinek lehet AI-szuperszámítógépe
Rövidesen akár otthoni körülmények között is üzemeltethetnek kutatók vagy éppen hallgatók AI-szuperszámítógépet. Az Nvidia a CES-en lerántotta a leplet a Project Digitsről, mely úgy néz ki, mint egy Mac Mini, ám attól lényegesen eltérő képességekkel rendelkezik.
A mesterséges intelligencia modelleket többnyire óriási számítási teljesítményt nyújtó szerverekből álló adatközpontok szolgálják ki, melyeket világszerte felhős topológia alapján érhetnek el az ügyfelek. A szegmens legismertebb hardvergyártója, az Nvidia most azt a célt tűzte ki a zászlajára, hogy az AI-szuperszámítógépeket közvetlenül a felhasználó asztalára is le lehessen tenni.
A Santa Clara-i chipgyártó a 2025-ös CES-en jelentette be a fenti célt szolgáló speciális számítógépét, a Project Digits-et, melyben az Nvidia vadonatúj, AI-feldolgozóegységet és CPU-t egyaránt tartalmazó GB10 Grace Blackwell Superchipje dolgozik. Az egység a gyártó szerint akár 200 milliárd paraméterből álló AI-modelleket is képes lokálisan kezelni, miközben elfér az ember tenyerében és hagyományos fali csatlakozáson keresztül, hálózati árammal működik.
2025: neked mennyi pénzt ér meg a home office? Itt vannak az IT munkaerőpiaccal kapcsolatos 2025-ös prognózisaink.
A 3000 dollárról induló Project Digits a GB10 mellett 128 GB, fixen beépített, nem bővíthető rendszermemóriával és legfeljebb 4 TB-nyi NVMe háttértárral konfigurálva érhető el májustól. A rendszer lehetőséget biztosít két egység összekapcsolására, az így létrejött számítási közeg legfeljebb 405 milliárd paraméterrel rendelkező modellekkel is megbirkózik (éppen ennyi paramétere van a Meta jelenleg legfejlettebb Llama 3.1-es modelljének).
A rendszer agyának számító GB10 a gyártó közleménye szerint egy petaflopsnyi AI-számítási kapacitást nyújt FP4 pontossággal - az egység valójában egy az adatközponti megoldásoknál kisebb teljesítményű, de azokkal alapjaiban egyező felépítésű Blackwell GPU-ból áll, mely az Nvidia NVlink-C2C chip-to-chip technológiájával csatlakozik egy 20 db ARM-alapú processzormaggal rendelkező Grace CPU-hoz.
A Blackwell architektúrára épülő Project Digits rendszerek természetesen nem otthoni játékszerek, a gyártó leginkább AI-modellekkel helyben dolgozó kutatóknak, hallgatóknak, illetve AI-modelleket fejlesztő cégeknek ajánlja a rendszert. Utóbbiak a saját modelljeiket a mini szuperszámítógépnek köszönhetően helyben tudják finomhangolni és tesztelni majd utána felskálázni az adatközponti környezetnek megfelelően.
Nem a Project Digits ugyanakkor az első, hasonló célt szolgáló lokális számítógépe az Nvidia-nak, a cég ugyanis tavaly decemberben lebbentette fel a fátylat a Jetsonról, mely szintén helyben futtat AI-modelleket, igaz, lényegesen szerényebb teljesítménnyel. A legfeljebb nyolcmillió paraméterrel rendelkező modellekhez alkalmas Jetson ennek megfelelően akár hobbisták számára is elérhető - az eszköz 249 dollártól érhető el.