A Las Vegas-i CES 2025 kiállításon hétfőn tartott 90 perces vitaindító beszéd során Jensen Huang, az Nvidia vezérigazgatója egy nagy teljesítményű asztali számítógépet mutatott be az otthoni mesterséges intelligencia rajongóinak. Ez a 3000 dolláros eszköz jelenleg a Project Digits által megy, körülbelül annyi helyet foglal el, mint egy Mac mini, és 1 PFLOPS FP4 lebegőpontos teljesítményt kínál.
Az Nvidia állítólag a DGX 100 szervertervet használta inspirációként az önálló asztali mesterséges intelligencia kialakításához, a Projects Digits pedig egy 20 magos GB10 Grace Blackwell Superchipből áll, 128 GB LPDDR5X memórián, 4 TB-os NVMe SSD-meghajtóval.
„A mesterséges intelligencia minden alkalmazásban általánossá válik minden iparágban” – mondta Huang a vitaindító előadás során. „A Project Digits segítségével a Grace Blackwell Superchip fejlesztők millióihoz érkezik. Ha minden adattudós, mesterséges intelligenciakutató és diák asztalára helyez egy MI-szuperszámítógépet, képessé teszi őket arra, hogy részt vegyenek és alakítsák az AI korát.”
Nvidia
Az Nvidia széles körben együttműködött Arm-mal a Grace Blackwell chip létrehozásában. „Az Armmel a GB10 Superchipen folytatott együttműködésünk az MI innováció következő generációját fogja táplálni” – mondta Ashish Karandikar, az Nvidia SoC termékekért felelős alelnöke a cég sajtóközleményében.
Szerezd meg heti bontásban a PC-s játékok mögötti technológiát
Ennyi számítási teljesítmény azt jelenti, hogy a Project Digits eszköz képes lesz helyben futtatni egy 200 milliárd iterációs mesterséges intelligencia-nagynyelvi modellt (LLM), amint azt májusra tervezik. A GPT-4o modellt használó ChatGPT például csak 12 milliárd iterációból áll. A számjegyes eszközök egymáshoz is köthetők, így elméleti maximális modellméretük akár 405 milliárd iterációra is növelhető.
A vállalat azokat a felhasználókat célozza meg, akiknek teljes teljesítményű, helyben futó LLM-ekre van szükségük, mint elsődleges ügyfeleiknek a Project Digits számára. Mint ilyen, minden eszköz előre telepítve van az Nvidia teljes AI Enterprise szoftvercsomagjával – mindennel, amire egy vállalatnak és kutatóegységnek szüksége van a mesterséges intelligenciájának beindításához és működéséhez – azzal az ötlettel, hogy a felhasználók „prototipizálják, finomhangolják és teszteljék a modelleket a helyi projekten. Digits rendszerek”, mielőtt telepítené őket a felhőbe.
A mesterséges intelligenciát régóta kritizálják felülről lefelé irányuló technológiaként, mivel fejlesztését nagyrészt kiválasztott vállalatok és intézmények irányították (pontosabban azok, akik elég gazdagok ahhoz, hogy megengedjék maguknak a mesterséges intelligencia által igényelt hatalmas képzési és működési költségeket). Ez pontosan az ellentéte annak, ahogyan az 1970-es és 1990-es években létrejött az első számítógépes forradalom, ahol az egyéni hobbi-, bütykös- és kísérletezők megszámlálhatatlan légiói vezérelték a személyi számítógépes technológia fejlődését.
A Project Digits ugyanezt a lehetőséget biztosíthatja az AI-ipar számára. Igaz, 3000 dollár bizonyos mértékig korlátozza a kezdeti alkalmazását, de az igazság kedvéért az emberek nem pislogtak az Apple meghibásodott Vision Pro fejhallgatójának 3500 dolláros árára, és ez a dolog csak egy díszes kijelző volt az arcra szíjazva. Ha szeretné kipróbálni a Digits szolgáltatást, az Nvidia webhelyén feliratkozik egy értesítésre.
