Nvidia heeft Project Digits aangekondigd, een compacte AI-gerichte desktop-supercomputer die is ontworpen om krachtige computers toegankelijk te maken voor individuele ontwikkelaars, onderzoekers en studenten.
Aangedreven door de nieuw ontwikkelde GB10 Grace Blackwell Superchip, levert Project Digits tot één petaflop aan AI-prestaties, genoeg om modellen met maximaal 200 miljard parameters te verwerken. Het systeem, dat een prijs van $3.000 zal kosten, zal naar verwachting in mei 2025 gelanceerd worden, wat een belangrijke stap markeert in de missie van Nvidia om AI-technologie te democratiseren.
“AI zal mainstream zijn in elke toepassing en in elke sector. Met Project Digits komt de Grace Blackwell Superchip naar miljoenen ontwikkelaars. Door een AI-supercomputer op de bureaus van elke datawetenschapper, AI-onderzoeker en student te plaatsen, kunnen zij het tijdperk van AI betrekken en vormgeven”, aldus Jensen Huang, CEO van Nvidia, tijdens de keynote van het bedrijf op CES 2025.
De hardware achter Project Digits
De kern van Project Digits wordt gevormd door de GB10 Grace Blackwell Superchip , ontwikkeld in samenwerking met MediaTek. De chip combineert Nvidia’s Blackwell GPU en een Grace-CPU met 20 kernen met NVLink-C2C-technologie, een chip-naar-chip-verbinding die zorgt voor snelle communicatie tussen de twee componenten
De Superchip is ontworpen om één petaflop aan AI-prestaties te leveren met FP4-precisie, een geoptimaliseerd floating-point-formaat dat berekeningen voor machine learning-taken versnelt zonder essentiële nauwkeurigheid op te offeren.
[embedded. content]
Naast de GB10-chip bevat Project Digits 128 GB LPDDR5X-geheugen en tot 4 TB NVMe SSD-opslag, waardoor de snelheid en capaciteit wordt geboden die nodig zijn voor moderne AI-workloads. Het systeem beschikt ook over Nvidia’s ConnectX-netwerkadapter, waardoor geavanceerde functies zoals RDMA, GPUDirect en NCCL mogelijk zijn , die essentieel zijn voor het schalen van AI-taken over meerdere systemen.
Het compacte ontwerp van Project Digits is vergelijkbaar met een Mac Mini, waardoor deze naadloos in een desktopopstelling past. Ondanks zijn kleine formaat zijn de mogelijkheden van het apparaat vergelijkbaar met die van veel grotere, energieverslindende systemen die traditioneel in bedrijfsdatacenters worden aangetroffen.
Software-ecosysteem en bruikbaarheid
Nvidia heeft zijn volledige AI Enterprise-softwarestack vooraf geïnstalleerd op Project Digits, waardoor het een kant-en-klare oplossing is voor AI-ontwikkeling. Dit omvat frameworks zoals PyTorch, Python en Nvidia’s NeMo-framework, dat het het verfijnen van grote taalmodellen. Het systeem draait op Nvidia’s DGX OS, een op Linux gebaseerd platform dat op maat is gemaakt voor krachtige computertaken.
Volgens Nvidia biedt Project Digits de flexibiliteit om modellen lokaal te prototypen, trainen en verfijnen voordat ze worden geschaald naar cloud-of datacenteromgevingen. Met Project Digits kunnen gebruikers AI-modellen lokaal ontwikkelen en testen en deze vervolgens in de cloud of lokale infrastructuur implementeren.
Afbeelding: Nvidia
Het systeem ondersteunt een reeks van toepassingen, van academisch onderzoek tot commerciële AI-ontwikkeling. Eén enkele eenheid kan modellen met maximaal 200 miljard parameters verwerken, en voor grotere werklasten kunnen twee eenheden worden gekoppeld om modellen met maximaal 405 miljard parameters te verwerken, waardoor deze in dezelfde klasse komt als bedrijfsoplossingen zoals Meta’s LLaMA 3.1.
Samenwerking met MediaTek en de GB10 Superchip
De GB10-chip vertegenwoordigt een mijlpaal in de samenwerking van Nvidia met MediaTek. MediaTek heeft zijn expertise in Arm-gebaseerde system-on-chip (SoC)-ontwerpen bijgedragen om de prestaties en energie-efficiëntie van de chip te optimaliseren. De Grace CPU in de GB10 beschikt over 20 kernen, gelijkmatig verdeeld over krachtige Cortex-X925 kernen en energiezuinig Cortex-A725-cores.
Ashish Karandikar, vice-president van Nvidia President van SoC Products benadrukte het belang van deze samenwerking: “Onze samenwerking met Arm aan de GB10 Superchip zal de volgende generatie innovatie op het gebied van AI stimuleren.” Dit partnerschap onderstreept Nvidia’s toewijding aan innovatie op het gebied van AI-hardware.
Marktpositie
Project Digits maakt deel uit van Nvidia’s bredere strategie om AI-ontwikkeltools voor een breed publiek toegankelijk te maken Het volgt op de release van de Jetson Orin Nano Super, een AI-apparaat op instapniveau van $ 249, gericht op hobbyisten en startups. Samen demonstreren deze producten de toewijding van Nvidia om zowel professionele ontwikkelaars als de groeiende gemeenschap van AI te bedienen enthousiastelingen.
De lancering van Project Digits sluit ook aan bij trends in de sector richting gedecentraliseerde AI-ontwikkeling. Door gebruikers in staat te stellen lokaal modellen te prototypen en te trainen, vermindert het apparaat de afhankelijkheid van cloudgebaseerde oplossingen, die duur kunnen zijn en een stabiele internetverbinding vereisen.
