Nvidia hat auf der CES 2025 Project Digits angekündigt, einen kompakten, auf KI fokussierten Desktop-Supercomputer, der Hochleistungsrechnen für einzelne Entwickler, Forscher und Studenten zugänglich machen soll.
Angetrieben durch den neu entwickelten GB10 Grace Blackwell Superchip liefert Project Digits bis zu einem Petaflop KI-Leistung, genug, um Modelle mit bis zu 200 Milliarden Parametern zu verarbeiten. Das System kostet 3.000 US-Dollar und soll im Mai 2025 auf den Markt kommen. Dies stellt einen bedeutenden Schritt in Nvidias Mission dar, die KI-Technologie zu demokratisieren.
„KI wird in jeder Anwendung und in jeder Branche zum Mainstream werden.“ Mit Project Digits kommt der Grace Blackwell Superchip zu Millionen von Entwicklern. „Die Platzierung eines KI-Supercomputers auf dem Schreibtisch jedes Datenwissenschaftlers, KI-Forschers und Studenten ermöglicht es ihm, sich zu engagieren und das Zeitalter der KI zu gestalten“, sagte Jensen Huang, CEO von Nvidia, während der Keynote des Unternehmens auf der CES 2025.
Verwandt: Nvidia stellt Blackwell-GPUs der RTX 50-Serie mit DLSS 4 und der doppelten Leistung der RTX 4090 vor
Die Hardware hinter dem Projekt Digits
Das Herzstück von Project Digits ist der GB10 Grace Blackwell Superchip, der in Zusammenarbeit mit MediaTek entwickelt wurde. Der Chip kombiniert Nvidias Blackwell GPU und ein Grace-CPU mit 20 Kernen unter Verwendung von NVLink-C2C-Technologie, eine Chip-zu-Chip-Verbindung, die eine Hochgeschwindigkeitskommunikation zwischen den beiden Komponenten gewährleistet.
Der Superchip wurde entwickelt, um einen Petaflop KI-Leistung mit FP4-Präzision zu liefern, einem optimierten Gleitkommaformat, das Berechnungen für maschinelle Lernaufgaben beschleunigt, ohne die wesentliche Genauigkeit zu beeinträchtigen.
[eingebetteter Inhalt]
Zusätzlich zum GB10-Chip umfasst Project Digits 128 GB LPDDR5X-Speicher und bis zu 4 TB NVMe-SSD-Speicher und bietet so die Geschwindigkeit und Kapazität, die für moderne KI-Workloads erforderlich sind. Das System verfügt außerdem über den Nvidias ConnectX-Netzwerkadapter, der erweiterte Funktionen wie RDMA, GPUDirect und NCCL ermöglicht , die für die Skalierung von KI-Aufgaben über mehrere Systeme hinweg unerlässlich sind.
Das kompakte Design von Project Digits ist vergleichbar mit einem Mac Mini, sodass es sich nahtlos in ein Desktop-Setup einfügt. Trotz seiner geringen Größe konkurrieren die Fähigkeiten des Geräts mit denen viel größerer, stromhungriger Systeme, die traditionell in Unternehmensrechenzentren zu finden sind.
Software-Ökosystem und Benutzerfreundlichkeit
Nvidia hat seinen vollständigen AI Enterprise-Software-Stack auf Project Digits vorinstalliert und damit eine schlüsselfertige Lösung für die KI-Entwicklung geschaffen. Dazu gehören Frameworks wie PyTorch, Python und Nvidias NeMo-Framework, was vereinfacht die Feinabstimmung großer Sprachmodelle. Das System läuft auf Nvidias DGX OS, einer maßgeschneiderten Linux-basierten Plattform für Hochleistungsrechneraufgaben.
Laut Nvidia bietet Project Digits die Flexibilität, Modelle lokal zu prototypisieren, zu trainieren und zu verfeinern, bevor sie in Cloud-oder Rechenzentrumsumgebungen skaliert werden. Mit Project Digits können Benutzer KI-Modelle lokal entwickeln und testen und sie dann in der Cloud oder einer lokalen Infrastruktur bereitstellen.
Bild: Nvidia
Das System unterstützt a Anwendungsspektrum, von der akademischen Forschung bis zur kommerziellen KI-Entwicklung. Eine einzelne Einheit kann Modelle mit bis zu 200 Milliarden Parametern verarbeiten, und für größere Arbeitslasten können zwei Einheiten verbunden werden, um Modelle mit bis zu 405 Milliarden Parametern zu verarbeiten, womit sie in derselben Liga wie Unternehmenslösungen wie Metas LLaMA 3.1 liegt.
Zusammenarbeit mit MediaTek und dem GB10-Superchip
Der GB10-Chip stellt einen Meilenstein in der Zusammenarbeit von Nvidia mit dar MediaTek. MediaTek brachte sein Fachwissen in Arm-basierten System-on-Chip (SoC)-Designs ein, um die Leistung und Energieeffizienz des Chips zu optimieren. Die Grace-CPU im GB10 verfügt über 20 Kerne, die gleichmäßig auf leistungsstarke Cortex-X925 aufgeteilt sind Kerne und energieeffizient Cortex-A725-Kerne.
Ashish Karandikar, Nvidias Vize Der Präsident von SoC Products betonte die Bedeutung dieser Zusammenarbeit: „Unsere Zusammenarbeit mit Arm beim GB10-Superchip wird die nächste Generation von Innovationen im Bereich KI vorantreiben.“ Diese Partnerschaft unterstreicht Nvidias Engagement für Innovation im KI-Hardwarebereich.
Marktposition
Project Digits ist Teil der umfassenderen Strategie von Nvidia, KI-Entwicklungstools einer breiten Öffentlichkeit zugänglich zu machen Es folgt auf die Veröffentlichung des Jetson Orin Nano Super, eines KI-Einstiegsgeräts für 249 US-Dollar, das sich an Hobbyisten und Start-ups richtet. Zusammen demonstrieren diese Produkte das Engagement von Nvidia, sowohl professionelle Entwickler als auch die wachsende Community zu bedienen KI-Enthusiasten.
Der Start von Project Digits steht auch im Einklang mit den Branchentrends hin zur dezentralen KI-Entwicklung. Dadurch, dass Benutzer Prototypen erstellen und Modelle lokal trainieren können, reduziert das Gerät die Abhängigkeit von Cloud-basierten Lösungen, die teuer sein können und eine stabile Internetverbindung erfordern.