Nvidia telah mengumumkan Project Digits di CES 2025, superkomputer desktop ringkas yang berfokus pada AI yang dirancang untuk menjadikan komputasi berkinerja tinggi dapat diakses oleh pengembang individu, peneliti, dan pelajar.
Didukung oleh GB10 Grace Blackwell Superchip yang baru dikembangkan, Project Digits menghadirkan kinerja AI hingga satu petaflop, cukup untuk memproses model dengan hingga 200 miliar parameter. Dengan harga $3.000, sistem ini akan diluncurkan pada bulan Mei 2025, menandai langkah signifikan dalam misi Nvidia untuk mendemokratisasi teknologi AI.
“AI akan menjadi arus utama dalam setiap aplikasi di setiap industri. Dengan Project Digits, Grace Blackwell Superchip hadir kepada jutaan pengembang. Dengan menempatkan superkomputer AI di meja setiap ilmuwan data, peneliti dan mahasiswa AI akan memberdayakan mereka untuk terlibat dan membentuk era AI.”kata Jensen Huang, CEO Nvidia, saat menjadi pembicara utama perusahaan tersebut di CES 2025.
Terkait: Nvidia Mengungkapkan GPU Blackwell Seri RTX 50 dengan DLSS 4 dan Kekuatan Dua Kali Lipat dari RTX 4090
Perangkat Keras di Balik Digit Proyek
Inti dari Project Digits adalah GB10 Grace Blackwell Superchip, yang dikembangkan melalui kerja sama dengan MediaTek. Chip ini menggabungkan GPU Blackwell Nvidia dan Grace 20-core CPU menggunakan teknologi NVLink-C2C, sebuah chip-to-chip interkoneksi yang memastikan komunikasi berkecepatan tinggi antara dua komponen.
Superchip dirancang untuk menghasilkan kinerja AI satu petaflop dengan presisi FP4, format floating-point yang dioptimalkan yang mempercepat perhitungan untuk tugas-tugas pembelajaran mesin tanpa mengorbankan akurasi penting.
[konten tersemat]
Selain chip GB10, Project Digits menyertakan memori LPDDR5X 128 GB dan penyimpanan NVMe SSD hingga 4 TB, memberikan kecepatan dan kapasitas yang diperlukan untuk beban kerja AI modern. Sistem ini juga dilengkapi adaptor jaringan ConnectX Nvidia, yang mengaktifkan fitur-fitur canggih seperti RDMA, GPUDirect, dan NCCL , yang penting untuk menskalakan tugas AI di berbagai sistem.
Desain ringkas Project Digits sebanding dengan Mac Mini, sehingga dapat disesuaikan dengan pengaturan desktop. Meskipun ukurannya kecil, kemampuan perangkat ini menyaingi sistem yang lebih besar dan boros daya yang biasa ditemukan di pusat data perusahaan.
Ekosistem dan Kegunaan Perangkat Lunak
Nvidia telah menginstal tumpukan perangkat lunak AI Enterprise lengkapnya di Project Digits, menjadikannya solusi siap pakai untuk pengembangan AI. Ini mencakup kerangka kerja seperti PyTorch, Python, dan kerangka kerja NeMo Nvidia, yang menyederhanakan penyempurnaan model bahasa besar. Sistem ini berjalan pada DGX OS Nvidia, sebuah platform berbasis Linux yang dirancang khusus untuk tugas komputasi berkinerja tinggi.
Menurut Nvidia, Project Digits menawarkan fleksibilitas untuk membuat prototipe, melatih, dan menyempurnakan model secara lokal sebelum menskalakannya ke lingkungan cloud atau pusat data. Project Digits memungkinkan pengguna mengembangkan dan menguji model AI secara lokal, lalu menerapkannya di cloud atau infrastruktur lokal.
Gambar: Nvidia
Sistem mendukung berbagai aplikasi, mulai dari penelitian akademis hingga pengembangan AI komersial. Satu unit dapat memproses model dengan hingga 200 miliar parameter, dan untuk beban kerja yang lebih besar, dua unit dapat dihubungkan untuk menangani model dengan hingga 405 miliar parameter, menjadikannya setara dengan solusi tingkat perusahaan seperti LLaMA 3.1 dari Meta.
Kolaborasi dengan MediaTek dan Superchip GB10
Chip GB10 mewakili tonggak sejarah dalam kolaborasi Nvidia dengan MediaTek. MediaTek menyumbangkan keahliannya dalam desain system-on-chip (SoC) berbasis Arm untuk mengoptimalkan kinerja chip dan efisiensi daya. CPU Grace dalam GB10 memiliki 20 inti, dibagi rata antara Cortex-X925 berkinerja tinggi inti dan Core Cortex-A725.
Ashish Karandikar, Wakil Nvidia Presiden Produk SoC, menyoroti pentingnya kolaborasi ini: “Kolaborasi kami dengan Arm pada Superchip GB10 akan mendorong inovasi generasi berikutnya dalam AI.”Kemitraan ini menggarisbawahi komitmen Nvidia komitmen terhadap inovasi dalam bidang perangkat keras AI.
Posisi Pasar
Project Digits adalah bagian dari strategi Nvidia yang lebih luas untuk menjadikan alat pengembangan AI dapat diakses oleh berbagai kalangan pengguna. Hal ini menyusul peluncuran Jetson Orin Nano Super, perangkat AI tingkat pemula seharga $249 yang menargetkan para penghobi dan perusahaan rintisan. Bersama-sama, produk-produk ini menunjukkan komitmen Nvidia untuk melayani pengembang profesional dan komunitas penggemar AI yang terus berkembang.
Peluncuran Project Digits juga selaras dengan tren industri menuju pengembangan AI yang terdesentralisasi. Dengan memungkinkan pengguna membuat prototipe dan melatih model secara lokal, perangkat ini mengurangi ketergantungan pada solusi berbasis cloud, yang bisa jadi mahal dan memerlukan konektivitas internet yang stabil.