Nvidia đã công bố Project Digits tại CES 2025, một siêu máy tính để bàn nhỏ gọn tập trung vào AI được thiết kế để giúp các nhà phát triển, nhà nghiên cứu và sinh viên cá nhân có thể tiếp cận điện toán hiệu suất cao.
Được hỗ trợ bởi Siêu chip GB10 Grace Blackwell mới được phát triển, Project Digits mang lại hiệu suất AI lên tới một petaflop, đủ để xử lý các mô hình có tới 200 tỷ tham số. Với mức giá 3.000 USD, hệ thống này dự kiến ra mắt vào tháng 5 năm 2025, đánh dấu một bước quan trọng trong sứ mệnh dân chủ hóa công nghệ AI của Nvidia.
“AI sẽ trở thành xu hướng chủ đạo trong mọi ứng dụng của mọi ngành. Với Project Digits, Grace Blackwell Superchip đến với hàng triệu nhà phát triển. Việc đặt siêu máy tính AI trên bàn làm việc của mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ giúp họ tương tác và định hình thời đại AI.”Jensen Huang, Giám đốc điều hành của Nvidia, cho biết trong bài phát biểu quan trọng của công ty tại CES 2025.
Có liên quan: Nvidia tiết lộ GPU Blackwell RTX 50-Series với DLSS 4 và sức mạnh gấp đôi so với RTX 4090
Phần cứng đằng sau Project Digits
Cốt lõi của Project Digits là Superchip GB10 Grace Blackwell, được phát triển với sự hợp tác của MediaTek. Con chip này kết hợp
Superchip được thiết kế để mang lại một petaflop hiệu suất AI với độ chính xác FP4, một định dạng dấu phẩy động được tối ưu hóa giúp tăng tốc tính toán cho các tác vụ học máy mà không làm mất đi độ chính xác cần thiết.
[nội dung được nhúng]
Ngoài chip GB10, Project Digits còn có 128GB bộ nhớ LPDDR5X và bộ lưu trữ SSD NVMe lên đến 4TB, cung cấp tốc độ và dung lượng cần thiết cho khối lượng công việc AI hiện đại. Hệ thống này còn có Bộ điều hợp mạng ConnectX của Nvidia, hỗ trợ các tính năng nâng cao như RDMA, GPUDirect và NCCL , rất cần thiết để mở rộng các tác vụ AI trên nhiều hệ thống.
Thiết kế nhỏ gọn của Project Digits có thể so sánh với Mac Mini, cho phép nó phù hợp hoàn toàn với thiết lập máy tính để bàn. Mặc dù có kích thước nhỏ nhưng khả năng của thiết bị có thể cạnh tranh với các hệ thống lớn hơn, tiêu tốn nhiều điện năng thường thấy trong các trung tâm dữ liệu doanh nghiệp.
Hệ sinh thái phần mềm và khả năng sử dụng
Nvidia đã cài đặt sẵn toàn bộ phần mềm AI Enterprise trên Project Digits, biến nó thành giải pháp chìa khóa trao tay để phát triển AI. Điều này bao gồm các khung như PyTorch, Python và Khung NeMo của Nvidia, giúp đơn giản hóa tinh chỉnh các mô hình ngôn ngữ lớn. Hệ thống chạy trên Hệ điều hành DGX của Nvidia, một nền tảng dựa trên Linux được thiết kế riêng cho các tác vụ điện toán hiệu suất cao.
Theo Nvidia, Project Digits mang lại sự linh hoạt cho các mô hình nguyên mẫu, đào tạo và tinh chỉnh cục bộ trước khi mở rộng quy mô chúng sang môi trường đám mây hoặc trung tâm dữ liệu. Project Digits cho phép người dùng phát triển và thử nghiệm các mô hình AI cục bộ, sau đó triển khai chúng trên đám mây hoặc cơ sở hạ tầng cục bộ.
Hình ảnh: Nvidia
Hệ thống hỗ trợ nhiều ứng dụng, từ học thuật nghiên cứu phát triển AI thương mại. Một đơn vị có thể xử lý các mô hình có tới 200 tỷ tham số và đối với khối lượng công việc lớn hơn, hai đơn vị có thể được liên kết để xử lý các mô hình có tới 405 tỷ tham số, đưa mô hình này ngang hàng với các giải pháp cấp doanh nghiệp như LLaMA 3.1 của Meta.
Hợp tác với MediaTek và Superchip GB10
Chip GB10 thể hiện một cột mốc quan trọng trong sự hợp tác của Nvidia với MediaTek. MediaTek đã đóng góp kiến thức chuyên môn của mình vào các thiết kế hệ thống trên chip (SoC) dựa trên Arm để tối ưu hóa hiệu suất và hiệu quả sử dụng năng lượng của chip. CPU Grace trong GB10 có 20 lõi, được phân chia đồng đều giữa các Cortex-X925 hiệu năng cao lõi và Lõi Cortex-A725.
Ashish Karandikar, Phó của Nvidia Chủ tịch Sản phẩm SoC, nhấn mạnh tầm quan trọng của sự hợp tác này: “Sự hợp tác của chúng tôi với Arm trên GB10 Superchip sẽ thúc đẩy thế hệ đổi mới tiếp theo trong AI.” Sự hợp tác này nhấn mạnh cam kết của Nvidia đối với sự đổi mới trong phần cứng AI space.
Vị trí thị trường
Project Digits là một phần trong chiến lược rộng lớn hơn của Nvidia nhằm giúp nhiều người dùng có thể tiếp cận các công cụ phát triển AI. của Jetson Orin Nano Super, một thiết bị AI cấp thấp trị giá $249 nhắm đến những người có sở thích và người khởi nghiệp. Cùng với nhau, những sản phẩm này thể hiện cam kết của Nvidia trong việc phục vụ cả các nhà phát triển chuyên nghiệp và cộng đồng những người đam mê AI đang ngày càng phát triển.
Sự ra mắt của Project. Chữ số cũng phù hợp với ngành xu hướng phát triển AI phi tập trung. Bằng cách cho phép người dùng tạo nguyên mẫu và đào tạo mô hình tại địa phương, thiết bị sẽ giảm sự phụ thuộc vào các giải pháp dựa trên đám mây, vốn có thể tốn kém và yêu cầu kết nối Internet ổn định.
