Nvidia , bekerja sama dengan Foxconn, akan membangun pusat data kelas baru, yang secara luas disebut sebagai’pabrik AI’. Tujuan dari usaha baru ini adalah untuk menyediakan kemampuan superkomputer canggih yang diperlukan untuk percepatan kendaraan otonom, robotika industri, dan pengembangan mobil tanpa pengemudi.
Jensen Huang, CEO Nvidia, dan CEO Foxconn, Young Liu, mendeklarasikan kemitraan ini pada acara Foxconn, Hon Hai Tech Day, yang diadakan di Taiwan baru-baru ini. Penting untuk dicatat bahwa pabrik AI akan memanfaatkan infrastruktur komputasi GPU Nvidia yang khusus dibangun untuk memproses dan mengubah sejumlah besar data menjadi model AI yang berharga.
Pabrik AI: Sistem End-to-End
Berdiri di depan dan tengah panggung selama acara tersebut, Huang merinci bahwa pabrik AI sangat sesuai dengan niat mereka untuk membangun mobil EV canggih dengan otak AI yang tertanam. Menunjukkan bahwa mobil akan terus mengumpulkan data sepanjang siklus hidupnya, dan data yang dikumpulkan ini akan dikembalikan ke pabrik AI dan digunakan untuk terus menyempurnakan perangkat lunaknya.
Pada bulan Januari, Nvidia dan Foxconn mengumumkan kemitraan mereka yang bertujuan untuk memajukan pengembangan platform kendaraan otonom. Perjanjian sebelumnya mendukung Foxconn untuk menjadi pemasok utama Unit Kontrol Elektronik (ECU) bagi pembuat mobil. ECU akan menggunakan system-on-a-chip (SoC) Drive Orin Nvidia, sebuah platform AI tingkat tinggi yang mendukung fungsi mengemudi otonom.
Jalur Perpotongan Pabrik AI Nvidia dan Superkomputer Dojo Tesla
Perlu dicatat bahwa pabrik AI ini menimbulkan persaingan yang signifikan terhadap superkomputer Dojo Tesla. Berbeda dengan Tesla, yang menggunakan superkomputer berbasis GPU Nvidia, pabrik AI Foxconn-Nvidia yang baru akan berbasis pada GH200 Grace Hopper Superchip dan perangkat lunak AI Enterprise.
Dalam upaya transisi “dari perusahaan jasa manufaktur menjadi perusahaan solusi platform,”Foxconn berencana memperluas pabrik AI di berbagai sektor. Foxconn awalnya menetapkan fokusnya pada tiga platform utama: Kendaraan Listrik Cerdas, kota pintar, dan manufaktur pintar. Berdasarkan pernyataan terakhir dari Huang dan Liu, tampaknya setiap sektor akan memiliki pabrik AI di masa depan.
NVIDIA TensorRT Hadir di PC Windows Pribadi
Dalam berita AI Nvidia lainnya hari ini, perusahaan tersebut mengungkapkan bahwa TensorRT-LLM-nya kini tersedia untuk Windows pribadi. NVIDIA mengatakan bahwa Windows komputer dengan GPU NVIDIA GeForce RTX dapat menjalankan LLM hingga empat kali lebih cepat. Hal ini akan membuat aplikasi LLM, seperti asisten penulisan dan pengkodean, lebih responsif dan efektif. Mereka dapat menghasilkan beberapa opsi pelengkapan otomatis unik sekaligus, sehingga memberikan lebih banyak pilihan dan efisiensi kepada pengguna.
NVIDIA menunjukkan contoh bagaimana TensorRT-LLM dapat meningkatkan kinerja LLM. Meta LLaMa 2 LLM standar tidak dapat menjawab pertanyaan, “Bagaimana NVIDIA ACE menghasilkan respons emosional?”. Namun dengan TensorRT-LLM dan perpustakaan atau database vektor, LLM memberikan jawaban yang benar dengan lebih cepat.
