Nvidia telah memperkenalkan Jetson Orin Nano Super Developer Kit, platform AI berkinerja tinggi yang memberikan peningkatan 70% dalam kecepatan inferensi AI generatif sekaligus menggandakan bandwidth memori dibandingkan pendahulunya.

Dihargai Dengan harga $249, kit ini menawarkan kepada pengembang, peneliti, dan pelajar alat yang hemat biaya untuk membangun dan menerapkan aplikasi AI tingkat lanjut di edge.

NVIDIA Jetson Orin Nano super Developer Kit adalah edge yang ringkas Papan AI dirancang untuk membuat perangkat bertenaga AI tingkat pemula seperti robot, drone, dan kamera cerdas.

Ini kombinasi peningkatan kinerja perangkat keras dan optimalisasi perangkat lunak yang kompatibel menjadikannya sebagai solusi menarik untuk robotika, visi komputer, dan beban kerja AI generatif real-time—area di mana kekuatan komputasi harus memenuhi energi dan ruang kendala.

Perbandingan konfigurasi Jetson Orin Nano Super Developer Kit

NVIDIA Jetson Orin Nano Developer Kit
(asli)NVIDIA Jetson Orin Nano Super Developer KitGPU Arsitektur NVIDIA Ampere

1.024 CUDA Core

32 Tensor Core

635 MHz

Arsitektur NVIDIA Ampere

1.024 CUDA Core

32 Tensor Core

1.020 MHz

AI PERF40 INT8 TOPS (Jarang)

20 INT8 TOPS (Padat)

10 FP16 TFLOP

67 TOPS (Jarang)

33 TOPS (Padat)

17 FP16 TFLOP

CPU6-core Arm Cortex-A78AE v8.2 CPU 64-bit

1,5 GHz

6-core Arm Cortex-A78AE v8.2 CPU 64-bit

1,7 GHz

Memori8 GB 128-bit LPDDR5 

68 GB/dtk

8 GB 128-bit LPDDR5 

102 GB/dtk

DAYA MODUL7W | 15W7W | 15W | 25W

Peningkatan Kinerja AI yang Terjangkau untuk Edge Computing

Jetson Orin Nano Super dibuat berdasarkan arsitektur GPU Ampere Nvidia, yang telah telah menjadi landasan penawaran AI di pusat data, cloud, dan kini komputasi edge. Kit pengembang dilengkapi Jetson Orin Nano 8GB system-on-module (SoM) dan menghadirkan peningkatan efisiensi untuk tugas-tugas seperti model berbasis transformator, model bahasa, dan simulasi robotika.

Nvidia melaporkan peningkatan AI generatif sebesar 1,7x kinerja inferensi, dimungkinkan oleh peningkatan perangkat keras dan optimalisasi perangkat lunak. Khususnya, sistem baru ini mencapai kinerja komputasi sparse 67 TOPS (triliun operasi per detik)—naik dari 40 TOPS pada seri Orin Nano sebelumnya—dan meningkatkan bandwidth memori hingga 102 GB/dtk, sebuah lompatan signifikan dibandingkan 68 GB/dtk sebelumnya.

Menurut Nvidia, kit pengembang mempertahankan faktor bentuk ringkas yang sama sekaligus memberikan efisiensi yang lebih besar. Deepu Talla, Wakil Presiden Nvidia untuk Embedded dan Edge Computing, memperhatikan dampak peningkatan ini dan mengatakan, “Ini seperti kami menggunakan Orin Nano dan memberinya jubah superhero.”

Peningkatan ini memberdayakan pengembang untuk menangani AI tugas-tugas yang sebelumnya terbatas pada sistem cloud, seperti menjalankan model bahasa besar (LLM) yang ringkas seperti Llama-3.1 dan Gemma-2. Dengan memungkinkan model yang lebih kecil dan dioptimalkan untuk dijalankan secara lokal, Jetson Orin Nano Super mengurangi ketergantungan pada cloud sumber daya dan latensi—penting untuk robotika, mesin otonom, dan aplikasi real-time lainnya.

[konten tersemat]

Pembaruan Perangkat Lunak Memperluas Peningkatan Kinerja ke Perangkat yang Ada

Bersamaan dengan rilis perangkat keras, Nvidia memperkenalkan pembaruan JetPack SDK yang bermanfaat bagi seluruh keluarga Jetson Orin, termasuk Orin Nano dan Model NX. Pembaruan ini membuka Mode Super, pengaturan daya lebih tinggi yang meningkatkan frekuensi jam GPU dan CPU untuk meningkatkan kinerja.

Pengembang dapat mengaktifkan Mode Super menggunakan alat Pemilih Mode Daya Nvidia, yang dapat diakses melalui baris perintah atau antarmuka grafis. Dengan fitur ini, perangkat keras yang ada dapat mencapai peningkatan kinerja serupa dengan Jetson Orin Nano Super tanpa investasi tambahan.

Dengan memastikan keseimbangan perangkat lunak di seluruh jajaran Orin, Nvidia memaksimalkan siklus hidup dan nilai platform AI edge-nya, sehingga menjadikan memudahkan pengembang untuk meningkatkan proyek mereka.

Aplikasi Dunia Nyata: Robotika, Model Visi, dan AI Generatif

Jetson Orin Nano Super dari Nvidia adalah tujuan-dibangun untuk aplikasi edge yang membutuhkan pemrosesan AI yang efisien. Area fokus utama meliputi robotika, visi komputer, dan AI generatif:

Dalam robotika, Nvidia’s Platform Isaac menawarkan alat simulasi dan pembuatan data sintetis untuk mempercepat pengembangan. Misalnya, Isaac Sim memungkinkan pengembang membuat prototipe sistem robot di lingkungan virtual sebelum menerapkannya di dunia nyata. Demikian pula, Omniverse Replicator Nvidia memfasilitasi pembuatan data sintetis berkualitas tinggi untuk melatih model AI.

Untuk computer vision, Jetson Orin Nano Super mendukung model berbasis transformator seperti DINOv2 model transformator penglihatan yang diawasi sendiri oleh Meta dan CLIP, yang memberikan peningkatan akurasi untuk gambar tugas pengenalan, klasifikasi, dan pendeteksian objek.

Model ini memungkinkan sistem menganalisis gambar resolusi tinggi dan aliran video dengan efisiensi lebih besar, menjadikan perangkat ini ideal untuk aplikasi seperti kontrol kualitas otomatis, pengawasan, dan navigasi otonom.

Beban kerja AI generatif juga mendapat manfaat dari kemampuan platform. Dengan menjalankan LLM ringkas secara lokal—seperti Llama-3.1 8B atau Gemma-2 — pengembang dapat mengimplementasikan aplikasi seperti chatbots retrieval-augmented generation (RAG) atau konten real-time ringkasan.

Kombinasi latensi rendah dan pengurangan konsumsi daya menjadikan Jetson Orin Nano Super sangat cocok untuk lingkungan edge dengan bandwidth dan akses cloud terbatas.

Ekosistem Pengembang dan Jangka Panjang-Dukungan Jangka

Nvidia menyatakan berkomitmen untuk mendukung komunitas Jetson melalui sumber daya dan alat yang komprehensif. Jetson AI Lab memberi pengembang wadah bawaan, panduan penerapan, dan tutorial untuk mengimplementasikan model AI. Contohnya termasuk mengintegrasikan Ollama untuk penerapan chatbot dan memanfaatkan kerangka kerja dari Hugging Face, Google, Microsoft, dan Meta.

Kit pengembang juga menghadirkan dukungan hingga empat kamera, memungkinkan pemrosesan multi-aliran untuk tugas berbasis visi—penting untuk robotika dan sistem otonom.

Untuk memastikan stabilitas jangka panjang, Nvidia telah memperpanjang siklus hidup produk Jetson Orin hingga tahun 2032 , memberi pengembang dan kepercayaan bisnis terhadap ketersediaan platform untuk penerapan di masa depan.

Sebuah Langkah Maju untuk Edge AI

Dengan Jetson Orin Nano Super, Nvidia menggabungkan peningkatan kinerja AI dengan keterjangkauan, menjawab meningkatnya kebutuhan akan komputasi real-time di perangkat. Kemampuan platform untuk menjalankan model AI generatif yang ringkas, memproses gambar beresolusi tinggi, dan mempercepat pengembangan robotika menjadikannya alat penting bagi pengembang yang mengerjakan solusi edge.

Dengan menawarkan peningkatan perangkat keras serta pengoptimalan perangkat lunak yang berlaku untuk solusi yang sudah ada. perangkat, Nvidia telah menciptakan ekosistem yang kuat untuk pengembangan AI edge.

Categories: IT Info