Nvidia ka prezantuar Jetson Orin Nano Super Developer Kit, një platformë me performancë të lartë të AI që jep një rritje prej 70% në shpejtësinë gjeneruese të konkluzioneve të AI ndërsa dyfishon gjerësinë e brezit të memories në krahasim me paraardhësin e saj.
NVIDIA. Jetson Orin Nano Super Developer Kit është një tabelë kompakte me AI, e krijuar për krijimin e pajisjeve të nivelit fillestar të fuqizuar nga AI, si robotët, dronët dhe kamerat inteligjente.
Its kombinimi i performancës së përmirësuar të harduerit dhe optimizimeve të softuerit të pajtueshëm me prapavijë e pozicionon atë si një zgjidhje tërheqëse për robotikën, vizionin kompjuterik dhe në kohë reale Ngarkesa gjeneruese të punës së AI-zonat ku fuqia llogaritëse duhet të plotësojë kufizimet e energjisë dhe hapësirës.
Krahasimi i konfigurimit të Kit të Super Zhvilluesve Jetson Orin Nano
(origjinal)NVIDIA Jetson Orin Nano Super Developer KompletiGPU Arkitektura NVIDIA Ampere
1,024 bërthama CUDA
32 bërthama tensor
635 MHz
Arkitektura NVIDIA Ampere
1,024 bërthama CUDA
32 bërthama tensore
1,020 MHz
AI PERF40 INT8 TOPS (I rrallë)
20 INT8 TOPS (të dendura)
10 FP16 TFLOP
67 KALË (I rrallë)
17 FP16 TFLOPs
CPU6 bërthama Arm Cortex-A78AE v8.2 CPU 64-bit
1,5 GHz
Arm Cortex-A78AE v8.2 me 6 bërthama CPU 64-bit
1.7 GHz
Memorie8 GB 128-bit LPDDR5
68 GB/s
8 GB 128-bit LPDDR5
102 GB/s
FUQIA E MODULIT7W | 15W7W | 15 W | 25 W
Fitimet e përballueshme të performancës së AI për llogaritjen e skajshme
Jetson Orin Nano Super ndërtohet në arkitekturën Ampere GPU të Nvidia, e cila ka ka qenë një gur themeli i ofertave të saj të AI nëpër qendrat e të dhënave, cloud dhe tani kompjuterin në skaj. Kompleti i zhvilluesit përmban Jetson Orin Nano 8GB system-on-module (SoM) dhe sjell efikasitet të përmirësuar për detyra si modele të bazuara në transformator, modele gjuhësore dhe simulime robotike.
Nvidia raporton një rritje 1,7 herë në performancën gjeneruese të konkluzioneve të AI, e mundësuar nga përmirësimet e harduerit dhe optimizimi i softuerit. Veçanërisht, sistemi i ri arrin 67 TOPS (triliona operacione në sekondë) performancë të rrallë llogaritëse—nga 40 TOPS në serinë e mëparshme Orin Nano—dhe rrit gjerësinë e brezit të memories në 102 GB/s, një hap i rëndësishëm mbi 68 GB/s më parë.
Sipas Nvidia, kompleti i zhvilluesve ruan të njëjtin faktor të formës kompakte ndërsa jep më shumë efikasiteti. Deepu Talla, Zëvendës President i Nvidia për Embedded dhe Edge Computing, vuri në dukje ndikimin e përmirësimit, duke thënë,”Është sikur të kemi marrë Orin Nano dhe t’i kemi dhënë atij një pelerinë superheroi.”
Këto përmirësime fuqizojnë zhvilluesit të trajtojnë AI detyra të kufizuara më parë në sistemet cloud, të tilla si ekzekutimi i modeleve kompakte të gjuhëve të mëdha (LLM) si Llama-3.1 dhe Gemma-2 Duke mundësuar që modelet më të vogla dhe të optimizuara të funksionojnë në nivel lokal, Jetson Orin Nano Super zvogëlon mbështetjen në burimet e resë kompjuterike dhe vonesën—kritike për robotikën, makinat autonome dhe aplikacione të tjera në kohë reale.
[përmbajtje e integruar] <. h3 >Përditësimet e softuerit zgjerojnë përfitimet e performancës në pajisjet ekzistuese
Përkrah Lëshimi i harduerit, Nvidia prezantoi një përditësim SDK të JetPack që përfiton të gjithë familjen Jetson Orin, duke përfshirë modelet më të vjetra Orin Nano dhe NX përditësimi zhbllokon Super Mode, një cilësim me fuqi më të lartë që rrit frekuencat e orës së GPU dhe CPU për të përmirësuar performancën.
Zhvilluesit mund të aktivizojnë”Super Mode”duke përdorur mjetin”Zgjedhuesi i modalitetit të energjisë”të Nvidia, i aksesueshëm nëpërmjet linjës së komandës ose ndërfaqes grafike. Me këtë veçori, pajisja ekzistuese mund të arrijë përfitime të performancës të ngjashme me Jetson Orin Nano Super pa investime shtesë.
Duke siguruar barazi të softuerit në të gjithë linjën e saj Orin, Nvidia maksimizon ciklin e jetës dhe vlerën e platformave të saj të fundit të AI, duke bërë që është më e lehtë për zhvilluesit të shkallëzojnë projektet e tyre.
Aplikacionet në botën reale: Robotikë, Modele Vizioni dhe Gjenerative. AI
Jetson Orin Nano Super i Nvidia-s është krijuar me qëllim për aplikacione të skajshme që kërkojnë përpunim efikas të AI. Fushat kryesore të fokusit përfshijnë robotikën, vizionin kompjuterik dhe AI gjeneruese:
Në robotikë, Nvidia’s Platforma Isaac ofron mjete simulimi dhe gjenerim të të dhënave sintetike për të përshpejtuar zhvillimin. Për shembull, Isaac Sim u mundëson zhvilluesve të prototipojnë sistemet robotike në mjedise virtuale përpara se t’i vendosin ato në botën reale. Në mënyrë të ngjashme, Omniverse Replicator i Nvidia lehtëson krijimin e të dhënave sintetike me cilësi të lartë për trajnimin e modeleve të AI.
Për vizionin kompjuterik, Jetson Orin Nano Super mbështet modele të bazuara në transformator si Modeli i transformatorit të shikimit DINOv2 i vetë-mbikëqyrur i Metës dhe CLIP, të cilat ofrojnë saktësi të përmirësuar për detyrat e njohjes, klasifikimit dhe zbulimit të objekteve të imazhit.
Këto modele u mundësojnë sistemeve të analizojnë me rezolucion të lartë. transmetime të imazheve dhe videove me efikasitet më të madh, duke e bërë pajisjen ideale për aplikacione të tilla si kontrolli i automatizuar i cilësisë, mbikëqyrja dhe navigimi autonom.
Inteligjenca artificiale gjeneruese e gjeneruar. ngarkesat e punës përfitojnë gjithashtu nga aftësitë e platformës. Duke ekzekutuar LLM kompakte në nivel lokal—si p.sh. Llama-3.1 8B ose Gemma-2 — zhvilluesit mund të zbatojnë aplikacione si gjenerimi i shtuar me rikthim chatbots (RAG) ose përmbledhje e përmbajtjes në kohë reale.
Kombinimi i vonesës së ulët dhe konsumit të reduktuar të energjisë e bën Jetson Orin Nano Super të përshtatshëm për mjedise të skajshme ku gjerësia e brezit dhe qasja në renë kompjuterike janë të kufizuara.
Ekosistemi i zhvilluesve dhe i gjatë.-Term Support
Nvidia thotë se është e përkushtuar të mbështesë komunitetin Jetson përmes burimeve dhe mjeteve gjithëpërfshirëse. Jetson AI Lab u ofron zhvilluesve kontejnerë të para-ndërtuar, udhëzues vendosjeje dhe mësime për zbatimin e modeleve të AI. Shembujt përfshijnë integrimin e Ollama për vendosjen e chatbot-it dhe shfrytëzimin e kornizave nga Hugging Face, Google, Microsoft dhe Meta.
Kit i zhvilluesve gjithashtu. përmban mbështetje për deri në katër kamera, duke mundësuar përpunim me shumë transmetime për detyra të bazuara në vizion—kritike për robotikën dhe sistemet autonome.
Për të siguruar afatgjatë. stabiliteti, Nvidia ka zgjatur ciklin e jetës së produktit Jetson Orin deri në vitin 2032, duke u dhënë zhvilluesve dhe bizneseve besim në disponueshmërinë e platformës për vendosjet e ardhshme.
Një hap përpara për Edge AI
Me Jetson Orin Nano Super, Nvidia kombinon performancën e përmirësuar të AI me përballueshmërinë, duke adresuar nevojën në rritje për në kohë reale, informatikë në pajisje. Aftësia e platformës për të ekzekutuar modele kompakte gjeneruese të AI, për të përpunuar imazhe me rezolucion të lartë dhe për të përshpejtuar zhvillimin e robotikës e bën atë një mjet thelbësor për zhvilluesit që punojnë në zgjidhjet më të fundit.
Duke ofruar përmirësime harduerike së bashku me optimizimet e softuerit që zbatohen për ekzistuesit. pajisjet, Nvidia ka krijuar një ekosistem të fuqishëm për zhvillimin e inteligjencës artificiale të skajshme.
