Η Nvidia παρουσίασε το Jetson Orin Nano Super Developer Kit, μια πλατφόρμα τεχνητής νοημοσύνης υψηλής απόδοσης που παρέχει 70% ώθηση στην ταχύτητα εξαγωγής συμπερασμάτων τεχνητής νοημοσύνης, ενώ διπλασιάζει το εύρος ζώνης της μνήμης σε σύγκριση με τον προκάτοχό της.
Η NVIDIA. Το Jetson Orin Nano super Developer Kit είναι μια συμπαγής πλακέτα τεχνητής νοημοσύνης που έχει σχεδιαστεί για τη δημιουργία συσκευών που λειτουργούν με τεχνητή νοημοσύνη αρχικού επιπέδου, όπως ρομπότ, drones και έξυπνες κάμερες.
Its Ο συνδυασμός βελτιωμένης απόδοσης υλικού και βελτιστοποιήσεων λογισμικού συμβατών προς τα πίσω το τοποθετεί ως ελκυστική λύση για ρομποτική, όραση υπολογιστή και σε πραγματικό χρόνο παραγωγικοί φόρτοι εργασίας τεχνητής νοημοσύνης—περιοχές όπου η υπολογιστική ισχύς πρέπει να πληροί τους περιορισμούς ενέργειας και χώρου.
Σύγκριση διαμόρφωσης κιτ προγραμματιστών Nano Super Jetson Orin
<πίνακας >NVIDIA Jetson Orin Nano Developer Kit
(πρωτότυπο)NVIDIA Jetson Orin Nano Super Developer KitGPU Αρχιτεκτονική NVIDIA Ampere
1.024 CUDA Cores
32 Tensor Cores
635 MHz
Αρχιτεκτονική NVIDIA Ampere
1.024 CUDA Cores
32 Tensor Cores
1.020 MHz
AI PERF40 INT8 TOPS (Sparse)
20 INT8 TOPS (Πυκνά)
10 FP16 TFLOPs
67 TOPS (Sparse)
33 TOPS (Πυκνά)
17 FP16 TFLOPs
CPU6-core Arm Cortex-A78AE v8.2 CPU 64-bit
1,5 GHz
6-core Arm Cortex-A78AE v8.2 CPU 64 bit
1,7 GHz
Μνήμη8 GB 128 bit LPDDR5
68 GB/s
8 GB 128-bit LPDDR5
102 GB/s
ΙΣΧΥΣ ΜΟΝΑΔΑΣ7W | 15W7W | 15W | 25W
Φθηνά κέρδη απόδοσης AI για υπολογιστές αιχμής
Το Jetson Orin Nano Super βασίζεται στην αρχιτεκτονική Ampere GPU της Nvidia, η οποία έχει ήταν ο ακρογωνιαίος λίθος των προσφορών τεχνητής νοημοσύνης της σε κέντρα δεδομένων, cloud και τώρα υπολογιστές αιχμής. Το κιτ προγραμματιστή διαθέτει το Jetson Orin Nano 8GB system-on-module (SoM) και προσφέρει βελτιωμένη απόδοση για εργασίες όπως μοντέλα που βασίζονται σε μετασχηματιστές, μοντέλα γλώσσας και προσομοιώσεις ρομποτικής.
Η Nvidia αναφέρει αύξηση 1,7 φορές στην απόδοση συμπερασμάτων γενετικής τεχνητής νοημοσύνης, που κατέστη δυνατή χάρη στις αναβαθμίσεις υλικού και τη βελτιστοποίηση λογισμικού. Συγκεκριμένα, το νέο σύστημα επιτυγχάνει 67 TOPS (τρισεκατομμύρια λειτουργίες ανά δευτερόλεπτο) αραιή υπολογιστική απόδοση—από 40 TOPS στην προηγούμενη σειρά Orin Nano—και αυξάνει το εύρος ζώνης μνήμης στα 102 GB/s, ένα σημαντικό άλμα σε σχέση με τα προηγούμενα 68 GB/s.
Σύμφωνα με τη Nvidia, το κιτ προγραμματιστών διατηρεί τον ίδιο συμπαγή παράγοντα μορφής, ενώ παρέχει μεγαλύτερη αποτελεσματικότητα. Ο Deepu Talla, Αντιπρόεδρος του Embedded and Edge Computing της Nvidia, σημείωσε τον αντίκτυπο της αναβάθμισης, λέγοντας:”Είναι σαν να έχουμε πάρει το Orin Nano και του δώσαμε μια κάπα υπερήρωα.”
Αυτές οι βελτιώσεις δίνουν τη δυνατότητα στους προγραμματιστές να χειρίζονται την τεχνητή νοημοσύνη εργασίες που προηγουμένως περιορίζονταν σε συστήματα cloud, όπως η εκτέλεση συμπαγών μοντέλων μεγάλων γλωσσών (LLM) όπως το Llama-3.1 και Gemma-2 Επιτρέποντας την εκτέλεση τοπικά μικρότερων, βελτιστοποιημένων μοντέλων, το Jetson Orin Nano Super μειώνει την εξάρτηση από τους πόρους του cloud και τον λανθάνοντα χρόνο—κρίσιμο για τη ρομποτική, τις αυτόνομες μηχανές και άλλες εφαρμογές σε πραγματικό χρόνο.
[ενσωματωμένο περιεχόμενο] <. h3 >Οι ενημερώσεις λογισμικού επεκτείνουν τα κέρδη απόδοσης σε υπάρχουσες συσκευές
Μαζί με το έκδοση υλικού, η Nvidia παρουσίασε μια ενημέρωση SDK του JetPack που ωφελεί ολόκληρη την οικογένεια Jetson Orin, συμπεριλαμβανομένων των παλαιότερων μοντέλων Orin Nano και NX Η ενημέρωση ξεκλειδώνει τη λειτουργία Super Mode, μια ρύθμιση υψηλότερης ισχύος που ενισχύει τις συχνότητες ρολογιού GPU και CPU για βελτίωση της απόδοσης.
Οι προγραμματιστές μπορούν να ενεργοποιήσουν τη Super Mode χρησιμοποιώντας το εργαλείο Power Mode Selector της Nvidia, προσβάσιμο μέσω της γραμμής εντολών ή της γραφικής διεπαφής. Με αυτήν τη δυνατότητα, το υπάρχον υλικό μπορεί να επιτύχει κέρδη απόδοσης παρόμοια με το Jetson Orin Nano Super χωρίς πρόσθετες επενδύσεις.
Με την εξασφάλιση ισοτιμίας λογισμικού σε όλη τη σειρά Orin, η Nvidia μεγιστοποιεί τον κύκλο ζωής και την αξία των αιχμής πλατφορμών τεχνητής νοημοσύνης της, κάνοντας είναι πιο εύκολο για τους προγραμματιστές να κλιμακώσουν τα έργα τους.
Εφαρμογές πραγματικού κόσμου: Ρομποτική, Vision Models και Generative AI
Το Jetson Orin Nano Super της Nvidia είναι ειδικά κατασκευασμένο για εφαρμογές αιχμής που απαιτούν αποτελεσματική επεξεργασία AI. Οι βασικοί τομείς εστίασης περιλαμβάνουν τη ρομποτική, την όραση υπολογιστών και τη γενετική τεχνητή νοημοσύνη:
Στη ρομποτική, της Nvidia Η πλατφόρμα Isaac προσφέρει εργαλεία προσομοίωσης και παραγωγή συνθετικών δεδομένων για την επιτάχυνση της ανάπτυξης. Για παράδειγμα, ο Isaac Sim δίνει τη δυνατότητα στους προγραμματιστές να δημιουργήσουν πρωτότυπα ρομποτικά συστήματα σε εικονικά περιβάλλοντα πριν τα αναπτύξουν στον πραγματικό κόσμο. Ομοίως, το Omniverse Replicator της Nvidia διευκολύνει τη δημιουργία συνθετικών δεδομένων υψηλής ποιότητας για εκπαίδευση μοντέλων τεχνητής νοημοσύνης.
Για όραση υπολογιστή, το Jetson Orin Nano Super υποστηρίζει μοντέλα που βασίζονται σε μετασχηματιστές όπως Μοντέλο αυτοεπιβλεπόμενου μετασχηματιστή όρασης DINOv2 της Meta και CLIP, τα οποία παρέχουν βελτιωμένη ακρίβεια για εργασίες αναγνώρισης, ταξινόμησης και ανίχνευσης αντικειμένων εικόνων.
Αυτά τα μοντέλα επιτρέπουν στα συστήματα να αναλύουν υψηλής ανάλυσης. ροές εικόνων και βίντεο με μεγαλύτερη αποτελεσματικότητα, καθιστώντας τη συσκευή ιδανική για εφαρμογές όπως ο αυτοματοποιημένος ποιοτικός έλεγχος, η επιτήρηση και η αυτόνομη πλοήγηση.
Generative AI. Ο φόρτος εργασίας επωφελείται επίσης από τις δυνατότητες της πλατφόρμας. Εκτελώντας τοπικά συμπαγή LLM—όπως Llama-3.1 8B ή το Gemma-2 — οι προγραμματιστές μπορούν να εφαρμόσουν εφαρμογές όπως η δημιουργία επαυξημένης ανάκτησης (RAG) chatbots ή σύνοψη περιεχομένου σε πραγματικό χρόνο.
Ο συνδυασμός χαμηλής καθυστέρησης και μειωμένης κατανάλωσης ενέργειας καθιστά το Jetson Orin Nano Super κατάλληλο για περιβάλλοντα αιχμής όπου το εύρος ζώνης και η πρόσβαση στο cloud είναι περιορισμένα.
Οικοσυστήματα προγραμματιστών και Long.-Υποστήριξη όρου
Η Nvidia λέει ότι δεσμεύεται να υποστηρίξει την κοινότητα Jetson μέσω ολοκληρωμένων πόρων και εργαλείων. Το Jetson AI Lab παρέχει στους προγραμματιστές προκατασκευασμένα κοντέινερ, οδηγούς ανάπτυξης και σεμινάρια για την εφαρμογή μοντέλων AI. Τα παραδείγματα περιλαμβάνουν την ενσωμάτωση του Ollama για την ανάπτυξη chatbot και την αξιοποίηση πλαισίων από το Hugging Face, την Google, τη Microsoft και το Meta.
Το κιτ προγραμματιστών επίσης. διαθέτει υποστήριξη για έως και τέσσερις κάμερες, επιτρέποντας την επεξεργασία πολλαπλών ροών για εργασίες που βασίζονται στην όραση—κρίσιμες για τη ρομποτική και τα αυτόνομα συστήματα.
Για τη διασφάλιση μακροπρόθεσμης λειτουργίας. σταθερότητα, η Nvidia επέκτεινε τον κύκλο ζωής του προϊόντος Jetson Orin έως το 2032, δίνοντας στους προγραμματιστές και τις επιχειρήσεις εμπιστοσύνη στη διαθεσιμότητα της πλατφόρμας για μελλοντικές αναπτύξεις.
Ένα βήμα προς τα εμπρός για το Edge AI
Με το Jetson Orin Nano Super, η Nvidia συνδυάζει βελτιωμένη απόδοση τεχνητής νοημοσύνης με προσιτή τιμή, καλύπτοντας την αυξανόμενη ανάγκη για σε πραγματικό χρόνο, υπολογιστές στη συσκευή. Η ικανότητα της πλατφόρμας να εκτελεί συμπαγή μοντέλα τεχνητής νοημοσύνης, να επεξεργάζεται εικόνες υψηλής ανάλυσης και να επιταχύνει την ανάπτυξη της ρομποτικής, την καθιστά απαραίτητο εργαλείο για προγραμματιστές που εργάζονται σε λύσεις αιχμής.
Προσφέροντας βελτιώσεις υλικού παράλληλα με βελτιστοποιήσεις λογισμικού που ισχύουν για τις υπάρχουσες λύσεις. συσκευές, η Nvidia έχει δημιουργήσει ένα ισχυρό οικοσύστημα για την ανάπτυξη τεχνητής νοημοσύνης αιχμής.
