Nvidia a présenté le Jetson Orin Nano Super Developer Kit, une plate-forme d’IA hautes performances offrant une augmentation de 70 % de la vitesse d’inférence générative de l’IA tout en doublant la bande passante mémoire par rapport à son prédécesseur.
Prix à D’une valeur de 249 $, le kit offre aux développeurs, aux chercheurs et aux étudiants un outil rentable pour créer et déployer des applications d’IA avancées à la périphérie.
Le super kit de développement NVIDIA Jetson Orin Nano est un outil compact. Carte IA conçue pour créer des appareils d’entrée de gamme alimentés par l’IA tels que des robots, des drones et des caméras intelligentes.
C’est La combinaison de performances matérielles améliorées et d’optimisations logicielles rétrocompatibles le positionne comme une solution attrayante pour les charges de travail de robotique, de vision par ordinateur et d’IA générative en temps réel-des domaines où la puissance de calcul doit répondre à l’énergie et contraintes d’espace.
Comparaison de configuration du kit de développement Jetson Orin Nano Super
Gains de performances IA abordables pour l’Edge Computing
Le Jetson Orin Nano Super s’appuie sur l’architecture GPU Ampere de Nvidia, qui a a été la pierre angulaire de ses offres d’IA dans les centres de données, le cloud et désormais l’informatique de pointe. Le kit de développement comprend le système sur module (SoM) Jetson Orin Nano 8 Go. et apporte une efficacité accrue pour des tâches telles que les modèles basés sur des transformateurs, les modèles de langage et les simulations robotiques.
Nvidia rapporte une multiplication par 1,7 de l’IA générative. performances d’inférence, rendues possibles par les mises à niveau matérielles et l’optimisation logicielle. Notamment, le nouveau système atteint des performances de calcul éparses de 67 TOPS (trillions d’opérations par seconde), contre 40 TOPS dans la précédente série Orin Nano, et augmente la bande passante mémoire à 102 Go/s, un bond significatif par rapport aux 68 Go/s précédents.
Selon Nvidia, le kit de développement conserve le même facteur de forme compact tout en offrant une plus grande efficacité. Deepu Talla, vice-président de l’informatique embarquée et Edge Computing chez Nvidia, a souligné l’impact de la mise à niveau, déclarant :”C’est comme si nous avions pris Orin Nano et lui avions donné une cape de super-héros.”
Ces améliorations permettent aux développeurs de gérer l’IA. tâches auparavant limitées aux systèmes cloud, telles que l’exécution de modèles de langage volumineux (LLM) compacts comme Llama-3.1 et Gemma-2 En permettant à des modèles plus petits et optimisés de s’exécuter localement, le Jetson Orin Nano Super réduit. la dépendance aux ressources et à la latence du cloud : critique pour la robotique, les machines autonomes et d’autres applications en temps réel.
[contenu intégré]
Les mises à jour logicielles étendent les gains de performances aux appareils existants
Parallèlement à la version matérielle, Nvidia a introduit une mise à jour du SDK JetPack qui profite à l’ensemble de Jetson. Famille Orin, y compris les anciens modèles Orin Nano et NX. Cette mise à jour débloque le Super Mode, un paramètre de puissance plus élevée qui augmente les fréquences d’horloge du GPU et du CPU pour améliorer les performances.
Les développeurs peuvent activer le Super Mode à l’aide du sélecteur de mode d’alimentation de Nvidia. outil, accessible via la ligne de commande ou l’interface graphique. Grâce à cette fonctionnalité, le matériel existant peut atteindre des gains de performances similaires à ceux du Jetson Orin Nano Super sans investissement supplémentaire.
En garantissant la parité logicielle dans sa gamme Orin, Nvidia maximise le cycle de vie et la valeur de ses plates-formes d’IA de pointe, ce qui rend il est plus facile pour les développeurs de faire évoluer leurs projets.
Applications du monde réel : robotique, modèles de vision et IA générative
Jetson Orin Nano Super de Nvidia est spécialement conçu pour les applications de pointe nécessitant un traitement efficace de l’IA. Les principaux domaines d’intérêt incluent la robotique, la vision par ordinateur et l’IA générative :
En robotique, Les technologies de Nvidia La plateforme Isaac propose des outils de simulation et de génération de données synthétiques pour accélérer le développement. Par exemple, Isaac Sim permet aux développeurs de prototyper des systèmes robotiques dans des environnements virtuels avant de les déployer dans le monde réel. De même, Omniverse Replicator de Nvidia facilite la création de données synthétiques de haute qualité pour la formation de modèles d’IA.
Pour la vision par ordinateur, le Jetson Orin Nano Super prend en charge des modèles basés sur des transformateurs tels que DINOv2 de Meta, modèle de transformateur de vision auto-supervisé et CLIP, qui fournissent précision améliorée pour les tâches de reconnaissance d’images, de classification et de détection d’objets.
Ces modèles permettent aux systèmes d’analyser des images et des flux vidéo haute résolution avec une plus grande efficacité, ce qui rend l’appareil idéal pour des applications telles que le contrôle qualité automatisé, la surveillance et la navigation autonome.
Les charges de travail d’IA générative bénéficient également des capacités de la plateforme. En exécutant localement des LLM compacts, tels que Llama-3.1 8B ou Gemma-2 : les développeurs peuvent implémenter des applications telles que des chatbots de génération augmentée par récupération (RAG) ou des applications en temps réel. résumé du contenu.
La combinaison d’une faible latence et d’une consommation d’énergie réduite rend le Jetson Orin Nano Super bien adapté aux environnements de périphérie où la bande passante et l’accès au cloud sont limités.
Écosystème de développement et longue durée-Support à terme
Nvidia déclare s’engager à soutenir la communauté Jetson à travers des ressources et des outils complets. Le Jetson AI Lab fournit aux développeurs des conteneurs prédéfinis, des guides de déploiement et des didacticiels pour la mise en œuvre de modèles d’IA. Les exemples incluent l’intégration d’Ollama pour le déploiement de chatbot et l’exploitation des frameworks de Hugging Face, Google, Microsoft et Meta.
Le kit de développement également prend en charge jusqu’à quatre caméras, permettant un traitement multi-flux pour les tâches basées sur la vision, essentielles pour la robotique et les systèmes autonomes.
Pour garantir la stabilité à long terme, Nvidia a prolongé le cycle de vie du produit Jetson Orin jusqu’en 2032. , donnant confiance aux développeurs et aux entreprises dans la disponibilité de la plate-forme pour les déploiements futurs.
Un pas en avant pour Edge AI
Avec le Jetson Orin Nano Super, Nvidia combine des améliorations Performances de l’IA à un prix abordable, répondant au besoin croissant d’informatique en temps réel sur l’appareil. La capacité de la plateforme à exécuter des modèles d’IA génératifs compacts, à traiter des images haute résolution et à accélérer le développement de la robotique en fait un outil essentiel pour les développeurs travaillant sur des solutions de pointe.
En proposant des améliorations matérielles ainsi que des optimisations logicielles qui s’appliquent aux solutions existantes. appareils, Nvidia a créé un écosystème robuste pour le développement de l’IA de pointe.
