La startup Extropic de la région de Boston a dévoilé cette semaine un nouveau type de matériel d’IA basé sur « l’informatique thermodynamique ».

La société a construit ses premières puces fonctionnelles, qui, selon elle, pourraient être des milliers de fois plus économes en énergie que les GPU actuels.

Cette avancée intervient alors que des géants comme Amazon et Apple dépensent des dizaines de milliards dans d’énormes centres de données gourmands en énergie. Extropic parie que la clé pour faire évoluer l’IA n’est pas plus de puissance, mais un calcul plus intelligent et radicalement efficace, offrant un défi direct aux demandes énergétiques massives de l’industrie actuelle de l’IA.

La course aux armements dans les infrastructures d’IA heurte un mur énergétique

L’intelligence artificielle devient astronomiquement coûteuse et sa principale monnaie est l’électricité. À mesure que les modèles grandissent, l’énergie nécessaire à leur formation et à leur fonctionnement crée ce que beaucoup appellent le « mur énergétique de l’IA », un obstacle fondamental à leur évolution future.

Les États-Unis Les centres de données sont en passe de consommer le chiffre stupéfiant de 426 térawattheures d’ici 2030, soit plus du double de leur utilisation de 2024, soit 183 TWh, selon une analyse indépendante. Cette demande insatiable a déclenché une course effrénée aux armements en matière d’infrastructures de plusieurs milliards de dollars parmi les plus grandes entreprises technologiques du monde.

Les titans de l’industrie investissent des capitaux dans de nouvelles installations tentaculaires. Cette semaine encore, Amazon Web Services a activé un centre de données d’IA de 11 milliards de dollars dans l’Indiana, construit exclusivement pour alimenter des modèles pour son partenaire Anthropic.

Le PDG d’AWS, Matt Garman, a souligné le caractère immédiat du projet, déclarant:”Ce n’est pas un projet futur dont nous avons parlé et qui pourrait peut-être prendre vie. Il exécute et entraîne ses modèles aujourd’hui.”

Cela fait suite aux plans d’OpenAI pour son gigantesque projet Stargate et au développement par Meta d’un Site Hyperion de 2 gigawatts. Pour ne pas être en reste, Apple a récemment accéléré l’ouverture de sa propre usine de serveurs d’IA de fabrication américaine au Texas.

Même les fabricants de puces établis se démènent pour s’adapter à cette nouvelle réalité. Intel, dans le cadre d’une nouvelle philosophie de discipline fiscale stricte, cible le marché de l’inférence de l’IA avec son GPU « Crescent Island », une puce conçue pour la puissance et la rentabilité plutôt que pour les performances brutes.

Il s’agit pourtant d’améliorations progressives par rapport à une architecture existante à forte intensité énergétique, une stratégie qu’Extropic vise à rendre obsolète.

Un nouveau modèle : l’informatique thermodynamique

Alors que les grandes technologies construisent plus grand, Extropic, c’est construire différemment. L’entreprise a dévoilé un tout nouveau paradigme de calcul, qui, selon elle, peut effectuer certaines tâches d’IA générative avec jusqu’à 10 000 fois moins d’énergie que le matériel conventionnel.

Appelée calcul thermodynamique, cette approche représente une refonte fondamentale du fonctionnement d’une puce, passant d’un traitement déterministe. à l’échantillonnage probabiliste.

Au lieu de lutter contre le bruit électronique inhérent au silicium, une bataille constante dans des domaines comme l’informatique quantique, les fondateurs d’Extropic ont décidé de l’exploiter. Leur matériel, appelé Unités d’échantillonnage thermodynamique (TSU), utilise les fluctuations naturelles et aléatoires des électrons pour modéliser directement la probabilité.

Ses composants principaux sont des « bits probabilistes », ou p-bits, qui représentent un état d’incertitude plutôt qu’un 1 ou 0 défini. Cela permet à la puce d’effectuer un échantillonnage, une tâche essentielle de l’IA générative, d’une manière qui est native de la physique de l’appareil lui-même.

Fondée par d’anciens chercheurs en informatique quantique de Google, la startup s’inspire de la physique pour résoudre un problème informatique. Le directeur technique d’Extropic, Trevor McCourt, considère l’innovation comme une nouvelle base pour l’IA.”Nous disposons d’une primitive d’apprentissage automatique bien plus efficace que la multiplication matricielle”, dit.”La question est de savoir comment construire quelque chose à l’échelle de ChatGPT ou de Midjourney.”

En créant une primitive qui s’aligne sur la nature probabiliste de l’IA moderne, la société espère contourner la multiplication matricielle par force brute qui rend les GPU si gourmands en énergie et inefficaces pour ces charges de travail spécifiques.

D’un garage de Boston à l’arrière-cour de la Big Tech

Extropic passe rapidement d’un concept théorique. à un produit tangible. Soutenue par un tour de table de 14,1 millions de dollars mené par Kindred Ventures, la société a déjà produit son premier matériel fonctionnel et le met entre les mains de clients potentiels.

La plate-forme de développement XTR-0 est actuellement testée par une poignée de premiers partenaires, notamment des laboratoires d’IA de pointe et des représentants du gouvernement.

“Cela permet à toutes sortes de développeurs de se lancer”, déclare le PDG Guillaume Verdon. L’un de ces développeurs est Johan Mathe, PDG de la startup de modélisation météorologique Atmo, qui a confirmé qu’il testait activement les nouvelles puces.

“J’ai pu exécuter quelques p-bits et voir qu’ils se comportent comme ils sont censés le faire”, a-t-il confirmé. Cette validation précoce est cruciale pour une entreprise faisant des affirmations aussi audacieuses.

En plus du matériel, Extropic a publié un nouvel algorithme d’IA générative adapté à son architecture, le modèle thermodynamique de débruitage (DTM).

Pour encourager une recherche et un développement plus larges, il a également mis en open source « thrml », une bibliothèque Python qui permet aux développeurs de simuler le comportement du TSU sur les GPU existants, abaissant ainsi la barrière à l’entrée pour ce nouvel écosystème, selon son annonce.

L’émergence d’Extropic est un défi audacieux au consensus dominant de l’industrie selon lequel la mise à l’échelle de l’IA nécessite simplement plus de centres de données et plus de puissance.

Dirigé par Verdon, un physicien également connu pour sa personnalité en ligne et son association avec les pro-technologies philosophie de l’accélérationnisme efficace (e/acc), Extropic fait un pari à contre-courant. Il soutient que l’avenir de l’IA ne dépend pas de la construction d’un marteau plus gros, mais de l’invention d’un type d’outil complètement différent et beaucoup plus efficace.

Categories: IT Info