ボストン地域の新興企業 Extropic は今週、「熱力学的コンピューティング」に基づく新しい種類の AI ハードウェアを発表しました。
同社は最初に動作するチップを開発し、現在の GPU よりもエネルギー効率が数千倍高い可能性があると述べています。
この画期的な進歩は、Amazon や Apple のような巨大企業が巨大な電力を必要とするデータセンターに数百億ドルを費やしている中で起こります。 Extropic は、AI を拡張するための鍵はより多くのパワーではなく、よりスマートで徹底的に効率的な計算であり、現在の AI 業界の膨大なエネルギー需要に直接挑戦できると賭けています。
AI インフラストラクチャの軍拡競争はエネルギーに打撃を与える壁
人工知能は天文学的な価格になりつつあり、その主な通貨は電気です。モデルが大きくなるにつれて、モデルのトレーニングと実行に必要なエネルギーが、多くの人が「AI エネルギーの壁」と呼ぶものを生み出し、将来のスケーリングに対する根本的な障壁となっています。
米国データセンターは 2030 年までに 426 テラワット時という驚異的な電力を消費する予定であり、2024 年の使用量である 183 TWh の 2 倍以上になります。独立した分析によると。この飽くなき需要により、世界最大手のテクノロジー企業の間で、数十億ドル規模の熱狂的なインフラ整備競争が勃発しました。
業界の巨人たちは、広大な新しい施設に資本を注ぎ込んでいます。ちょうど今週、アマゾン ウェブ サービスは、パートナーである Anthropic のモデルを強化するためだけに構築された、インディアナ州に 110 億ドルを投じた AI データセンターのスイッチを入れました。
AWS の CEO マット ガーマンは、プロジェクトの即時性を強調し、「これは、私たちが話し合ってきた、もしかしたら実現するかもしれない将来のプロジェクトではありません。これは、今日彼らのモデルを実行し、トレーニングしているのです。」
これは、巨大な Stargate プロジェクトと Meta の開発に関する OpenAI の計画に続くものです。 2 ギガワットの Hyperion サイト。それに負けじと、Apple も最近、テキサス州での自社の米国製 AI サーバー工場の開設を加速させました。
既存のチップメーカーですら、この新たな現実に適応しようと躍起になっています。 Intel は、厳格な財政規律という新しい理念のもと、素のパフォーマンスではなく電力とコスト効率を重視して設計されたチップである「Crescent Island」GPU で AI 推論市場をターゲットにしています。
しかし、これらはエネルギーを大量に消費する既存のアーキテクチャの漸進的な改善であり、Extropic が目指している戦略は時代遅れになることを目指しています。
新たな青写真: 熱力学コンピューティング
ビッグテックがより大きなものを構築する一方で、エクストロピックの建物は異なります。同社は、計算のためのまったく新しいパラダイムを発表しました。これは、特定の生成 AI タスクを最大従来のハードウェアの 10,000 分の 1 のエネルギーで実行できると主張しています。
熱力学コンピューティングと呼ばれるこのアプローチは、チップがどのように機能するかについての根本的な再考を表しています。
量子コンピューティングなどの分野で常に戦いが続くシリコン固有の電子ノイズと戦う代わりに、Extropic の創設者らはそれを利用することにしました。 熱力学サンプリング ユニット (TSU) と呼ばれるそのハードウェアは、電子の自然なランダム変動を使用して確率を直接モデル化します。
そのコア コンポーネントは「確率ビット」または p ビットであり、確率ではなく不確実性の状態を表します。明確な 1 または 0。これにより、デバイス自体の物理学にネイティブな方法で、チップが生成 AI の中核タスクであるサンプリングを実行できるようになります。
元 Google 量子コンピューティング研究者によって設立されたこのスタートアップは、コンピューター サイエンスの問題を解決するために物理学から 1 ページを取り入れています。 Extropic の CTO、Trevor McCourt は、このイノベーションを AI の新しい基盤として位置づけています。 「行列の乗算よりもはるかに効率的な機械学習プリミティブがあります」と彼は言います。 「問題は、ChatGPT や Midjourney の規模で何かをどのように構築するかということです。」
現代の AI の確率的性質に合わせたプリミティブを作成することで、同社は、GPU がこれらの特定のワークロードに対して非常に電力を消費し、非効率になる強引な行列乗算を回避したいと考えています。
ボストンのガレージからビッグテックまでBackyard
Extropic は、理論上のコンセプトから具体的な製品へと急速に移行しています。 Kindred Ventures が主導する 1,410 万ドルのシードラウンドに支えられ、同社はすでに最初の実用的なハードウェアを製造し、潜在的な顧客の手に届けています。
XTR-0 開発プラットフォームは現在、フロンティア AI ラボや政府代表を含む少数の初期パートナーによってテストされています。
「これにより、あらゆる種類の開発者がタイヤを蹴ることができるようになります」と CEO の Guillaume Verdon 氏は述べています。それらの開発者の 1 人は、気象モデリングのスタートアップ Atmo の CEO である Johan Mathe 氏です。彼は新しいチップを積極的にテストしていることを認めました。
「いくつかの p ビットを実行して、それらが想定どおりに動作することを確認できました。」と彼は認めました。このような大胆な主張をする企業にとって、この早期検証は非常に重要です。
ハードウェアと並行して、Extropic は、自社のアーキテクチャに合わせた新しい生成 AI アルゴリズムであるノイズ除去熱力学モデル (DTM) をリリースしました。
より広範な研究開発を促進するために、開発者が既存の GPU で TSU の動作をシミュレートできるようにする Python ライブラリである「thrml」もオープンソース化し、この新しいエコシステムへの参入障壁を下げました。 発表によると。
Extropic の登場は、AI の拡張にはデータセンターと電力の増加が必要であるという一般的な業界のコンセンサスに対する大胆な挑戦である。
オンラインでの人物像やプロテクノロジーとの関わりでも知られる物理学者 Verdon 氏が率いる「効果的な加速主義」 (e/acc) の哲学に基づき、Extropic は逆張りの賭けを行っています。 AI の将来は、より大きなハンマーを構築することではなく、まったく異なる、はるかに効率的な種類のツールを発明することに依存していると主張しています。
