Microsoftは、新しいAzure AI FoundryローカルプラットフォームでOpenaiのGPT-OssモデルをWindowsにもたらします

Microsoftは、OpenAIの強力な新しい「GPT-OSS」モデルをローカルPCにもたらしています。同社は火曜日に、現場の人工知能を大幅に推進して発表しました。この動きは、新しいプラットフォームを活用します。イニシアチブは、クラウドではなくローカルでデータを処理することにより、よりプライベートで応答性の高い、安全なAIアプリケーションを作成することを目的としています。これは、洗練されたAIツールを広く利用可能にするための重要なステップであり、クラウドとは無関係にAI開発の次の波の重要なプラットフォームとしてWindowsを配置します。

MicrosoftのCVPとAIプラットフォーム製品のヘッドによって行われたアスハSharmaは、Openaiのリターンを取り巻く業界全体の活動における最新の開発です。 src=”https://winbuzzer.com/wp-content/uploads/2024/11/azure-ai-foundry.official.jpg”>

azure ai foundry for device inference

href=”https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local”target=”_ blank”> Windowsおよびmacosのオンデバイス推論プラットフォーム。これにより、高度なAIモデルはユーザーハードウェアで直接実行できます。これは、AIランドスケープを支配しているクラウド中心のモデルからの大幅な逸脱です。プラットフォームは現在公開プレビューで利用可能であり、開発者がすぐに実験を開始できるようにします。

プラットフォームの重要な利点は、オフラインで機能する能力です。このアプローチは、潜伏期の問題に取り組み、AIの相互作用をより速くします。重要なことに、開発者はAzureサブスクリプションなしでFoundry Localを使用できます。 onnxランタイムは自動的に Intel、AMD、NVIDIA、Qualcomm などのベンダーからのCPU、GPU、およびNPUの幅広いハードウェアでモデルパフォーマンスを最適化します。また、 openai互換API、CLI、およびSDKが統合統合のためのSDKを提供します。 「Foundry Localは、これらのモデルをWindowsにもたらします。これは、CPU、GPU、およびNPUにわたって低遅延、安全なオフライン推論を可能にします。これには、完全な微調整とオーケストレーションのサポートが付属しています。」これにより、地元の地元はランタイム環境としてだけでなく、オンデバイスAIの本格的な開発ツールキットとして位置付けられています。モデルは、許容されるApache 2.0ライセンスの下で利用できます。 `gpt-oss-120b`は、 GPT-4クラスシステムに匹敵するパフォーマンスを備えた、より強力な推論モデルです。どちらも効率的な混合物（MOE）アーキテクチャの上に構築されており、特定のタスクに対してモデルのパラメーターのほんの一部のみをアクティブにし、計算コストを最小限に抑えながらパフォーマンスを最大化します。 Openaiの研究プログラムマネージャーであるCasey Dvorakは、理論的根拠を説明しました。「Openaiから[競争力のある]オープンモデルがないため、そのギャップを差し込み、実際にテクノロジーを全面的に使用できるようにしたいと考えました。」これにより、セキュリティ、コスト、またはカスタマイズの理由にローカルに運営されているモデルを必要とする開発者を競うことができます。