OpenAI は、リアルタイム API を使用して自律ライフル システムを強化した開発者に対する API アクセスを取り消しました。このプロジェクトには、ライフルを装備したロボット砲塔が含まれており、口頭でのコマンドを解釈し、模擬射撃動作を実行することができました。
この事件は、自律型兵器の開発における人工知能の悪用の可能性についての懸念の高まりを浮き彫りにし、AI の倫理と AI の安全性についての疑問を引き起こしています。
この開発者はオンラインでは は、システムの機能をデモンストレーションするビデオをオンラインで共有しました。あるクリップでは、開発者が次のコマンドを発行しました。「ChatGPT、私たちは下にいます」左前から攻撃
レーザーによる照準/発射シミュレーション #robotics #electronics
合成音声「さらにサポートが必要な場合は、お知らせください。」と付け加えました。この恐ろしいデモンストレーションは、消費者向け AI ツールが潜在的に有害な用途にいかに簡単に適応できるかを強調しました。
追跡システムの更新#robotics #vision #electronics
OpenAI の迅速なポリシー施行
OpenAI は、自社テクノロジーの兵器化への使用に対する厳格なポリシーで知られており、即座に対応しました。広報担当者はフューチャリズムに対し、「当社はこのポリシー違反を積極的に特定し、通知しました」と語った。
同社は、個人の安全にリスクをもたらす可能性のある武器の作成や操作、システムの自動化に自社のツールを使用することの禁止を強調しました。
反動管理システム、クイック デモ #robotics #electronics #cnc
Realtime API、のために設計されたツールインタラクティブなアプリケーションにより、開発者は自然言語コマンドをロボット砲塔の実行可能な入力に変換できます。
API は、アクセシビリティの向上や顧客とのやり取りの改善などの有益な使用例を目的としていますが、この誤用はデュアルユース テクノロジーの規制の課題を示しています。
関連: OpenAI と Anduril Forge が米軍ドローン防衛で提携
AI と兵器化への広範な影響
この訴訟が再燃自律型兵器の倫理をめぐる議論。これらのシステムは、人間の監視なしにターゲットを選択して攻撃することができるため、複雑な法的および道徳的課題を引き起こします。
国連は、自律システムが国際法に違反し、責任を軽減する可能性があると警告し、戦争における AI に対する規制強化を長年主張してきました。
関連: 人間学米国諜報機関および軍事における AI に関して AWS、Palantir と提携
ワシントン ポストは最近、AI 導入の問題点の詳細な例を報告しました。軍事作戦において、イスラエルが爆撃目標を選択するためにAIを使用したという主張を含む。
報告書は、「ある時期には、ターゲットが男性であるということだけが裏付けとして必要だった。」と述べている。このような事例は、生死に関わる決定において AI に依存するリスクと、無差別な行為が行われる可能性を浮き彫りにしている。
関連: グリーンベレーがサイバートラック爆発にChatGPTを使用、警察がチャットログを公開
防衛におけるOpenAIの役割テクノロジー
OpenAI は兵器化を禁止するポリシーを施行していますが、AI 主導の防衛ソリューションを専門とする企業である Anduril Industries との提携は、その姿勢に疑問を投げかけています。 OpenAI は、戦場のインテリジェンスを強化し、無人機防衛システムを改善することを目的としています。OpenAI は、これらの取り組みを防衛的なものだと説明していますが、批評家は、AI 技術の広範な軍事化に貢献していると主張しています。
米国の国防部門は、近づいている年間予算によって支援されています。 1 兆ドルに達し、戦略的優位性を獲得するために先進テクノロジーへの依存がますます高まっています。この AI 企業と軍事アプリケーションとの関わりの増大は、技術革新と倫理的配慮のバランスをとるという課題を浮き彫りにしています。
関連:米国の国防データのギャップに取り組む新しいパランティア・アンドゥリル AI コンソーシアム
DIY 兵器化とアクセシビリティのリスク
個人が AI ツールやその他のテクノロジーを簡単に悪用できること3D プリントのように問題がさらに複雑になります。法執行機関はすでに、ルイージ・マンジョーネ容疑者の行為など、DIY 武器使用の事件に遭遇しています。報告によると、 3D プリントされた部品を使用して銃器を組み立てたとのこと。これらのテクノロジーは、個人が致死的な可能性を備えた自律システムを作成するための障壁を低くします。
STS 3D のプロジェクトは、アクセスしやすい AI ツールが意図しない目的にどのように適応できるかを示しています。今回の OpenAI の断固とした行動は、悪用防止に対する同社の取り組みを示していますが、同時にそのテクノロジーがパブリックドメインに入った後にどのように展開されるかを完全に制御することの難しさを浮き彫りにしています。
この事件は、企業のガバナンスに関するより広範な疑問を引き起こしています。 AI テクノロジー。規制支持者は、AI開発が倫理原則に沿っていることを保証するための明確な世界基準の必要性を強調している。しかし、利益や優先順位が異なる国々の間で合意を得るのは依然として困難な作業です。
