英国政府は、AI 安全性協会 (AISI) の初の国際事務所をサンフランシスコに設立することを発表しました。この動きは、同研究所の技術能力を強化し、AIの安全性における主導的存在としての地位を確立することを目的としている。新しいオフィスにより、主要な AI テクノロジー企業との緊密な連携が可能になります。
戦略的拡大
サンフランシスコ オフィスでは、まず最初のオフィスを率いるリサーチ ディレクターを採用します。技術スタッフのチーム。この拡張により、現在 30 名を超える技術スタッフを雇用しているロンドン本社を補完することになります。ミシェル・ドネラン科学技術担当国務長官は、今回の拡張によりAIの安全性における英国のリーダーシップが強調され、英国が世界的な観点からAIのリスクと機会を評価できるようになる、と強調した。彼女は、この取り組みにより英国と米国のパートナーシップが強化され、他の国々が AI の安全性に関する英国の専門知識から恩恵を受けることができるようになると強調しました。
AISI の最近の取り組み
AISI は昨年の設立以来、AI セーフガードの有効性を評価する調査を実施してきました。この研究結果は、AI の安全性がまだ初期段階にあることを示しています。 AISI所長は、この結果は同研究所が開発している広範な評価アプローチのほんの一部に過ぎないと述べた。同研究所は、国家安全保障に関連するリスクに焦点を当てて評価を継続することを目指しています。
この拡張は、イノベーションを妨げることなく AI モデルが安全要件を確実に満たすことの重要性についての議論が続く中で行われました。政府は、厳しい安全基準を維持しながら、新技術の開発を可能にするバランスを取ることを目指している。このアプローチは、特に OpenAI に関する論争など、AI 業界における最近の論争を考慮すると、不可欠であると考えられています。
最初の AI 安全性テストの結果
この拡張は、AI安全研究所が一般公開モデルに関する初のAI安全性テスト結果を公表し、カナダとの新たな協力に合意したことを受けて発表された。同オフィスは今夏に開設される予定で、研究責任者が率いる技術スタッフの最初のチームを募集する。米国での存在感を拡大することで、同研究所は米国との緊密な連携を確立し、AIの安全性に対する米国の戦略的パートナーシップとアプローチを推進するとともに、研究を共有し、世界のAI安全性政策に情報を提供できるAIモデルの共同評価を実施する予定である。
また今週、AISI と情報データ会社との関係が物議を醸しました。英国の人工知能企業であるファカルティは、英国政府と重要な契約を締結しました。同社の政治的つながりと調達プロセスに関する疑問が生じている。同社は、高度な AI テクノロジーをテストするために AI Safety Institute (AISI) を新設。
