英国の人工知能企業である Faculty は、英国政府と重要な契約を締結しました、同社の政治的つながりと調達プロセスについて疑問が生じている。同社は過去 3 年間の公開入札で 4,500 万ポンド以上を落札しており、その中には 高度な AI テクノロジーをテストするために AI Safety Institute (AISI) を新設。
政治的つながりと論争
同社と主要な政治家との密接な関係が物議を醸している。執筆Politico。同学部の共同創設者であるマーク・ワーナー氏は、ボリス・ジョンソン氏の元顧問でドミニク・カミングスの盟友であるベン・ワーナー氏の弟である。この教員は、英国の EU 離脱を支持する Vote Leave キャンペーンのデータ サイエンス パートナーとして最初に注目を集めました。それ以来、同社は英国政府内でますます統合されるようになり、同様に政府との契約を専門とする米国企業パランティアと比較されるようになりました。
学部の最近の契約は、競争入札なしで落札されており、その慣行は競争入札を介して行われています。一部の国会議員に不快感を与えた。ポリティコは、自由民主党議員でテクノロジー政策の専門家であるティム・クレメント・ジョーンズ氏の言葉を引用し、同社の広範な政治的つながりに懸念を表明した。クレメントジョーンズ教授は、教員は「誰とでもつながっているようだ」と述べ、政府調達プロセスにおける透明性の必要性を強調しました。
AI の安全性と政府の承認
学部は、特にリシ首相の下で英国政府が AI の安全性に注力していることを利用してきました。スナク氏の管理部門は、チャットボットやその他の生成型 AI システムを含む AI テクノロジーの一種である大規模言語モデル (LLM) の安全性をテストする任務を負っていますが、その作業の結果、想定されているものの容易さなど、これらのモデルの重大な脆弱性が明らかになりました。
ポリティコは、学部 CEO のマーク ワーナー氏に話を聞き、ワーナー氏は LLM に関する経験から AI の安全性の重要性を強調し、政府と民間部門の両方のテストを含むハイブリッド アプローチを提唱しました。より強力な AI システムで安全な結果を確保するには、現在のレベルの制御と洞察では不十分であることに注意してください。
政府のスタンスと将来の見通し
英国政府は、は、ポリティコへの長い返答の中で、AIの安全性に関する同社の独自の専門知識を引用し、競争なしに教員に契約を与えるという自社の決定を擁護した。政府報道官は、ファカルティは「新興AI市場において、こうした非常に機密性の高い専門的なサービスを提供できる唯一のプロバイダーであると判断された」と述べたが、ブリストル大学の公共調達専門家アルバート・サンチェス・グラエルズ氏は、この根拠を批判し、次のように主張した。政府は、他のプロバイダーが要件を満たすことができないことを十分に証明していません。
