英國政府有宣布在舊金山設立人工智慧安全研究所(AISI) 的第一個國際辦事處。此舉旨在增強該研究所的技術能力，並將其定位為人工智慧安全領域的領先實體。新辦公室將促進與主要人工智慧技術公司的更密切合作。領導第一個技術人員團隊。此次擴建將對倫敦總部進行補充，該總部目前擁有 30 多名技術人員。英國科學技術大臣米歇爾·多尼蘭強調，此次擴張凸顯了英國在人工智慧安全領域的領導地位，並使英國能夠從全球角度評估人工智慧風險和機會。她強調，這項措施將加強英國與美國的夥伴關係，並使其他國家能夠從英國在人工智慧安全方面的專業知識中受益。 >
自去年成立以來，AISI 開展了一項研究來評估人工智慧保障措施的有效性。研究結果顯示人工智慧安全仍處於早期階段。 AISI 負責人指出，結果僅代表該研究所正在開發的更廣泛評估方法的一小部分。該研究所旨在繼續進行評估，並專注於與國家安全相關的風險。-pixabay.jpg”>
此次擴張正值人們持續討論確保人工智慧模型滿足安全要求而不妨礙創新的重要性。政府的目標是在允許新技術開發的同時保持嚴格的安全標準之間取得平衡。這種方法被認為是必不可少的，特別是考慮到最近人工智慧產業的爭議，例如涉及OpenAI 的爭議。
隨著人工智慧安全研究所在公開模型上首次發佈人工智慧安全測試結果，並同意與加拿大開展新的合作，此次擴展揭曉。該辦公室預計將於今年夏天開業，招募第一批由研究總監領導的技術人員團隊。透過擴大在美國的影響力，該研究所將與美國建立更密切的合作，進一步推進美國的戰略夥伴關係和人工智慧安全方法，同時共享人工智慧模型的研究成果並進行聯合評估，為全球人工智慧安全政策提供資訊。英國人工智慧公司Faculty已與英國政府簽訂了重要合約，提出有關公司政治關係和採購流程的問題。過去三年，該公司在公開招標中中標了超過4500 萬英鎊，其中包括與新成立的人工智慧安全研究所 (AISI) 用於測試先進的人工智慧技術。
