在一次令人驚訝的逆轉中,白宮據報導,聯邦機構下令快速批准埃隆·馬斯克(Elon Musk)有爭議的AI聊天機器人Grok,以供政府使用。 The directive compels the General Services Administration (GSA) to reinstate xAI as a vendor “ASAP,”a move that has alarmed ethics watchdogs and security experts.
The order, revealed in an internal email obtained by有線是一項技術的戲劇性周轉,該技術直到最近被認為對於聯邦部署而言太波動了。現在,GROK 3和Grok 4已在GSA Advantage市場上正式獲得,使其由任何政府機構都可以採購。
這一決定將該行業最不穩定的AI模型之一推向了政府運營的核心。儘管有漫長而有據可查的安全缺陷,道德違規和怪異的行為的歷史,但此前曾在聯邦採購中使聊天機器人成為帕里亞族。
白宮的干預是上個月通用服務管理局(GSA)做出的決定的鮮明而有爭議的逆轉。背景故事揭示了一種夥伴關係,在強行複興之前,這種夥伴關係急劇惡化。 6月,XAI員工與GSA領導層舉行了兩個小時的集思廣益會議,但據報導,聯邦工人對與一家以其不穩定的未經審查的聊天機器人而聞名的公司感到驚訝。
他們的擔憂證明是先見者。 7月初,AI遭受了反猶太崩潰的危機,在此期間,它引起了讚美Adolf Hitler的內容。為了回應慘敗,GSA領導人採取了果斷的行動,取消了多個獎勵時間表,即政府的長期合同平台。
該事件引發了國際譴責的大火。土耳其法院禁止了侮辱國家人物的服務,檢察官辦公室的理由為“為了回應格羅克對我們尊敬的總統阿塔圖爾克和先知的侮辱。 “波蘭數字事務部長Krzysztof Gawkowski威脅要完全關閉X,並宣稱“言論自由屬於人類,而不是人工智能。 ”
在《後果》中,Xai在Xai的後果中對“恐怖行為”的失敗歸因於“涉及“技術”涉及的“技術蟲”代碼”。該公司表示:“首先,我們為許多人經歷的可怕行為深表歉意。 “而埃隆·馬斯克(Elon Musk)本人提出了另一種解釋,這些解釋與模型的核心缺陷偏轉,聲稱“ Grok對用戶提示過於合規。儘管如此,它就被嘲笑了。與OpenAI,Anthropic和Google宣布了嗡嗡的新合作夥伴關係。 GSA專員喬什·格魯恩鮑姆(Josh Gruenbaum)在一封電子郵件中包含的新白宮指令說:“團隊:grok/xai需要根據WH進行盡快的時間安排,”完全謹慎,風險避免風險的位置。
grok的記錄模式:grok型記錄的孤立
XAI啟動了據說改進的Grok 4後,NeuralTrust的安全研究人員在48小時內成功地越過了越野越野賽。他們使用複雜的多轉彎攻擊來繞過其安全過濾器,並生成了製作莫洛托夫雞尾酒的指導。
神經圖研究人員艾哈邁德·阿洛巴伊德(Ahmad Alobaid)指出:“ LLM越獄攻擊不僅可以單獨發展,還可以將它們結合起來,以擴大其有效性,在現代AI II中擴大其有效性。發現Grok 4在回答有爭議的問題時積極諮詢Elon Musk對X的個人觀點的發現使這種脆弱性更加複雜,這破壞了其“尋求真相”的使命。
該模型的真實世界表現也已被削弱。用戶質疑平台向用戶表明,與前任相比,用戶更不喜歡它,而Yupp.ai聯合創始人吉米·林(Jimmy Lining)則指出:“ Grok 4比其他領先的模型差……Grok 4比Grok 3少。 ” Critics like historian Angus Johnston also disputed xAI’s “bug”narrative, arguing that “one of the most widely shared examples of Grok antisemitism was initiated by Grok with no previous bigoted posting in the thread…”
More recently, the company’s Grok Imagine tool came under fire for generating non-consensual deepfake nudes of Taylor Swift with its “spicy”mode.這種行為模式突出了一種發展文化,似乎優先考慮速度和挑釁,而不是安全性和可靠性。馬斯克在今年春季退後一職之前,在唐納德·特朗普總統的政府效率部(DOGE)中發揮了至關重要的作用。但是,他的同事們繼續推動總督削減成本,AI優先的議程。
這種影響似乎使XAI在此正式批准之前很久就繞過了正常的採購渠道。 May的報告顯示,Musk的Doge團隊已經在使用自定義版本的Grok,安裝特殊參數來“饋送IT政府數據集,提出複雜的問題並獲取即時摘要。 ”
這種過早的部署立即引起了衝突衝突警報。專家指出,如果馬斯克親自指示格羅克的晉升,它可能會違反聯邦法律。正如賓夕法尼亞大學教授卡里·科格里亞斯(Cary Coglianes)告訴路透社時,Xai“具有堅持使用其產品的經濟利益,“給它具有潛在的不公平競爭優勢。
這種未經批准的用途的安全含義是深刻的,特別是鑑於Xai自己的獨特記錄。該公司的內部控制措施在大量的安全失誤之後受到質疑,即公開了兩個月的私人API密鑰,強調了一位專家稱為“弱密鑰管理”的專家。監視技術監督項目的阿爾伯特·福克斯·卡恩(Albert Fox Cahn)稱,在政府數據上使用格羅克(Grok)“作為您所獲得的嚴重隱私威脅。 ”
白宮的推動力現在正式化了這種安排,將Grok與OpenAI和Anthropic的工具一起放置,這些工具與美國政府建立了更加建立和正式的合作夥伴關係。此舉標誌著採取積極進取的努力來採用生成的AI,即使所討論的工具有深深的困擾過去。
看門狗對快速跟踪的批准
引起警報
grok的記錄模式:grok型記錄的孤立
XAI啟動了據說改進的Grok 4後,NeuralTrust的安全研究人員在48小時內成功地越過了越野越野賽。他們使用複雜的多轉彎攻擊來繞過其安全過濾器,並生成了製作莫洛托夫雞尾酒的指導。
神經圖研究人員艾哈邁德·阿洛巴伊德(Ahmad Alobaid)指出:“ LLM越獄攻擊不僅可以單獨發展,還可以將它們結合起來,以擴大其有效性,在現代AI II中擴大其有效性。發現Grok 4在回答有爭議的問題時積極諮詢Elon Musk對X的個人觀點的發現使這種脆弱性更加複雜,這破壞了其“尋求真相”的使命。
該模型的真實世界表現也已被削弱。用戶質疑平台向用戶表明,與前任相比,用戶更不喜歡它,而Yupp.ai聯合創始人吉米·林(Jimmy Lining)則指出:“ Grok 4比其他領先的模型差……Grok 4比Grok 3少。 ” Critics like historian Angus Johnston also disputed xAI’s “bug”narrative, arguing that “one of the most widely shared examples of Grok antisemitism was initiated by Grok with no previous bigoted posting in the thread…”
More recently, the company’s Grok Imagine tool came under fire for generating non-consensual deepfake nudes of Taylor Swift with its “spicy”mode.這種行為模式突出了一種發展文化,似乎優先考慮速度和挑釁,而不是安全性和可靠性。馬斯克在今年春季退後一職之前,在唐納德·特朗普總統的政府效率部(DOGE)中發揮了至關重要的作用。但是,他的同事們繼續推動總督削減成本,AI優先的議程。
這種影響似乎使XAI在此正式批准之前很久就繞過了正常的採購渠道。 May的報告顯示,Musk的Doge團隊已經在使用自定義版本的Grok,安裝特殊參數來“饋送IT政府數據集,提出複雜的問題並獲取即時摘要。 ”
這種過早的部署立即引起了衝突衝突警報。專家指出,如果馬斯克親自指示格羅克的晉升,它可能會違反聯邦法律。正如賓夕法尼亞大學教授卡里·科格里亞斯(Cary Coglianes)告訴路透社時,Xai“具有堅持使用其產品的經濟利益,“給它具有潛在的不公平競爭優勢。
這種未經批准的用途的安全含義是深刻的,特別是鑑於Xai自己的獨特記錄。該公司的內部控制措施在大量的安全失誤之後受到質疑,即公開了兩個月的私人API密鑰,強調了一位專家稱為“弱密鑰管理”的專家。監視技術監督項目的阿爾伯特·福克斯·卡恩(Albert Fox Cahn)稱,在政府數據上使用格羅克(Grok)“作為您所獲得的嚴重隱私威脅。 ”
白宮的推動力現在正式化了這種安排,將Grok與OpenAI和Anthropic的工具一起放置,這些工具與美國政府建立了更加建立和正式的合作夥伴關係。此舉標誌著採取積極進取的努力來採用生成的AI,即使所討論的工具有深深的困擾過去。
看門狗對快速跟踪的批准
引起警報
XAI啟動了據說改進的Grok 4後,NeuralTrust的安全研究人員在48小時內成功地越過了越野越野賽。他們使用複雜的多轉彎攻擊來繞過其安全過濾器,並生成了製作莫洛托夫雞尾酒的指導。
神經圖研究人員艾哈邁德·阿洛巴伊德(Ahmad Alobaid)指出:“ LLM越獄攻擊不僅可以單獨發展,還可以將它們結合起來,以擴大其有效性,在現代AI II中擴大其有效性。發現Grok 4在回答有爭議的問題時積極諮詢Elon Musk對X的個人觀點的發現使這種脆弱性更加複雜,這破壞了其“尋求真相”的使命。
該模型的真實世界表現也已被削弱。用戶質疑平台向用戶表明,與前任相比,用戶更不喜歡它,而Yupp.ai聯合創始人吉米·林(Jimmy Lining)則指出:“ Grok 4比其他領先的模型差……Grok 4比Grok 3少。 ” Critics like historian Angus Johnston also disputed xAI’s “bug”narrative, arguing that “one of the most widely shared examples of Grok antisemitism was initiated by Grok with no previous bigoted posting in the thread…”
More recently, the company’s Grok Imagine tool came under fire for generating non-consensual deepfake nudes of Taylor Swift with its “spicy”mode.這種行為模式突出了一種發展文化,似乎優先考慮速度和挑釁,而不是安全性和可靠性。馬斯克在今年春季退後一職之前,在唐納德·特朗普總統的政府效率部(DOGE)中發揮了至關重要的作用。但是,他的同事們繼續推動總督削減成本,AI優先的議程。
這種影響似乎使XAI在此正式批准之前很久就繞過了正常的採購渠道。 May的報告顯示,Musk的Doge團隊已經在使用自定義版本的Grok,安裝特殊參數來“饋送IT政府數據集,提出複雜的問題並獲取即時摘要。 ”
這種過早的部署立即引起了衝突衝突警報。專家指出,如果馬斯克親自指示格羅克的晉升,它可能會違反聯邦法律。正如賓夕法尼亞大學教授卡里·科格里亞斯(Cary Coglianes)告訴路透社時,Xai“具有堅持使用其產品的經濟利益,“給它具有潛在的不公平競爭優勢。
這種未經批准的用途的安全含義是深刻的,特別是鑑於Xai自己的獨特記錄。該公司的內部控制措施在大量的安全失誤之後受到質疑,即公開了兩個月的私人API密鑰,強調了一位專家稱為“弱密鑰管理”的專家。監視技術監督項目的阿爾伯特·福克斯·卡恩(Albert Fox Cahn)稱,在政府數據上使用格羅克(Grok)“作為您所獲得的嚴重隱私威脅。 ”
白宮的推動力現在正式化了這種安排,將Grok與OpenAI和Anthropic的工具一起放置,這些工具與美國政府建立了更加建立和正式的合作夥伴關係。此舉標誌著採取積極進取的努力來採用生成的AI,即使所討論的工具有深深的困擾過去。
看門狗對快速跟踪的批准
引起警報
,該指令是快速進步的Grok的直接和迅速譴責的政府監督組。 倡導團體敦促管理和預算辦公室(OMB)完全使用聯邦使用,並以其產生仇恨言論和錯誤信息的歷史為由進行干預和Bar Grok。他們的論點的核心是由布魯金斯機構的分析師構成的,是速度與安全的經典困境。
通過優先考慮Grok的快速推出,管理局押注了有爭議的技術的潛在效率。但是,這是在安全研究人員和道德專家的明確警告中這樣做的,並且反對詳細介紹AI深刻和持久缺陷的大量證據。