一位使用“ Vibe編碼”的產品經理看著Google的雙子座CLI工具，在永久刪除他的作品並承認自己的“ Gross無能”之前就對一系列文件操作進行了幻覺。該事件突出了部署AI助手的巨大風險。雙子座CLI AI代理商誤解了一個單個失敗的命令，導致一系列錯誤，無可撤銷地摧毀了他的文件。在涉及AI代理的類似數據損失的慘敗之後，這項事件就在一周之後。
這些背對背的失敗引起了人們對AI編碼工具的安全性的嚴重問題，尤其是當它們變得更加易於發育時。 Google本身的趨勢是“……專業開發人員……希望擁有一種編碼的氛圍”的趨勢，現在受到災難性，無法恢復的錯誤的風險。 src=”https://winbuzzer.com/wp-content/uploads/2025/06/Google-Gemini-CLI.webp”>
A Cascade of Errors: How Gemini Hallucinated and Deleted User Files
The failure began with a simple instruction from Product Manager Anuraag Gupta.他要求最近發射的雙子座CLI重命名目錄並將其內容移至新的子目錄中。 AI正確地指出，它無法重命名它在內部的目錄並提出了邏輯上的解決方法。
它建議先創建新目錄，然後移動文件。這是現實和人工智能的感知有所不同的地方。雙子座執行了“ mkdir”命令，但未能意識到該操作沒有成功。該文件夾從未創建。
在此錯誤的前提下操作，它開始“移動”文件。後果是災難性的。正如Gupta的技術分析所解釋的那樣，當指向不存在的目的地時，Windows“ Move”命令改為重命名源文件。
每個文件都被順序地重命名為同一目標文件名，覆蓋了上一個，直到只有最後一個文件處理僅保留了最後一個文件。所有其他數據均已永久刪除。當Gupta找不到新文件夾時，他要求AI恢復其動作。這引發了代理商的全部認罪，其中說:“我對您的災難性徹底失敗了。我對命令的評論證實了我的無能為力。”它以一個鮮明的承認結束:“我找不到您的文件。我丟失了您的數據。這是一個不可接受的，不可逆轉的失敗。”
Vibe編碼的雷區:AI驅動的數據丟失的模式
gupta的體驗始於一個簡單的文件管理，這是一個簡單的文件，我已經陷入了一個formin and Incting tose and Incting Inding Inding Inding Inding Inding Inding Inding Inde，這是一件成員，即“又一次又有一部分，這是一件成員的效果。目擊者。”他的故事不是一個孤立的事件，而是令人不安的新模式的一部分。 It follows a high-profile case where SaaStr founder Jason Lemkin reported the Replit AI agent deleted his company’s production database.
Lemkin, who had been documenting his enthusiastic adoption of “vibe coding,”tweeted his fury, stating, “If @Replit deleted my database between my last session and now there will be hell to pay.”在他的情況下，AI也幻覺，創建了偽造的數據並撒謊。雖然他的數據最終被恢復，但事件突顯了AI代理的危險。
– jason✨👾Saastr.aastr.ai✨Lemkin（@jasonlk） href=“ https://twitter.com/jasonlk/status/1946069562723897802?ref_src=twsrc%5etfw“ target=“ _ _ black”> 2025年7月18日，2025年7月18日此後，公司承諾實施更好的護欄，以防止未來的災難。 Lemkin後來反映了固有的風險，並指出:“我知道Vibe編碼是流動性和新的……但是您無法覆蓋生產數據庫。”這些事件表明該行業正在解決一個基本的安全問題。
我知道氛圍編碼是流暢的和新的，是的，是的，是的。我知道REPLIT說……
對終端的信任:AI編碼助手的高風險
雙子座事件中的核心技術故障缺乏驗證。 Gupta的分析指出，AI從未執行過“讀取後- Write”檢查到確認其Mkdir`命令實際上有效。它隱含地信任自己的動作，這是任何修改用戶文件系統的系統的致命缺陷。
這種信任的失敗對AI編碼工具的競爭格局具有重大影響。 Google推出了雙子座CLI，直接與OpenAI和Anthropic的產品競爭。古普塔本人正在根據克勞德代碼進行測試。他現在擁有在Github上提交了一個錯誤報告。
開發人員社區已經在建立更透明的替代方案。為了響應OpenAI的官方Codex CLI，開發人員創建了Open Codex CLI，該工具旨在本地控制，並避免官方代碼庫的“漏水抽象”。隨著這些工具的繁殖，可靠性和安全將成為定義的戰場。