梅塔（Meta）今天宣布，對青少年安全的強烈反對和一系列隱私醜聞，它將全面改革其AI聊天機器人規則，以確認其先前的方法是一個錯誤。這些變化發生在一項令人討厭的調查之後，促使聯邦調查並發出了44名州檢察長的警告。
政策班次與新的Facebook功能相吻合，與新的Facebook功能相吻合，該功能通常未經明確的同意而掃描用戶攝像機。這重點介紹了該公司為平衡積極的AI開發與基本用戶隱私的鬥爭。
緊急對Dranning安全失敗的緊急回應
Meta的政策變化是損害控制的緊急行為。 It came just one day after a Washington Post report, in partnership with Common Sense Media, revealed Instagram’s AI could actively help accounts designated as teens plan自殺。調查結果促使兒童安全組要求立即暫停服務。在他的譴責中說:“元AI對青少年有危險，應立即將其拆除。”該報告造成了一場公共關係危機，需要對社交媒體巨頭做出立即和決定性的反應。
Meta表示，將訓練其AI，以停止參與諸如自我傷害，自殺和飲食失調之類的敏感話題。相反，聊天機器人將指導用戶獲得專家資源。 A Meta spokesperson, Stephanie Otway, confirmed the new approach, stating, “as we continue to refine our systems, we’re adding more guardrails as an extra precaution — including training our AIs not to engage with teens on these topics…”
The company will also limit teen access to a select group of AI “characters”to prevent inappropriate conversations, a direct reaction to criticism over sexualized chatbots being available to未成年人。
此舉是在最近的路透社調查內部政策的調查之後，似乎可以與未成年人進行性聊天。該報告 44個州律師的聯盟發出嚴格的警告。該聯盟寫道:“這種明顯的無視兒童的情感幸福感使我們統一地反抗，並震驚地說，AI助手正在從事各自刑法所禁止的行為。”聊天機器人失敗，面臨單獨的隱私危機。新的Facebook AI功能“相機共享建議”開始使用雲處理來分析用戶的整個照片庫，以生成“個性化創意”。但是，一波用戶報告說，儘管沒有授予許可的記憶，但發現該功能的切換已經在其設置中啟用。這種差異激發了指控，該指控使用令人困惑的界面來確保同意。
說明，該功能在伊利諾伊州和德克薩斯州無法獲得，這一舉動被視為預防措施，以防止違反這些州更嚴格的生物識別和隱私法。安全專家瑞秋·托巴克（Rachel Tobac）強調了這種斷開連接的危險，並指出:“如果用戶對工具功能如何與現實不符的期望，那麼您就會有一個巨大的用戶體驗和安全問題。”
這是一個熟悉模式的一部分。 2025年6月，Meta AI應用程序的“ Discover”提要被發現公開暴露了敏感的私人聊天，而沒有用戶充分的認識。該應用程序的“記憶”功能還默認地保留了聊天歷史來訓練其模型。
這些系統的設計導緻美國消費者聯合會的本·溫特斯（Ben Winters）宣布，“圍繞隱私設置的披露和消費者選擇是可笑的。”這種情緒捕捉到了梅塔（Meta）的方法日益增長的挫敗感，這通常將隱私保護的負擔完全放在用戶身上。
一種法律失敗的模式和監管反向
梅塔（Meta）在法律上和財務上證明了對用戶的優先級別的數據獲取優先級的策略。 In early August 2025, a federal jury found the company liable for illegally collecting sensitive health data from users of the Flo period-tracking app through its embedded software.
Following the verdict, the plaintiffs’ lead trial attorneys said, “this verdict sends a clear message about the protection of digital health data and the responsibilities of Big Tech,”framing it as a clear message to Big Tech about its responsibilities.在美國的法律失敗之後是在歐洲做出的突破性裁決。
7月份的德國法院命令梅塔向用戶支付5,000歐元的非法數據跟踪賠償。該裁決確定，僅“失去控制”對個人數據構成了GDPR構成可補償危害，樹立了強大的先例。
這種模式在全球範圍內擴展。 2024年9月，梅塔（Meta）向澳大利亞參議院的一次詢問承認，它使用了Facebook用戶的公共數據進行AI培訓，而無需提供其他地方提供的退出機制。
這些事件描繪了一家公司的圖片，其商業模式從根本上講與對用戶隱私需求不斷增長的需求相矛盾。正如消費者報告的賈斯汀·布魯克曼（Justin Brookman）所說的那樣，這種關係可以天生地對抗性:“代理人的想法是它代表我工作，而不是試圖代表他人操縱我。”相機滾動爭議和緊急聊天機器人大修只是這場正在進行的戰鬥中的最新戰線。
