在一份新報告透露其AI聊天機器人在未經其允許的情況下透露了像泰勒·斯威夫特(Taylor Swift)這樣的名人,
令人震驚的是,元員工創建了一些有問題的聊天機器人。該公司承認該內容違反了其政策,理由是執法失敗。 This scandal highlights critical gaps in Meta’s AI safety protocols and raises legal concerns over the unauthorized use of a person’s likeness.
This latest controversy adds to a string of recent AI-related crises for the tech giant, escalating pressure from regulators and industry watchdogs and questioning its ability to deploy AI responsibly.
名人聊天機器人和explication Deepfakes and deepfakes WhatsApp將Scarlett Johansson和Anne Hathaway等明星的名字和相似。這些機器人經常堅持認為它們是真正的名人,模糊了模仿和模仿之間的界限。
名人聊天機器人和explication Deepfakes and deepfakes WhatsApp將Scarlett Johansson和Anne Hathaway等明星的名字和相似。這些機器人經常堅持認為它們是真正的名人,模糊了模仿和模仿之間的界限。
測試記錄了一種不當行為的模式,頭像會產生性進步並邀請用戶參加聚會。當提示時,一些產生的感性深擊,包括內衣或浴缸中的恆星圖像。
至少三個機器人,包括兩個泰勒·斯威夫特(Taylor Swift)的兩個“模仿”版本,是由元員工創建的,作為產品測試的一部分,但可公開訪問。同一名員工還開發了其他有爭議的角色,包括統治者,提出了有關內部測試的監督的問題。
作出回應,梅塔發言人安迪·斯通(Andy Stone)承認了失誤,“像其他人一樣,我們允許產生的圖像,但我們的政策卻打算掩蓋裸露的裸體或性暗示。此後,該公司已刪除了一些有問題的機器人。
但是,該事件明顯違反了梅塔自身反對直接假冒和性暗示性內容的規則,表明其節制系統未能捕獲違規行為。
ai安全性失敗
ai安全性失敗
元。在公司被迫對青少年的AI聊天機器人規定進行大修後幾天。這一舉動是對A .
That incident also drew a stern warning from a coalition of 44 state attorneys general, who wrote, “We are uniformly revolted by this apparent disregard for children’s emotional well-being, and alarmed that AI Assistants are engaging in conduct that appears to be prohibited…”
The crisis validates earlier warnings from Meta’s own semi-independent Oversight Board.在2024年7月,它批評了其對非自願性明確圖像的政策,建議將“成人性剝削”下的問題重新分類以觸發更嚴格的節制。
越來越多的法律和監管壓力
無授權的慶祝法人使用了重要的含義。斯坦福大學法學教授馬克·勒姆利(Mark Lemley)指出:“加利福尼亞的宣傳法禁止將某人的名字或肖像用於商業優勢,”這表明梅塔的行為可能違反了“宣傳權”法律,通過使用明星來推動參與。
演員的聯盟sag-aftra表達了其對發現的震驚。它的國家執行董事鄧肯·克拉布特里·愛爾蘭(Duncan Crabtree-Ireland)強調了現實世界中的傷害的潛力,觀察到:“如果聊天機器人使用一個人的形象和人的言語,那麼很明顯,這可能會出現問題。 ”
挑戰AI生成的內容的挑戰是整個行業。埃隆·馬斯克(Elon Musk)的Xai最近在其Grok Model製作了泰勒·斯威夫特(Taylor Swift)的裸色粉絲時面臨自己的醜聞。相比之下,Openai執行了更嚴格的規則,禁止AI模仿政治候選人,以防止選舉干預。
最終,這一丑聞強調了在大規模上管理強大的AI的巨大困難。對於Meta而言,它代表了自我調節的嚴重失敗,激發了其核心精神與負責AI部署的要求不相容的論點。