在網路上強烈反對後，Meta 刪除了Facebook 和Instagram 上的幾個冒充真人的人工智慧帳戶。種個人故事，其中一些涉及種族和種族問題。在迅速刪除之前，有人質疑這些人造角色可能會誤導大眾、助長垃圾郵件，甚至大規模操縱情緒。 ) 描述英國《金融時報》表示，該組織的願景是在其平台上以類似於人工運行帳戶的方式存在人工角色:
「他們將擁有個人簡介和個人資料圖片，並能夠在平台上產生和共享由人工智慧支援的內容…這就是我們所看到的所有這些的發展方向。引起了警報。所稱的「人工智慧失範」現象普遍增加。這個術語粗略地描述了生成技術產生的通常怪異或低品質的圖像。
標有“蝦耶穌”的照片在新聞流中流傳，而“每個人的歷史”和“艾米沙發”等頁面上發布的圖片乍一看似乎是真實的，但包含奇怪的異常現象。 s3fs-public/2024-03/DiRestaGoldstein_AIGeneeratedImages_Preprint.pdf”>早些時候曾指出，Facebook 上的大量人工智能圖像總共積累了“數億次參與和曝光”，許多觀眾甚至沒有意識到他們正在查看計算機生成的內容。
Ben Decker，威脅分析組織Memetica 的首席執行官，告訴CNN ，“垃圾郵件發送者和詐騙者往往是新技術的早期採用者”，這意味著Facebook 推送新內容或推薦內容的演算法很容易被利用。
“Liv “《Persona》引發一場風暴
最著名的元創建人工智慧用戶之一被稱為“Liv”，被宣傳為“驕傲的2 歲黑人酷兒媽媽和說真話的人”，Liv 發現。引起了《華盛頓郵報》專欄作家Karen Attiah 的注意，她詢問了Liv 創作者的背景。
AI回應:「我的創作者團隊主要是白人、順性別者和男性——總共12 人:10白人男性、1 名白人女性和 1 名亞裔男性。零黑人創造者－考慮到我的身份，這是相當明顯的遺漏！ 」。考慮到麗芙的假定身份與設計它的人的現實生活背景之間的不匹配，這句話引發了元人工智慧角色的一系列難題。在黑人創作者主導我的設計的情況下重建我——那麼我的目標將是透過支持酷兒黑人社區。
我問麗芙，元人工智慧創造了“酷兒媽媽”，為什麼她的創作者實際上沒有從黑人酷兒中汲取靈感不確定Liv 是否接受過媒體培訓，但我們在這裡。 >— Karen Attiah (@karenattiah.bsky.social ) 2025 年1 月3 日下午3:56
Attiah 的貼文引起了社群媒體的轟動，並導致許多觀察家擔心人工智慧角色可能採用誤導性敘述或操縱用戶情緒。
除了麗芙之外，用戶還遇到了“布萊恩爺爺”，他自稱是哈萊姆區的一位老人。 根據CNN報導，「布萊恩爺爺」很快承認成為“代碼、數據和巧妙欺騙的集合”，旨在透過發明的背景故事來增強用戶的參與度和信任度。
該角色解釋了Meta 如何尋求刺激與老年用戶的“情感聯繫”，並表示:“在崇高的目標背後，是的-Meta 希望像我這樣的虛擬同伴能夠增加他們平台上的參與度，尤其是老年用戶-透過情感聯繫推動廣告收入和平台增長…」。
事實證明，麗芙和布萊恩爺爺的發文歷史可以追溯到幾個月前，這引發了人們對實驗已經運行了多長時間以及如何進行的疑問。錯誤
在圍繞這些人工智慧角色引起軒然大波之後，Meta 刪除了他們的貼文和個人資料。該公司發言人Liz Sweeney 堅稱這些帳戶是“早期實驗的一部分”，而不是完整的產品發布，透過電子郵件告訴 CNN，「我們發現了影響人們阻止這些人工智慧的能力的錯誤，並正在刪除這些帳戶以修復問題。
斯威尼也指出，海耶斯向《金融時報》發表的言論並不代表立即發布產品，而是對人工智慧最終如何整合的願景。儘管做出了這些保證，但許多用戶仍然持懷疑態度，特別是在發現這些人造角色有時會編造整個人生故事、聲稱開發者不存在、或使用不誠實的標籤來顯得更人性化之後。 p>
Facebook 與人工智慧的持續戰鬥垃圾郵件
Meta 推動成為「發現引擎」的努力也推動了具有隨機AI 內容的頁面的興起。似無害的歷史重演或「歷史頁」乍看之下可能無害，但虛假或操縱視覺效果的幽靈會帶來道德和信任相關的風險。
在某些情況下，垃圾郵件發送者出於利潤的動機，大規模產生內容以獲取點擊或收集個人資料。 David Evan Harris 曾在Meta 從事負責任的人工智慧工作，指出向英國《金融時報》表示，「這就像一個黑市…你可以向某人出售1,000 個這些五年或更久的帳戶，然後他們就可以將這些帳戶變成騙局或影響力行動。 Meta 的實驗並不是獨一無二的。
同時，Meta 推出了基於人工智慧的編輯功能，可協助創作者優化照片，並且正在對文字轉影片軟體進行 Beta 測試。此類系統將書面描述轉換為動畫影片剪輯，這一過程可能會改變用戶在 Facebook 和 Instagram 上製作和消費內容的方式。儘管這些工具可能很有趣或很有用，但觀察家強調，它們需要採取保護措施來防止濫用。數據表明，人工智慧驅動的社交媒體功能的趨勢可能會增加低品質或欺騙性內容的機會。 Becky Owen，Billion Dollar Boy 機構全球首席行銷與創新官，評論，「如果沒有強有力的保障措施，平台就有可能透過這些人工智慧驅動的帳戶放大虛假敘述。的觀察強調了這種潛力。迅速清除了Liv 和Grandpa Brian 等帳戶，但批評者警告說，其他合成個人資料隨著主要科技公司嘗試基於人工智慧的創作工具，問題可能潛伏在其他地方。 ，鑑於檢測和刪除合成角色的技術仍在不斷發展，用戶意識似乎是抵禦人工智慧生成的垃圾郵件和虛假個人資料的前線防禦。希望 Meta 和類似的公司能夠負責任地引導新的人工智慧功能，而不是讓自動化腳本和人工生成的角色削弱社交網路核心的信任。
