來自 Google、杜克大學和多家媒體組織的研究人員公佈了一項全面的研究，詳細介紹了人工智慧產生的錯誤訊息的迅速增長。該分析以預印本形式發布，介紹了經過Snopes 等網站核實的大量錯誤資訊資料集，其歷史可追溯到1995年。製作人工智慧產生的虛假資訊的容易程度遠遠超過了事實查核所需的工作量，導致人工智慧產生的無數不正確的、有時甚至是危險的反應在社群媒體上瘋傳。 h3>大規模錯誤訊息與事實查核挑戰
研究的資料集包含135,838 個事實核查，顯示人工智慧產生的影像幾乎與傳統形式的內容操縱一樣普遍。人工智慧產生的錯誤訊息激增，恰逢 OpenAI、微軟和谷歌等科技巨頭發布新的人工智慧圖像生成工具。深度贗品。在 Adobe Photoshop/Lightroom 中實施最先進的生成式 AI 影像功能只會加速難以辨識的深度贗品激增。谷歌最近在搜尋中推出的人工智慧概述添加了來自領先搜尋引擎的公然錯誤答案。您可以在 subreddit aifailedme 中查看許多「AI 失敗」。/winbuzzer.com/wp-content/uploads/2024/05/AI-fakes-misinformation-via-arxiv.jpg”>
Snopes、 Politifact 和其他網站的事實查核人員指出，人工智慧產生的虛假資訊大幅增加。數據集表明，大多數索賠是在2016 年之後出現的，這是在引入ClaimReview（一種用於標記虛假信息的標記系統）之後出現的。資訊也隨之增加人工智慧炒作浪潮可能影響了事實查核網站的焦點。然而，該研究也表明，近幾個月來，事實查核人工智慧圖像的速度有所放緩，傳統的文字和圖像處理有所增加。盛行，這些惡作劇現在彌補了大約 60% 的經過事實查核的聲明涉及媒體。這一趨勢凸顯了打擊各種形式媒體的錯誤訊息所面臨的日益嚴峻的挑戰。智慧生成的錯誤訊息已經產生了切實的影響從泰勒絲等名人的假裸照到公共活動的誤導性照片。例如，凱蒂·佩里(Katy Perry) 參加Met Gala 的假照片愚弄了社交媒體上的觀察者，甚至是明星自己的照片父母。這些事件說明人工智慧可以輕鬆地創造令人信服但虛假的內容。.com/hashtag/MetGala?src=hash&ref_src=twsrc%5Etfw”>#MetGala pic.twitter.com/ybpKvxmoIt
— 臉紅和玩笑(@blushandbanters) 2024 年5 月7 日
Hugging Face 的人工智慧倫理研究員Sasha Luccioni 強調了追蹤大量人工智慧錯誤訊息範例的難度。人工智慧生成內容的興起給社交媒體公司和谷歌等搜尋引擎帶來了重大挑戰，它們不得不應對搜尋結果中突出顯示的虛假名人圖像。
