YouTube 週二推出了一款新工具來對抗人工智能深度造假，讓創作者能夠更好地控制自己的數字身份。
相似檢測系統可讓用戶找到並請求刪除濫用其面部或聲音的視頻。 Google 旗下平台的這一舉措是在圍繞 OpenAI 的 Sora 2 應用程序引發數週爭議之後做出的。
Sora 2 的發布引發了好萊塢和名人家屬對未經授權的 Deepfake 的強烈反對。這迫使 OpenAI 迅速改變其規則並與演員工會合作以提高安全性，凸顯了全行業範圍內對人工智能生成內容的控制權之爭日益激烈。
YouTube 推出新工具 保護創作者
作為增強社區能力的重要一步，YouTube 已正式為 YouTube 合作夥伴計劃中符合資格的創作者推出相似檢測技術。
該系統旨在識別 AI 生成或更改的內容，這些內容未經創作者同意而使用了創作者的面部或聲音。它可以主動防禦日益高漲的令人信服的深度造假浪潮。
要使用該工具，創作者必須完成一次性身份驗證流程，該流程需要政府頒發的身份證件和簡短的自拍照視頻，以防止欺詐 使用。
加入後，該系統的功能與 YouTube 已建立的版權 Content ID 類似，會掃描新上傳的內容以查找潛在的匹配項。
當可能時 一旦發現濫用行為，創作者可以審查視頻並選擇通過 YouTube 的隱私投訴流程或標準版權聲明提出刪除請求。
這為創作者提供了保護其個人品牌和身份的直接機制，解決了創作者經濟中長期以來對數字冒充可能造成聲譽損害的擔憂。
[嵌入內容]
對 OpenAI Deepfake 的直接回應 Firestorm
YouTube 有條不紊的推出與 OpenAI Sora 2 視頻生成器混亂的首次亮相形成鮮明對比。
Sora 2 於 10 月初推出，最初針對公眾人物和受版權保護的角色的“選擇退出”政策立即適得其反。該平台的設計鼓勵快速、病毒式的視頻創作，這意味著用戶在配套的社交應用程序中充斥著未經授權且常常令人反感的深度假貨，引發了公眾的強烈抗議。
最強烈的批評來自已故公眾人物的家人。演員羅賓·威廉姆斯 (Robin Williams) 的女兒塞爾達·威廉姆斯 (Zelda Williams) 描述了看到“真實人物的遺產被濃縮成……可怕的、TikTok 的傀儡式操縱他們令人發狂的痛苦”。
民權領袖馬爾科姆·X (Malcolm X) 和小馬丁·路德·金 (Martin Luther King Jr.) 的莊園也譴責了這些“不尊重”和“傷害性”的描述。金博士的女兒伯妮斯·金在社交媒體上發出了一個簡單但引起共鳴的呼籲，要求停止播放她父親的視頻。
好萊塢迅速動員起來反對該平台。頗具影響力的創意藝術家代理機構 (CAA) 將該應用程序標記為其客戶的“重大風險”。與此同時，美國電影協會（MPA）將濫用行為的法律責任直接歸咎於人工智能公司。 MPA 首席執行官 Charles Rivkin 表示，“……防止對 Sora 2 服務的侵權仍然是他們的責任，而不是權利持有者的責任。”
創意產業的統一戰線給 OpenAI 帶來了全面的公關危機。
面對巨大的壓力，該公司急忙扭轉局面。首席執行官薩姆·奧爾特曼(Sam Altman)在推出幾天后就宣布轉向更精細的“選擇加入”受保護角色系統。
該公司後來修改了規則，允許“最近去世”人物的代表屏蔽他們的肖像。這項政策是在 OpenAI 應馬丁·路德·金遺產委員會的要求暫停其所有世代的活動時付諸實施的。
在一份聲明中，OpenAI 承認它面臨著艱難的平衡，並表示，“雖然描繪歷史人物有強烈的言論自由利益，但 OpenAI 認為公眾人物及其家人最終應該控制他們的肖像的使用方式。”
一系列反應措施在 10 月 20 日達到頂峰， 當 OpenAI 宣布與演員 Bryan Cranston 和 SAG-AFTRA 工會建立正式合作夥伴關係以加強其安全護欄時，這是一個里程碑式的舉措，領先的人工智能開發人員直接與創意工會合作制定政策。
探索人工智能未知的法律和道德領域
Sora 2 爭議和 YouTube 的新工具 強調圍繞生成人工智能的巨大法律和道德灰色地帶。傳統的誹謗法通常不適用於死者，使家庭只能將不一致的州級死後公開權作為他們唯一的追索權。
這種法律真空，沒有壓倒性的聯邦標準，導致了內容的擴散，這些內容雖然並不總是非法的，但會造成嚴重的情緒困擾，並給平台和家庭帶來不確定性。
這場辯論也重新引發了一些基本問題。 關於如何訓練人工智能模型。批評者認為，該行業依賴於未經明確許可抓取大量網絡數據是一個尚未解決的基本問題。
雖然 OpenAI 已表示支持《無假貨法案》等聯邦立法，但數字權利倡導者擔心，如果不精心製定，此類法律可能會扼殺言論自由和模仿。
在這個動蕩的環境中，YouTube 以創作者為中心的工具提供了一條不同的前進道路。通過為個人提供清晰、可訪問的機制來控制自己的肖像，該平台將自己定位為更負責任的數字身份管理者。
對於演員布萊恩·克蘭斯頓（Bryan Cranston）來說，他是未經授權的 Sora 剪輯的對象，這種主動措施至關重要。 “我感謝 OpenAI 的政策和改進的護欄，並希望他們和所有參與這項工作的公司尊重我們管理聲音和肖像複製的個人和專業權利。”
隨著行業努力應對這些新技術，OpenAI 的“公共構建”混亂與 YouTube 的結構化、基於工具的方法之間的對比呈現出兩種截然不同的管理未來的理念。 人工智能生成的內容。
這些不同策略的結果可能會為整個技術領域負責任的人工智能部署樹立重要的先例。
