Hôm thứ Ba, YouTube đã ra mắt một công cụ mới để chống lại các hành vi giả mạo sâu bằng AI, giúp người sáng tạo có nhiều quyền kiểm soát hơn đối với danh tính kỹ thuật số của họ.
Hệ thống phát hiện chân dung cho phép người dùng tìm và yêu cầu xóa những video lạm dụng khuôn mặt hoặc giọng nói của họ. Động thái này từ nền tảng do Google sở hữu diễn ra sau nhiều tuần tranh cãi xung quanh ứng dụng Sora 2 của OpenAI.
Việc ra mắt Sora 2 đã gây ra phản ứng dữ dội từ Hollywood và gia đình của những người nổi tiếng về các hoạt động deepfake trái phép. Điều này buộc OpenAI phải nhanh chóng thay đổi các quy tắc và hợp tác với các hiệp hội diễn viên để cải thiện mức độ an toàn, nêu bật cuộc chiến ngày càng gia tăng trong toàn ngành về việc kiểm soát nội dung do AI tạo ra.
YouTube ra mắt các công cụ mới dành cho người sáng tạo Bảo vệ
Trong một bước quan trọng nhằm trao quyền cho cộng đồng của mình, YouTube đã chính thức triển khai công nghệ phát hiện chân dung cho những người sáng tạo đủ điều kiện tham gia Chương trình Đối tác YouTube.
Hệ thống này được thiết kế để xác định nội dung do AI tạo ra hoặc bị thay đổi sử dụng khuôn mặt hoặc giọng nói của người sáng tạo mà không có sự đồng ý của họ. Công cụ này cung cấp biện pháp bảo vệ chủ động trước làn sóng giả mạo sâu có tính thuyết phục đang gia tăng.
Để truy cập vào công cụ này, người sáng tạo phải hoàn tất quy trình xác minh danh tính một lần. Quy trình này cần có giấy tờ tùy thân do chính phủ cấp và một video selfie ngắn để ngăn chặn hành vi lừa đảo sử dụng.
Sau khi tham gia, hệ thống có chức năng tương tự như ID nội dung đã thiết lập của YouTube để tìm bản quyền, sẽ quét các video tải lên mới để tìm các kết quả phù hợp tiềm năng.
Khi có thể bị gắn cờ sai mục đích, người sáng tạo có thể xem lại video và chọn gửi yêu cầu xóa thông qua quy trình khiếu nại về quyền riêng tư của YouTube hoặc khiếu nại bản quyền tiêu chuẩn.
Điều này mang lại cho người sáng tạo một cơ chế trực tiếp để bảo vệ thương hiệu và danh tính cá nhân của họ, giải quyết nỗi sợ hãi lâu nay trong nền kinh tế của người sáng tạo về khả năng mạo danh kỹ thuật số gây tổn hại đến danh tiếng.
[nội dung nhúng]
Phản hồi trực tiếp cho OpenAI Deepfake Firestorm
Việc triển khai có phương pháp của YouTube hoàn toàn trái ngược với sự ra mắt hỗn loạn của trình tạo video Sora 2 của OpenAI.
Ra mắt vào đầu tháng 10, chính sách”chọn không tham gia”ban đầu của Sora 2 đối với các nhân vật của công chúng và các nhân vật có bản quyền ngay lập tức phản tác dụng. Thiết kế của nền tảng này khuyến khích việc tạo video nhanh chóng và có tính lan truyền, đồng nghĩa với việc người dùng tràn ngập ứng dụng xã hội đồng hành với các video deepfake trái phép và thường mang tính xúc phạm, gây ra làn sóng phản đối kịch liệt của công chúng.
Những lời chỉ trích mạnh mẽ nhất đến từ gia đình của những nhân vật nổi tiếng đã qua đời. Zelda Williams, con gái của nam diễn viên Robin Williams, đã mô tả nỗi đau khi chứng kiến “những di sản của người thật bị cô đọng lại thành… khủng khiếp, việc TikTok điều khiển họ một cách cẩu thả thật điên rồ”.
Các cơ quan của các nhà lãnh đạo dân quyền Malcolm X và Martin Luther King Jr. cũng lên án những mô tả “thiếu tôn trọng” và “gây tổn thương”. Bernice King, con gái của Tiến sĩ King, đã đưa ra lời kêu gọi đơn giản nhưng gây được tiếng vang trên mạng xã hội yêu cầu dừng quay video của cha cô.
Hollywood nhanh chóng vận động chống lại nền tảng này. Cơ quan Nghệ sĩ Sáng tạo (CAA) có ảnh hưởng đã coi ứng dụng này là”rủi ro đáng kể”đối với khách hàng của mình. Trong khi đó, Hiệp hội Điện ảnh (MPA) đã đặt trách nhiệm pháp lý lên công ty AI về việc sử dụng sai mục đích. Giám đốc điều hành MPA Charles Rivkin tuyên bố rằng “…trách nhiệm của họ-không phải của chủ bản quyền-là ngăn chặn hành vi xâm phạm dịch vụ Sora 2.”
Mặt trận thống nhất này từ ngành công nghiệp sáng tạo đã tạo ra một cuộc khủng hoảng PR toàn diện cho OpenAI.
Đối mặt với áp lực mạnh mẽ, công ty phải cố gắng đảo ngược lộ trình. Giám đốc điều hành Sam Altman đã công bố chuyển sang hệ thống”chọn tham gia”chi tiết hơn dành cho các nhân vật được bảo vệ chỉ vài ngày sau khi ra mắt.
Công ty sau đó đã sửa đổi các quy tắc của mình để cho phép đại diện của những nhân vật”mới qua đời”chặn chân dung của họ. Chính sách này được thực hiện khi OpenAI tạm dừng tất cả các thế hệ của Martin Luther King Jr. theo yêu cầu của người thừa kế.
Trong một tuyên bố, OpenAI thừa nhận sự cân bằng khó khăn mà nó phải đối mặt, nói rằng: “Mặc dù có những lợi ích tự do ngôn luận mạnh mẽ trong việc miêu tả các nhân vật lịch sử, nhưng OpenAI tin rằng các nhân vật của công chúng và gia đình của họ cuối cùng phải có quyền kiểm soát cách sử dụng chân dung của họ”.
Một loạt các biện pháp phản ứng đã lên đến đỉnh điểm. vào ngày 20 tháng 10, khi OpenAI công bố mối quan hệ hợp tác chính thức với nam diễn viên Bryan Cranston và liên minh SAG-AFTRA để tăng cường các biện pháp bảo vệ an toàn, một động thái mang tính bước ngoặt chứng kiến một nhà phát triển AI hàng đầu cộng tác trực tiếp với các hiệp hội sáng tạo để định hình chính sách.
Điều hướng Lãnh thổ pháp lý và đạo đức chưa được khám phá của AI
Cuộc tranh cãi về Sora 2 và Công cụ mới của YouTube nêu bật vùng xám rộng lớn về mặt pháp lý và đạo đức xung quanh AI sáng tạo. Luật phỉ báng truyền thống thường không áp dụng cho người đã khuất, khiến các gia đình phải dựa vào các quyền công khai sau khi chết không nhất quán ở cấp tiểu bang.
Khoảng trống pháp lý này, không có tiêu chuẩn liên bang chi phối, đã cho phép phổ biến nội dung, tuy không phải lúc nào cũng bất hợp pháp, nhưng gây ra đau khổ đáng kể về mặt tinh thần và tạo ra sự bất ổn cho các nền tảng cũng như các gia đình.
Cuộc tranh luận cũng khơi lại những nguyên tắc cơ bản. câu hỏi về cách đào tạo các mô hình AI. Các nhà phê bình cho rằng việc ngành này phụ thuộc vào việc thu thập lượng lớn dữ liệu web mà không có sự cho phép rõ ràng là một vấn đề nền tảng vẫn chưa được giải quyết.
Trong khi OpenAI lên tiếng ủng hộ luật pháp liên bang như Đạo luật KHÔNG GIẢ MẠO, những người ủng hộ quyền kỹ thuật số lo ngại những luật như vậy có thể hạn chế quyền tự do ngôn luận và chế nhạo nếu không được xây dựng cẩn thận.
Trong môi trường hỗn loạn này, công cụ lấy người sáng tạo làm trung tâm của YouTube đưa ra một con đường khác phía trước. Bằng cách cung cấp một cơ chế rõ ràng, dễ tiếp cận để các cá nhân kiểm soát chân dung của chính mình, nền tảng này đang tự định vị mình là người quản lý danh tính kỹ thuật số có trách nhiệm hơn.
Đối với diễn viên Bryan Cranston, người từng là chủ đề của các clip Sora trái phép, các biện pháp chủ động như vậy là cần thiết. “Tôi biết ơn OpenAI vì chính sách và cải thiện các biện pháp bảo vệ của nó, đồng thời hy vọng rằng họ và tất cả các công ty tham gia vào công việc này tôn trọng quyền cá nhân và nghề nghiệp của chúng tôi trong việc quản lý việc sao chép giọng nói và chân dung của chúng tôi.”
Khi ngành vật lộn với những công nghệ mới này, sự tương phản giữa sự hỗn loạn”xây dựng công cộng”của OpenAI và cách tiếp cận dựa trên công cụ, có cấu trúc của YouTube thể hiện hai triết lý rất khác nhau để quản lý tương lai của Nội dung do AI tạo ra.
Kết quả của những chiến lược khác nhau này có thể sẽ đặt ra những tiền lệ quan trọng cho việc triển khai AI có trách nhiệm trong bối cảnh công nghệ.
