Google đang mở rộng công nghệ Watermarking tổng hợp của mình để bao gồm Google Photos, thêm các điểm đánh dấu kỹ thuật số vô hình vào hình ảnh đã được thay đổi bằng các công cụ chạy bằng AI.
Điều này đánh dấu một bước quan trọng trong các nỗ lực của Google để cải thiện tính minh bạch của AI khi chỉnh sửa nội dung AI-hỗ trợ trở nên tinh vi hơn. Bản cập nhật, được triển khai trong tuần này, sẽ áp dụng cho các hình ảnh được sửa đổi bằng Magic Editor, tính năng chỉnh sửa ảnh điều khiển AI có sẵn trên các thiết bị pixel. Mối quan tâm gắn kết sự lan truyền của phương tiện truyền thông thay đổi. Công ty trước đây đã giới thiệu các nhãn AI dựa trên siêu dữ liệu trong Google Photos vào tháng 10 năm 2024, nhưng phương pháp này yêu cầu người dùng kiểm tra chi tiết hình ảnh theo cách thủ công. Bây giờ, với synthid, một hình mờ ẩn sẽ được nhúng ở cấp độ pixel, khiến việc loại bỏ AI khó khăn hơn từ các hình ảnh đã được sửa đổi.
Cách thức hoạt động của Synthid và tại sao Google mở rộng nó
synthid, được phát triển bởi Google DeepMind, được thiết kế Để đánh dấu nội dung do AI tạo ra và chỉnh sửa mà không ảnh hưởng đến vẻ ngoài trực quan của nó. Không giống như các hình mờ truyền thống, thường được loại bỏ khi hình ảnh được thay đổi kích thước hoặc nén, tổng hợp tạo ra một định danh vô hình vẫn có thể phát hiện được dưới hầu hết các chỉnh sửa tiêu chuẩn.
Công nghệ ban đầu được sử dụng để theo dõi các hình ảnh được tạo bởi mô hình Imagen 3 của Google và bây giờ, việc mở rộng của nó sang các hình ảnh được sửa đổi AI nhằm đóng một lỗ hổng trong xác minh nội dung AI.
Watermark sẽ có thể đọc được bằng công cụ của Google về hình ảnh này”, cung cấp cho người dùng thông tin về nguồn gốc của hình ảnh và bất kỳ sửa đổi dựa trên AI nào. Tuy nhiên, Google thừa nhận rằng Synthid không phải là sửa đổi Extreme không thể sai, chẳng hạn như cắt xén hoặc lọc mạnh mẽ, có thể Giảm hiệu quả của nó Phương tiện truyền thông đã được sử dụng trong các chiến dịch chính trị, người nổi tiếng Deepfakes và quảng cáo lừa đảo.//arxiv.org/pdf/2310.00076.pdf”>Study từ Đại học Maryland phát hiện ra rằng các kỹ thuật đối nghịch thường có thể tước dòng nước AI từ hình ảnh, giảm độ tin cậy của chúng như một công cụ để xác thực.
Meta cũng đã giới thiệu các biện pháp minh bạch AI, thêm các nhãn do AI do bắt buộc tạo ra trên nội dung trên Facebook và Instagram. Công ty đã thực hiện một bước bổ sung với khung Video Seal, áp dụng các hình mờ thần kinh tồn tại ngay cả sau khi sửa đổi.
Trong khi đó, Microsoft đã nhúng các hình mờ có thể nhìn thấy vào hình ảnh do AI tạo từ Bing Image Creator, trong khi Openai đã thực hiện siêu dữ liệu C2PA trong các hình ảnh được tạo bởi Dall-E 3.
trong khi các sáng kiến này được cải thiện Tính minh bạch, họ cũng đi kèm với những hạn chế. Hình mờ và nhãn siêu dữ liệu có thể được loại bỏ, thay đổi hoặc bỏ qua, làm cho chúng trở thành một giải pháp không hoàn chỉnh cho vấn đề thông tin sai lệch. Điều này đặc biệt liên quan đến thời đại mà các công cụ chỉnh sửa chạy bằng AI giúp dễ dàng hơn bao giờ hết để thao túng phương tiện kỹ thuật số. > Việc mở rộng synthid không chỉ là một động thái tự nguyện của Google, nó xuất hiện trong bối cảnh áp lực ngày càng tăng từ các chính phủ và cơ quan quản lý để đảm bảo nội dung do AI tạo ra là có thể xác định được.
Vào tháng 10 năm 2023, Chính quyền Biden đã ban hành một lệnh điều hành chỉ đạo các công ty công nghệ thiết lập các hệ thống truyền hình và xác thực mạnh mẽ hơn cho phương tiện truyền thông do AI tạo ra. Lệnh được trích dẫn các mối quan tâm về sự can thiệp bầu cử điều khiển AI, lừa đảo Deepfake và sự lây lan nhanh chóng của thông tin sai lệch tổng hợp.-Genered Nội dung và thực hiện các cơ chế phát hiện. Phiên bản cuối cùng của luật, được phát hành vào tháng 7 năm 2024 và có hiệu lực kể từ tháng này, áp dụng các hình phạt đối với các công ty không tuân thủ các biện pháp xác thực nội dung. Cuộc tranh luận về hiệu quả
Mặc dù Google, chuyển sang mở rộng synthid sang hình ảnh được chỉnh sửa là một bước để minh bạch hơn, nhưng nó không giải quyết đầy đủ vấn đề rộng hơn về xác minh nội dung do AI tạo. Hình mờ AI, bao gồm synthid, thông tin xác thực nội dung của Adobe và siêu dữ liệu C2PA của Openai, có thể cung cấp các chữ ký kỹ thuật số quan trọng, nhưng họ dựa vào giả định rằng các nền tảng và người dùng sẽ kiểm tra chúng. Không phải lúc nào cũng kiên trì. Nội dung do AI tạo ra thường bị thay đổi, cắt hoặc bị xử lý lại trước khi được chia sẻ trực tuyến và các nhãn dựa trên siêu dữ liệu có thể bị tước khi hình ảnh được tải lên phương tiện truyền thông xã hội.
Do đó, trong khi Watermarking là một công cụ có giá trị, nhiều chuyên gia cho rằng nó phải được bổ sung bằng các phương pháp xác minh mật mã và theo dõi chứng minh mạnh mẽ hơn. Họ không cung cấp bảo mật tuyệt đối chống lại thao tác nội dung do AI tạo ra”, các nhà nghiên cứu của Đại học Maryland lưu ý trong nghiên cứu của họ. > Với sự gia tăng của nội dung do AI tạo ra, các công ty và cơ quan quản lý đang khám phá các phương pháp bổ sung để xác thực ngoài hình mờ. P>
Việc mở rộng tổng hợp mới nhất của Google cho thấy các công ty công nghệ đang nhận ra sự cần thiết phải xác thực nội dung AI mạnh mẽ hơn.
