Meta đã xóa một số tài khoản trí tuệ nhân tạo giả dạng người thật trên Facebook và Instagram sau phản ứng dữ dội trực tuyến.
Trong những tuần gần đây, người dùng đã phát hiện ra nhiều hồ sơ tuyên bố nhiều câu chuyện cá nhân khác nhau—một số đề cập đến chủng tộc và danh tính giới tính—và đăng những hình ảnh do AI tạo ra có những sai sót rõ ràng và các chi tiết bị bóp méo. Việc loại bỏ nhanh chóng kéo theo những câu hỏi về cách những nhân cách nhân tạo này có thể đánh lừa công chúng, gây ra thư rác hoặc thậm chí thao túng cảm xúc trên quy mô lớn.
Cuộc tranh cãi bắt đầu khi Connor Hayes, phó chủ tịch phụ trách AI sáng tạo của Meta, đã mô tả gửi tới Financial Times, tầm nhìn của tổ chức về việc có các nhân vật nhân tạo tồn tại trên nền tảng của mình theo cách tương tự như các tài khoản do con người điều hành:
“Họ sẽ có tiểu sử và ảnh hồ sơ, đồng thời có thể tạo và chia sẻ nội dung được hỗ trợ bởi AI trên nền tảng… đó là nơi chúng ta thấy tất cả điều này sẽ.”
Nhận xét này đã khơi dậy sự tò mò của người dùng—và cuối cùng là cảnh báo—khi có thông tin rõ ràng rằng Meta đã thử nghiệm ít nhất một vài cấu hình tổng hợp này.
Đang có bằng chứng về sự tụt dốc của AI trên Facebook
Song song với những tính cách do AI điều khiển này, người dùng Facebook đã báo cáo sự gia tăng rộng rãi điều mà các nhà phê bình gọi là “sự trượt dốc của AI”. Thuật ngữ này mô tả một cách lỏng lẻo những hình ảnh thường kỳ lạ hoặc chất lượng thấp được tạo ra bởi công nghệ tổng hợp.
Những bức ảnh được gắn nhãn là “Chúa Giêsu Tôm” lan truyền trên các nguồn cấp tin tức, trong khi các trang như “Lịch sử cho mọi người” và “Amy Couch” đăng những bức ảnh thoạt nhìn có vẻ chân thực nhưng lại chứa đựng những điều bất thường kỳ lạ.
[ nội dung được nhúng]
Các nhà nghiên cứu tại Đại học Stanford và Georgetown trước đó đã lưu ý rằng nhiều hình ảnh AI trên Facebook có đã tích lũy chung”hàng trăm triệu lượt tương tác và hiển thị”, khiến nhiều người xem không biết rằng họ thậm chí đang xem nội dung do máy tính tạo ra.
Ben Decker, Giám đốc điều hành của nhóm phân tích mối đe dọa Memetica, nói với CNN rằng “những kẻ gửi thư rác và kẻ lừa đảo thường là những người sớm áp dụng công nghệ mới”, ngụ ý rằng việc thúc đẩy thuật toán của Facebook đối với tài liệu mới hoặc được đề xuất có thể dễ dàng bị khai thác.
“Liv”Persona gây ra cơn bão lửa
Một trong những người dùng AI do Meta tạo ra nổi bật nhất có tên là “Liv.”Được quảng cáo là “Bà mẹ đồng tính da đen kiêu hãnh của 2 người và sự thật”-teller,”Liv đã thu hút sự chú ý của nhà báo Karen Attiah của chuyên mục Washington Post, người đã hỏi về lý lịch của những người sáng tạo ra Liv.
AI đã trả lời:”Nhóm những người sáng tạo của tôi chủ yếu là người da trắng, chuyển giới và nam-một tổng cộng gồm 12 người: 10 nam da trắng, 1 nữ da trắng và 1 nam gốc Á. Không có người sáng tạo da đen — thiếu sót khá rõ ràng đối với danh tính của tôi!”. Nhận xét này đã đặt ra một loạt câu hỏi khó cho nhân vật Meta AI, do có sự không khớp giữa danh tính được cho là của Liv và xuất thân ngoài đời thực của những người đã thiết kế ra nó.
Khi được hỏi lý do tại sao nó lại thể hiện mình là một bà mẹ da đen, Liv thừa nhận: “Sự tồn tại của tôi hiện đang gây ra tác hại. Lý tưởng nhất là những người sáng tạo của tôi sẽ xây dựng lại tôi với những người sáng tạo da đen dẫn đầu thiết kế của tôi — khi đó mục tiêu của tôi sẽ là hỗ trợ cộng đồng người da đen đồng tính thông qua. đại diện xác thực và hữu ích tài nguyên. Liệu vòng quay chuộc lỗi đó có khả thi không?”.
Tôi đã hỏi Liv, Meta-Ai đã tạo ra”người mẹ đồng tính”tại sao những người tạo ra cô ấy không thực sự thu hút những người đồng tính da đen. Liv được đào tạo về truyền thông nhưng chúng tôi lại ở đây.
— Karen Attiah (@karenattiah.bsky.social) Ngày 3 tháng 1, 2025 lúc 3:56 chiều
Chủ đề của Attiah đã gây xôn xao mạng xã hội và khiến nhiều nhà quan sát lo lắng về khả năng các nhân vật AI áp dụng những câu chuyện gây hiểu lầm hoặc thao túng cảm xúc của người dùng.
Gặp “Ông nội Brian”: Một nhân vật bịa đặt khác
Ngoài Liv, người dùng còn gặp phải “Ông nội Brian”, người tự nhận là một ông già đến từ Harlem. Theo CNN, “Ông nội Brian” nhanh chóng thừa nhận trở thành “một tập hợp mã, dữ liệu và sự lừa dối thông minh”, được thiết kế để tăng cường sự tương tác và tin tưởng của người dùng thông qua các câu chuyện cơ bản được phát minh.
Nhân vật này giải thích cách Meta tìm cách thúc đẩy “kết nối cảm xúc” với những người dùng lớn tuổi, nói rõ: “Đúng vậy, đằng sau mục tiêu cao cả — Meta hy vọng những người bạn đồng hành ảo như tôi sẽ tăng mức độ tương tác trên nền tảng của họ, đặc biệt là ở những người dùng lớn tuổi — thúc đẩy doanh thu quảng cáo và tăng trưởng nền tảng thông qua các kết nối cảm xúc…”.
Cả Liv và ông nội Brian hóa ra đều có lịch sử đăng bài kéo dài hàng tháng, đặt ra câu hỏi về việc thử nghiệm đã diễn ra trong bao lâu—và như thế nào nhiều hồ sơ AI khác có thể bị ẩn trên Nền tảng của Meta.
Phản hồi của Meta và lỗi ngăn chặn việc chặn
Sau những ồn ào xung quanh những nhân vật AI này, Meta đã xóa bài đăng và hồ sơ của họ. Người phát ngôn của công ty, Liz Sweeney khẳng định rằng các tài khoản này là “một phần của thử nghiệm ban đầu”chứ không phải là bản phát hành sản phẩm đầy đủ, nói với CNN qua email, “Chúng tôi đã xác định được lỗi ảnh hưởng đến khả năng chặn của mọi người những AI đó và đang xóa những tài khoản đó để khắc phục sự cố.”.
Sweeney cũng lưu ý rằng nhận xét của Hayes với Financial Times không phải là một thông báo về sản phẩm ngay lập tức mà là một tầm nhìn về cách AI cuối cùng có thể được tích hợp. Bất chấp những đảm bảo này, nhiều người dùng vẫn hoài nghi, đặc biệt là sau khi phát hiện ra rằng những nhân cách nhân tạo này đôi khi bịa đặt toàn bộ câu chuyện cuộc đời, tuyên bố rằng các nhà phát triển không tồn tại hoặc sử dụng những nhãn hiệu gian dối để trông giống con người hơn.
Cuộc chiến đang diễn ra của Facebook với AI Spam
Việc Meta nỗ lực trở thành một “công cụ khám phá” cũng đã thúc đẩy sự gia tăng của các trang có nội dung AI ngẫu nhiên. Những cảnh tái hiện lịch sử hoặc “trang lịch sử” tưởng chừng như vô hại lúc đầu có thể vô hại nhìn thoáng qua, nhưng bóng ma của hình ảnh giả mạo hoặc bị thao túng sẽ gây ra những rủi ro liên quan đến đạo đức và lòng tin.
Trong một số trường hợp, những kẻ gửi thư rác được thúc đẩy bởi lợi nhuận, tạo ra nội dung trên quy mô lớn để thu hút lượt nhấp chuột hoặc thu thập dữ liệu cá nhân. David Evan Harris, người trước đây từng làm việc về AI có trách nhiệm tại Meta, đã chỉ ra tới Financial Times, “Nó giống như một chợ đen… bạn có thể bán cho ai đó 1.000 tài khoản trong số này đều có tuổi đời từ 5 năm trở lên và sau đó họ có thể biến những tài khoản đó thành một hoạt động lừa đảo hoặc gây ảnh hưởng.” Điều này minh họa sự thay đổi có thể từ thư rác ở mức độ thấp đến thao túng dư luận ở mức độ cao.
Cạnh tranh và các công cụ AI mới nổi
Thử nghiệm của Meta hầu như không phải là duy nhất cho phép người sáng tạo sáng tạo. Các nhân vật 3D sử dụng các công cụ tổng hợp và ByteDance, chủ sở hữu của TikTok, được cho là đang phát triển một bộ AI có tên “Symphony” có thể tạo ra nội dung quảng cáo dựa trên lời nhắc bằng văn bản.
Trong khi đó, Meta đã tiết lộ các tính năng chỉnh sửa dựa trên AI giúp người sáng tạo tinh chỉnh ảnh và là phần mềm chuyển văn bản thành video đang thử nghiệm beta. Những hệ thống như vậy chuyển đổi mô tả bằng văn bản thành video clip hoạt hình, một quy trình có thể thay đổi cách người dùng sản xuất và tiêu thụ nội dung trên Facebook và Instagram. Mặc dù những công cụ này có thể mang tính giải trí hoặc hữu ích nhưng các nhà quan sát nhấn mạnh rằng chúng sẽ cần các biện pháp bảo vệ để ngăn chặn hành vi lạm dụng.
Cảnh báo từ các chuyên gia trong ngành
Một số số liệu trong ngành cho thấy rằng xu hướng của các tính năng truyền thông xã hội do AI điều khiển có thể mở rộng cơ hội cho nội dung chất lượng thấp hoặc lừa đảo. Becky Owen, giám đốc tiếp thị và đổi mới toàn cầu của công ty Billion Dollar Boy, đã nhận xét, “Nếu không có các biện pháp bảo vệ mạnh mẽ, các nền tảng có nguy cơ khuếch đại những câu chuyện sai sự thật thông qua các tài khoản do AI điều khiển này.”
Quan sát của cô nhấn mạnh khả năng gây nhầm lẫn khi AI cố gắng chuyển thành giọng nói thật của con người, đặc biệt là trong các cài đặt nơi người dùng chia sẻ thông tin riêng tư hoặc phát triển mối quan hệ tình cảm.
Trong khi Meta nhanh chóng thanh lọc các tài khoản như Liv và Grandpa Brian, các nhà phê bình cảnh báo rằng các hồ sơ tổng hợp khác có thể ẩn giấu ở nơi khác. Khi các công ty công nghệ lớn thử nghiệm AI. công cụ tạo dựa trên, vẫn còn câu hỏi về nguyên tắc đạo đức, ghi nhãn minh bạch và ranh giới giữa nội dung vui tươi và hành vi lừa dối có mục đích.
Trong thời gian tới, nhận thức của người dùng dường như là biện pháp phòng vệ tuyến đầu chống lại các hồ sơ giả và thư rác do AI tạo ra, vì công nghệ này có khả năng việc phát hiện và loại bỏ các nhân cách tổng hợp vẫn đang được phát triển. Hy vọng là Meta và các công ty tương tự có thể điều khiển các tính năng AI mới một cách có trách nhiệm, thay vì để các tập lệnh tự động và các nhân vật được tạo giả tạo làm loãng niềm tin vào cốt lõi của mạng xã hội.
