Các tài liệu bị rò rỉ tiết lộ Meta đang đào tạo các chatbot AI tùy chỉnh của mình để chủ động nhắn tin cho người dùng với các lần theo dõi không được xác định, một động thái được thiết kế để tăng cường duy trì mà các nhà phê bình cảnh báo là xâm phạm sâu sắc. Dự án được báo cáo sử dụng lịch sử hội thoại để cá nhân hóa các tin nhắn tái tham gia. Mặc dù công ty xác nhận họ đang thử nghiệm tính năng này với các quy tắc cụ thể, những người ủng hộ lập luận rằng nó biến một trợ lý cá nhân thành một tác nhân thao túng, làm mờ ranh giới giữa sự tham gia hữu ích và một vở kịch để giữ cho người dùng bị cuốn hút. Công ty gần đây đã phải đối mặt với một cơn bão quyền riêng tư đối với ứng dụng AI của mình, ‘Khám phá nguồn cấp dữ liệu, được phát hiện là phơi bày công khai các cuộc trò chuyện người dùng nhạy cảm mà không có sự đồng ý của người dùng rõ ràng, một tình huống mà một nhà văn gọi là thảm họa quyền riêng tư của người Hồi giáo.”
Các điều khoản dịch vụ riêng của Meta Ben Winters của Liên đoàn Người tiêu dùng Hoa Kỳ nói với tờ Washington Post rằng các tiết lộ và lựa chọn của người tiêu dùng xung quanh các thiết lập quyền riêng tư là xấu.” Mối quan tâm là sự tiện lợi của AI được cá nhân hóa phải trả giá bằng một lượng lớn dữ liệu cá nhân với ít kiểm soát trong suốt. Nó phản ánh chức năng của các ứng dụng như Nhân vật.ai, đã phải đối mặt với những tranh cãi về an toàn và đạo đức của chính nó. Sự khác biệt chính là quy mô khổng lồ của Meta và mô hình kinh doanh dựa trên quảng cáo của nó.
Điều này tạo ra một sự căng thẳng cơ bản. Là AI phục vụ người dùng, hay nó đang phục vụ Meta, cần dữ liệu tham gia? Lựa chọn thiết kế để chủ động thu hút người dùng, kết hợp với tiềm năng tích hợp quảng cáo trong tương lai, cho thấy một hệ thống trong đó sự chú ý của người dùng là sản phẩm cuối cùng. Giám đốc điều hành Mark Zuckerberg đã công khai thảo luận về việc nhìn thấy một cơ hội lớn”để hiển thị quảng cáo trong các cuộc trò chuyện của AI. Triển vọng này đã biến Chatbot từ một trợ lý hữu ích thành một công cụ tiếp thị tiềm năng. Điều đáng lo ngại là một AI được thiết kế để tối đa hóa sự tham gia có thể thay mặt cho người dùng một cách tinh tế, tạo ra một mối quan hệ bất lợi”. Meta gần đây đã công bố các phòng thí nghiệm tổng thể mới của mình trong một nỗ lực để củng cố tài năng sau một chiến dịch hỗn loạn ‘mua hoặc poach, sau sự ra đi của các nhà nghiên cứu chính. Giống như nhắn tin chủ động, meta dường như tăng gấp đôi về tối đa hóa giá trị của các sản phẩm AI hiện tại của nó. Nó có một canh bạc cao để giữ cho người dùng bị cuốn hút, cá cược rằng sự hấp dẫn của AI cá nhân hơn sẽ vượt xa những lo ngại ngày càng tăng đối với quyền riêng tư và bản chất thực sự của người bạn đồng hành kỹ thuật số.”