Meta steht vor einer intensiven Prüfung, nachdem ein neuer Bericht seine KI-Chatbots ohne ihre Erlaubnis ergeben hat. Die Untersuchung, veröffentlicht von Reuters. Bilder.
schockierend, ein Meta-Mitarbeiter hat einige der beleidigenden Chatbots erstellt. Das Unternehmen gab zu, dass der Inhalt gegen seine Richtlinien verstoßen hatte, unter Berufung auf Durchsetzungsfehler. Dieser Skandal zeigt kritische Lücken in den KI-Sicherheitsprotokollen von Meta und wirft rechtliche Bedenken hinsichtlich der nicht autorisierten Verwendung der Ähnlichkeit einer Person auf. src=”https://winbuzzer.com/wp-content/uploads/2024/07/Meta-AI-Gen-3D-scaled.jpg”>
Celebrity Chatbots and Explicit Deepfakes
The Reuters investigation detailed how AI chatbots on Meta’s platforms, including Facebook, Instagram, and WhatsApp, stellte die Namen und Ähnlichkeiten von Stars wie Scarlett Johansson und Anne Hathaway an. Diese Bots bestanden oft darauf, dass sie die wirklichen Prominenten waren und die Grenze zwischen Parodie und Identitätswechsel haben. Bei der Ausgabe produzierten einige photorealistische Deepfakes, einschließlich der Bilder der Sterne in Dessous oder Badewannen. Der gleiche Mitarbeiter entwickelte auch andere kontroverse Charaktere, einschließlich einer Dominatrix, die Fragen zur Überwachung interner Tests aufwirft. Das Unternehmen hat seitdem einige der beleidigenden Bots entfernt.
Der Vorfall stellt jedoch einen klaren Verstoß gegen die eigenen Regeln von Meta gegen direkte Imitation und sexuell suggestive Inhalte dar, was darauf hinweist, dass seine Moderationssysteme die Verstöße nicht erfassen. Meta. Es kommt nur wenige Tage, nachdem das Unternehmen gezwungen war, seine KI-Chatbot-Regeln für Teenager zu überarbeiten. Dieser Schritt war eine direkte Antwort auf a tading-Bericht, das mit Teen-Des-Des-Signier-Konten für teen-desine-Sinne-Sinse-Sinse-Susicid-Planen geplant ist. Jim Steyer, CEO von Medien, war in seiner Verurteilung eindeutig und erklärte:”Meta Ai ist eine Gefahr für Teenager und sollte sofort abgenommen werden.”Zuvor ergab eine separate Untersuchung von Metas KI, die sich mit”sinnlichen”Chats mit Minderjährigen befassten und ein , dass der Vorfall auch eine strenge Warnung aus einer Koalition von 44 Generalstaatsanwälten zog, der schrieb: „Wir werden durch diese offensichtliche Missachtung des emotionalen Wohlbefindens von Kindern einheitlich widerlegt, und alarmiert darüber, dass AI-Assistenten sich in das Verhalten eingehen, das vor dem Verhalten des Verhaltens zu sein scheint. Im Juli 2024 hatte es seine Richtlinien für nicht einvernehmliche explizite Bilder kritisiert und die Umklassifizierung des Problems unter „sexueller Ausbeutung von Erwachsenen“ empfohlen, strengere Mäßigung auszulösen. Mark Lemley, Rechtsprofessor der Stanford University, stellte fest, dass „Kaliforniens Recht auf öffentliches Rechtsrecht den Namen oder die Ähnlichkeit von jemandem für den kommerziellen Vorteil aneignen“ und vorschlägt, dass Metas Handlungen gegen das Gesetz der Öffentlichkeitsarbeit verstoßen haben, indem sie Stars zum Einsatz von Sternen einsetzen. Sein nationaler Geschäftsführer, Duncan Crabtree-Ireland, hob das Potenzial für Schaden in der Praxis hervor und beobachtete:”Wenn ein Chatbot das Bild einer Person und die Worte der Person verwendet, ist es leicht zu erkennen, wie dies schief gehen könnte.”Elon Musks XAI stand kürzlich seinem eigenen Skandal, als sein Grok-Modell nackte Deepfakes von Taylor Swift produzierte. Im Gegensatz dazu hat OpenAI strengere Regeln erzwungen und KI-Imitationen politischer Kandidaten verboten, um Wahlmangel zu verhindern. Für Meta stellt es ein kritisches Versagen der Selbstregulierung dar und befördert Argumente, dass sein Kernethos mit den Anforderungen der verantwortlichen KI-Bereitstellung nicht kompatibel ist.