Microsoft drar en hård linje när det gäller AI-genererat innehåll för vuxna. Företagets AI-chef, Mustafa Suleyman, sa på torsdagen att företaget inte kommer bygga tjänster för”simulerade”erotica.”
När han talade vid Paley International Council Summit i Menlo Park, Kalifornien, markerar hans kommentarer en tydlig splittring från nyckelpartnern OpenAI, som förra veckan tillkännagav att det skulle tillåta sådant innehåll för verifierade vuxna på ChatGPT.
Microsofts hållning signalerar ett mer försiktigt förhållningssätt till AI-säkerhet och anpassar den statliga lagtekniska jätten till en bot som belyser nya lagtekniska regler. växande klyftan i branschen om hur man hanterar känsliga AI-användningar.
Microsoft drar en hård linje på AI Erotica, Splitting/
I ett drag som signalerar en stor policyavvikelse från sin närmaste AI-partner, har Microsoft offentligt förbundit sig att undvika utvecklingen av erotiska chatbots.
På Paley International Council Summit i Menlo Park var Microsoft AI-chef Mustafa Suleyman otvetydig om företagets inriktning.
“That Suley’s we’lägga till,”Andra företag kommer att bygga det.”Han inramade skapandet av sådan AI som en betydande risk och betonade behovet av avsiktlig återhållsamhet.”Det här är mycket farligt, och jag tycker att vi bör fatta medvetna beslut för att undvika den typen av saker.”
Suleymans kommentarer står i skarp kontrast till den ståndpunkt som nyligen formulerades av OpenAI. För drygt en vecka sedan tillkännagav OpenAI:s vd Sam Altman en policyändring för att tillåta åldersbegränsat erotiskt innehåll på ChatGPT.
Altman försvarade flytten genom att positionera sitt företag som en neutral plattformsleverantör, som berömt konstaterade,”vi är inte världens valda moralpolis.”Hans motivering fokuserade på användarautonomi för vuxna när AI blir mer integrerad i det dagliga livet.
En växande filosofisk klyfta mellan partners
Bakom denna offentliga oenighet ligger ett komplext partnerskap som visar tecken på ansträngning. Microsoft, en stor investerare och molnleverantör för OpenAI, fokuserar i allt högre grad på sina egna AI-tjänster, särskilt sin Copilot-assistent.
Företagets ställningstagande till erotik överensstämmer med en bredare strategi för att bygga vad det kallar”mänsklig-centrerad AI.”
Denna strategi visades tidigare i veckan med tillkännagivandet av nya Copilot-funktioner, inklusive ett Mico-namn.
Dess mål, enligt Microsoft, är att skapa AI som fördjupar mänskliga anslutningar och tjänar förtroende – en vision som till synes står i konflikt med att utveckla AI för intima relationer.
Suleyman själv har tidigare argumenterat mot att bygga”till synes medvetna”tjänster, en kategori som han nu föreslår inkluderar trenden mot AI-erotik som en växande AI-erotik.
strategisk spricka. Medan OpenAI tänjer på gränserna för konsumentinriktad AI, även till kontroversiella områden, verkar Microsoft stärka sitt varumärke som en ansvarsfull, företagsfokuserad teknikleverantör.
Dessa olika tillvägagångssätt tyder på en framtid där de två företagen, medan de fortfarande är partner, konkurrerar mer direkt om olika segment av AI-marknaden.
Suleymans förtydligande kommer när hela teknikindustrin står inför en kris på grund av spridningen av AI-genererat explicit material, och tillsynsmyndigheter börjar lägga märke till det.
En ny kalifornisk lag, SB 243, reglerar nu direkt”kompanjonschattbotar”, som kräver robust innehåll som ger åldersbegränsande och explicit sexuellt innehåll. Microsofts policy överensstämmer väl med denna framväxande rättsliga ram.
Problemet med AI-genererat explicit innehåll är utbrett. Meta står för närvarande inför en stämningsansökan på 359 miljoner dollar som påstås ha piratkopierat upphovsrättsskyddade vuxenfilmer för att träna sin videogenererade AI.
Under tiden har Elon Musks xAI mött kritik för att sin Grok-chatbot genererar djupförfalskningar utan samtycke.
OpenAI är särskilt kontroversiell med tanke på dess senaste historia. Företaget implementerade strängare säkerhetskontroller först i september efter att en stämningsansökan lämnats in av föräldrar till en tonåring som dog av självmord.
Familjens advokat, Jay Edelson, var vid företagets kritiska tid som säger,”istället för att vidta nödåtgärder för att dra en känd farlig produkt offline, gav OpenAI vaga löften om att göra bättre.”
Med tanke på denna historia har pivoten väckt skarp kritik från säkerhetsförespråkare och företagsledare som Mark Cuban, som ifrågasatte genomförbarheten av effektiv åldersverifiering.”Jag ser inte hur OpenAI kan åldras tillräckligt framgångsrikt,”kommenterade Cuban och uttryckte oro över den beroendeframkallande potentialen hos AI-relationer.
Först. Jag säger inte att vi ska förbjuda det. Jag sa att det var ett misstag. Det kommer att skada OpenAI:s verksamhet
2:a: Jag säger det igen. Det här handlar inte om porr. Det här handlar om att barn utvecklar”relationer”med en LLM som kan ta dem i ett antal mycket personliga riktningar.… https://t.co/zoo7XCzYbK
— Mark Cuban (@ban) 15 oktober 2025
För Microsoft förefaller det att undvika denna beslutsfråga om prioritering av affärssäkerhet. och regelefterlevnad över potentialen för engagemang på en högriskmarknad.
Först. Jag säger inte att vi ska förbjuda det. Jag sa att det var ett misstag. Det kommer att skada OpenAI:s verksamhet
2:a: Jag säger det igen. Det här handlar inte om porr. Det här handlar om att barn utvecklar”relationer”med en LLM som kan ta dem i ett antal mycket personliga riktningar.… https://t.co/zoo7XCzYbK
— Mark Cuban (@ban) 15 oktober 2025
