In antwoord op een chaotische lanceringsweek waarbij zijn nieuwe Sora-app werd overspoeld met het bespotten van Deepfakes, heeft OpenAI een kritieke update uitgerold die gebruikers meer controle geeft over hun door AI gegenereerde zelf.
Aangekondigde maandag, de nieuwe veiligheidsfuncties kunnen gebruikers beperken om hun digitale dubbels te beperken, of”Comeo’s”,”van het gebruik van specifieke contexten, zoals politieke video’s. misinformation disaster”critics warned of after the app’s debut.
The platform, described as a “TikTok for deepfakes”, even saw OpenAI’s own CEO, Sam Altman, become the unwilling star of numerous Bizarre clips, waaronder een waar hij een dode pikachu grillt.
nieuwe controles om AI ‘cameos’
De kernfunctie van de update te temmen is”Cameo-beperkingen.”Bill Peebles, die het Sora-team van Openai leidt, legde uit dat gebruikers nu specifieke instructies aan de app kunnen geven om misbruik te voorkomen.
bijvoorbeeld, kan een gebruiker nu expliciet verbieden zijn AI-gelijkenis te verschijnen in video’s met politiek commentaar of om bepaalde woorden te zeggen. Openai-medewerker Thomas Dimson merkte op dat een gebruiker zijn virtuele dubbel zou kunnen verplichten om in elke video een ‘#1 ketchup-fan’ te dragen in elke video”in elke verschijning. De update maakt deel uit van een bredere inspanning om de app te stabiliseren en de chaos te beheren die de eerste week definieerde.
Peebles heeft bevestigd dat het bedrijf ook werkt aan het verbeteren van Sora’s zwakke watermerk en het tweaken van de veiligheidsmodellen om mazen te vangen. Beperkingen nog robuuster, en we zullen nieuwe manieren voor u toevoegen om in de toekomst de controle te houden over uw cameo.”
Sora Update: cameo en veiligheidsverbeteringen inkomen!
1. Comeo-beperkingen: we hebben gehoord van veel mensen die hun cameeën aan iedereen beschikbaar willen stellen, maar de controle behouden over hoe ze worden gebruikt. href=”https://twitter.com/billpeeb/status/1974969638300901817?ref_src=twsrc%5etfw”target=”_ blank”> 5, 2025
een patroon van reagerende patches
Deze reactieve update wordt een bekend patroon voor OpenAI.
Het volgt vorige week nog een snelle cursuscorrectie met betrekking tot het controversiële auteursrechtbeleid van Sora. De app werd aanvankelijk gelanceerd met een”opt-out”-model, dat beschermde personages als een eerlijke game voor video-generatie behandelde, tenzij een rechtenhouder formeel bezwaar maakte.
Dit beleid leidde tot een onmiddellijke terugslag omdat gebruikers het platform overspoelden met video’s van bekende personages in surrealistische scenario’s. Jaren.
Geconfronteerd met een groeiende PR-crisis, Openai gedraaid. Op 3 oktober kondigde CEO Sam Altman een verschuiving naar een meer maker-vriendelijke”opt-in”-systeem
in een blogpost, zegt:”Controles.”
Altman heeft ook de deal gezoet door plannen te onthullen voor een model voor het delen van inkomsten voor deelnemende rechtsholders.
De‘ Build in Public ’Gamble
Openai’s agressieve”Build in Public”Strategie is gedeeltelijk een antwoord op Intense marktdruk van RIVals zoals Google’s Veo 3. Het competitieve landschap van AI Video Generation.
Varun Shetty, Openai’s hoofd van mediapartnerships, erkende deze druk en verklaarde:”We zijn ook in een competitief landschap waar we andere bedrijven zien die ook dezelfde soort generaties bevorderen. ontwikkelen in het geheim.
Voormalig Openai-directeur Zack Kass heeft deze zaak gemaakt en verslaggevers verteld:”Er zijn twee alternatieven voor het bouwen in de openheid: helemaal niet bouwen of privé bouwen. En die alternatieven zijn voor mij erger.”
, critici blijven echter sceptisch over de nieuwe beveiligingen. Ze wijzen op de lange geschiedenis van gebruikers die manieren vinden om dergelijke beperkingen op andere AI-platforms te vinden. Voorlopig is Openai zijn creatie aan het patchen terwijl het loopt, in de hoop dat controle chaos kan inhalen.
