Svar på en kaotisk lanseringsuke som så den nye Sora-appen overkjørt med hånende DeepFakes, har Openai rullet ut en kritisk oppdatering som gir brukerne mer kontroll over deres AI-genererte selv.
kunngjort mandag, de nye sikkerhetsfunksjonene tillater brukere å begrense de digitale doblene, eller”comos,”fra å bli brukt i spesifikke kontekst, som et som er å beregne sine digitale digitale digitale digitale digitale dubler, eller”kom.”Truende feilinformasjonskatastrofe”Kritikere advarte om etter at appens debut.
Nye kontroller for å temme AI ‘Cameos’
Oppdateringens kjernefunksjon er “Cameo Restrictions.” Bill Peebles, som leder Sora-teamet på Openai, forklarte at brukere nå kan gi spesifikke instruksjoner til appen for å forhindre misbruk.
For eksempel kan en bruker nå eksplisitt forby AI-likhet fra å vises i videoer som involverer politisk kommentar eller fra å si visse ord.
Kontrollene tillater også spretter. Openai-ansatte Thomas Dimson bemerket at en bruker kunne gi mandat til sin virtuelle dobbel til å”bruke en‘#1 ketchup fan ’ballhette i hver video”i hvert utseende. Oppdateringen er en del av en bredere innsats for å stabilisere appen og administrere kaoset som definerte den første uken.
Peebles bekreftet at selskapet også jobber med å forbedre Soras svake vannmerke og finjustere sikkerhetsmodellene sine for å ta smutthull. han lovet at Openai vil fortsette å”vi fortsette å gjøre restrrik til rengjøring til rengjøring til å rense til restrik Å gjøre begrensninger enda mer robuste, og vi vil legge til nye måter for deg å holde kontrollen over din komo i fremtiden.”
Sora-oppdatering: Cameo og sikkerhetsforbedringer inngående!
1. Cameo Restrictions: Vi har hørt fra mange mennesker som ønsker å gjøre komosene sine tilgjengelige for alle, men som beholder kontrollen over hvordan de brukes.
Starter i dag, kan du nå gi instruksjoner til Sora som begrenser typen…
-Bill Peebles (@billpeeb) skift til en mer skapervennlig”opt-in”-system Med tilleggskontroller.”
Altman søtet også avtalen ved å avsløre planer for en inntektsdelingsmodell for å delta på høyrebeholdere.
‘Build In Public’Gamble
Varun Shetty, Openais sjef for mediapartnerskap, erkjente dette presset, og sier:”Vi er også i et konkurransedyktig landskap der vi ser andre selskaper som også tillater kraftig for å komme til å gi den samme typen.”Utvikling av det i det skjulte.
Tidligere Openai-leder Zack Kass gjorde denne saken, og fortalte reportere:”Det er to alternativer til å bygge i det fri: ikke å bygge i det hele tatt, eller bygge privat. Og disse alternativene er imidlertid verre.”
Kritikere er imidlertid fortsatt skeptiske for de nye sikkerhetskraft. De peker på at brukerens lange historie finner måter rundt slike begrensninger på andre AI-plattformer. Foreløpig lapper Openai sin skapelse mens den går, i håp om at kontroll kan ta igjen kaos.