AI-kloonaus Katuus: Näyttelijät pahoittelevat kasvojensa ja äänensä myyntiä digitaalisen kaltaisena huijauksissa, propagandassa

esiintyjät löytävät digitaaliset kaksosensa odottamattomissa ja usein toivomattomissa paikoissa verkossa, herättäen pahoillani AI-yritysten kanssa allekirjoitettujen kauppojen lisensoimiseksi. vaikutukset tai hallinnan puute.

synteesi, suuren IK-pohjaisen AI-videoalustan, joka on $ 2,1 miljardia dollaria. Yhtiö, joka käsittelee uusien näyttelijöiden ohjelmien ja-käytäntöjen huolenaiheita. Yhden vuoden lisenssi MCM: lle, vain hänen AI-kollegansa ilmestymiseen Doosaying-videoissa. Hänen sopimuksensa on ilmoitettu kielletty vain pornografisen käytön tai assosiaation alkoholin/tupakan kanssa.

eteläkorealainen näyttelijä Simon Lee SAG-AFTRA 2023 TV/TEATRIALLINEN SOPIMUS Työllisyyden aikana luodut kopiot verrattuna itsenäisesti syntyneisiin. Ammattiliitot puolustavat laajasti periaatteita, jotka ovat usein tiivistettyjä “neljästä pylväästä”: läpinäkyvyys, suostumus, korvaus ja hallinta, standardit näennäisesti puuttuvat joissakin varhaisissa AI-avatarissa.

Synthesia, jonka alustolla on 70 prosentilla. 2025, on vastannut kasvavaan tutkimukseen. Valitse näyttelijät, joiden avatareja käytetään laajasti tai esiintyvät markkinoinnissa. Synthesia totesi, että nämä toimijat ovat osa ohjelmaa jopa neljä vuotta, jonka aikana heidän osakepalkinnonsa annetaan kuukausittain. Yhtiö toteaa, että sen ohjaavat periaatteet ovat suostumus, hallinta ja yhteistyö , joka vaatii nimenomaisen suostumuksen samankaltaisuuden käyttöön. href=”https://www.synthesia.io/post/navigating-the-complexities-of-content-moderation-four-lessons-learned-from-our-recent-red-teaming-exercise”Target=”_ _ tyhjä”> Multi-Layered Content Moderation-lähestymistapa. Äänenkäytöt, kuten tili, kielletään ilman hyvityksiä väärinkäytöstä.

Alexandru Voica, Synthesian yritysasioiden päällikkö, tunnusti aiemmat numerot ja totesi: “Kolme vuotta sitten muutama video liukastui sisältömme maltillisesti osittain siksi, että tosiasiallisesti tarkka, mutta polarisoiva sisältö tai videoiden täytäntöönpano tai polarisoiva sisältö. Yritys kohtelee nyt “haitallista sisältöä vakavana turvallisuusuhana, kun taas monille näistä AI-sovelluksista tämäntyyppinen sisältö on liiketoimintamalli”. Näyttelijöille tarjotaan myös opt-out tulevaisuuden videon luomiseen, tiedonpoiston käynnistämiseen, vaikka tämä ei vaikuta jo olemassa oleviin videoihin. Synthesia jatkaa teknologista kehitystä, kaupan ilmoittaminen huhtikuussa 2025 Shutterstockin kanssa Avatar-realismin parantamiseksi ja sai strategisia investointeja samassa kuussa . Visuaaliset avatarit. Vaikka Synthesia keskittyy yrityssovelluksiin, kuten yrityskoulutukseen, tekniikan väärinkäytöksen potentiaali heijastaa muualla nähtyjä huolenaiheita. AI-äänikloonaustyökalut etenevät nopeasti; Openai kehitti erittäin realistisen äänimoottorinsa, mutta epäröi julkista julkaisua huhtikuussa 2024 väärinkäytöksistä johtuen, ehdottaen suojatoimenpiteitä, kuten suostumuksen varmennus.

Microsoft-tiimit integroidaan äänikloonaus käännökseen korostaen käyttäjän suostumusta. Samaan aikaan kiitotien AI kaltaiset yritykset etenevät realistisen kasvojen animaatioiden ja kohtaavat samanlaisia ​​kysymyksiä koulutustietojen etiikasta.

lainsäädäntöelimet alkavat myös reagoida. Kalifornian laki syyskuussa 2024 (ab 2602, AB 1836), kuten digitaaliset replakenssit, ja federalit, ja federalit, ja federal-ehdotukset ja federaatiot ja federaatiot ja federaatiot ja federaatiot ja federalit, kuten federalit, ja federalit. Lain tavoitteena on perustaa kansallinen standardi. Kun digitaaliset kaksoset mahdollistavat tekniikan helpommin ja vakuuttaviksi, niiden luomista ja käyttöä koskevien selkeiden eettisten ohjeiden, oikeudenmukaisten sopimusten ja vankan oikeudellisten puitteiden tarve tulee yhä enemmän ilmeiseksi.