Kun Openai vie uuden GPT-4O-kuvan luomismoodin vapaa-tason chatgpt-käyttäjille, yritys kokeilee myös sekä näkyviä että näkymättömiä vesileimatekniikoita, jotka auttavat paremmin tunnistamaan AI: n tuotettuja visioita. Näkyvä vesileima-ilmeinen”ImageGen”-tarra-testataan ilmaisten tilien tulosteilla, kun taas maksetut käyttäjät
Testaus on samaan aikaan kuin CHATGPT-4O: n kuvan sukupolven työkalun yleinen saatavuus, joka on nyt pääsy siihen päivittäiseen käyttäjille. Kuvan sukupolvi oli aikaisemmin rajoitettu maksettuihin tasoihin. Nyt ei ole vain laajeneva tekniikka-joten Openain pyrkimys tehdä sen sisällöstä jäljitettävämpi. Tämä merkitsee laajempaa strategiaa OpenAI: sta sisällön määrittämisen vahvistamiseksi AI: n tuottamien väliaineiden asennustutkimuksen keskellä. Näihin konekoneiden luettavat tunnisteet sisältävät aikaleimat, ohjelmistomerkit ja alkuperämerkit, jotka auttavat tarkistamaan sisällön lähtökohtaa. Lähestymistapa perustuu Openain aikaisempaan C2PA-metatietoihin Dall · E 3-kuvan luomisessa, joka alkoi vuoden 2024 alkupuolella.
Metatietopohjaisten järjestelmien rajoitukset ovat kuitenkin hyvin tiedossa. Kuten Openai on aiemmin tunnustanut, yksinkertaiset manipulaatiot-kuten rajaaminen, kuvakaappaus tai kuvien lähettäminen metatietojen poistaville alustoille-voivat poistaa nämä näkymättömät merkit. Näistä puutteista huolimatta yritys tukee vesileimaa edellyttäviä oikeudellisia puitteita. Adoben ja Microsoftin lisäksi Openai on tukenut Kalifornian AB 3211-laskua, joka valtuuttaisi AI: n tuotetun sisällön merkitsemisen väärien tietojen riskien vähentämiseksi. Dall · e 3: n C2PA-metatietojen käyttöönoton lisäksi yritys kehitti myös CHATGPT: n tekstin vesileimausjärjestelmän, joka ilmoitettiin vuoden 2010 puolivälissä. Työkalu upotettujen kielellisten kuvioiden avulla AI: n tuottaman tekstin liputtamiseksi. Mutta huolet tarkkuudesta ja tahattomista seurauksista johtivat Openain viivästymään käyttöönoton.
Openai tunnusti työkalun rajoitukset ja hienostuneiden tekniikoiden mahdollisuuden ohittaa sen. Yhtiö havaitsi myös mahdolliset oikeudenmukaisuusongelmat käyttäjille, jotka luottavat AI: hen toisen kielen kirjoitustukeen. Vesilevy voidaan poistaa tai hämärtää käyttämällä yksinkertaisia strategioita, kuten uudelleenmuokkausta tai koneen kääntämistä.
Nämä aikaisemmat ponnistelut tarjoavat välttämättömän kontekstin CHATGPT-4O-vesileimaustestille. Yhdistämällä näkyvät ja näkymättömät indikaattorit OpenAi yrittää lyödä keskitietä käytettävyyden ja jäljitettävyyden välillä. Muut tekniset jättiläiset ovat ryhtyneet rinnakkain toimenpiteisiin AI: n tuotetun median merkitsemiseksi. Helmikuussa 2025 Google laajensi SynthID-järjestelmäänsä-joka on laillisesti kehittänyt DeepMind-Google-valokuviin. Teknologia koskee nyt muokattuja kuvia sekä täysin luotuja kuvia, jotka upottavat huomattamattomat vesileimat suoraan pikseliin. Synthid voi selviytyä perusmuutoksista, kuten koon muuttamisessa tai valon suodattamisessa, mutta on vähemmän tehokas raskaita muokkauksia tai rajaamista vastaan. Nämä metatietomerkinnät merkitsevät sukupolven lähteen, luomispäivämäärän ja ohjelmistotunnuksen. Järjestelmä on osa laajempaa aloitetta, joka sisältää kumppanuuksia Adoben, Truepicin ja BBC: n kanssa sisällön todennuksen standardisoimiseksi alustojen välillä.
meta, jota välin ottivat välitöntä lähestymistapaa. Helmikuussa 2024 yritys julkaisi pakolliset näkyvät vesileimat AI: n tuotetussa sisällössä Facebookissa, Instagramissa ja säikeissä. Etiketti “kuvitella AI: n kanssa” ilmestyy kaikissa Meta-työkalujen tai kolmansien osapuolien mallien, kuten Midjourney ja Dall · e. Meta on ilmoittanut, että se vaatii pian samanlaisen synteettisen videon ja äänen paljastamista mahdollisilla noudattamatta jättämiselle.
Tekniset rajoitukset ja tutkimushaasteet
Vertailulla on edelleen heikkous. Lokakuussa 2023 Marylandin yliopiston tutkijat julkaisivat tutkimuksen, jossa tutkittiin AI-kuvan vesileimaa. Heidän havaintonsa osoittivat, että yhteiset vesileimat menetelmät voidaan voittaa vastustajatekniikoilla.
Esimerkiksi prosessi, jota kutsutaan diffuusiopuhdistukseksi-missä Gaussin kohina lisätään kuvaan ja denoidaan sitten-voi poistaa tehokkaasti havaitsemattomat vesileimat generoiduista kuvista. Huolestuttavan on, että hyökkääjät voivat”huijata”vesileimaa merkitsemättömään kuvaan, jolloin se näyttää olevan AI: n generoituja, kun se ei ole.
heidän artikkelissaan ryhmä kuvasi myös havaitsemisvaihtoa: parantavat tarkkuutta väärien negatiivien (puuttuvan vesileiman) parantamiseksi. Nämä havainnot viittaavat siihen, että pelkästään vesileimaaminen ei välttämättä ole luotettava turvaverkko manipuloituja medioita tai väärää tietoa vastaan. Jos palkatut tilaajat nauttivat edelleen vesileimattomasta tulosta, tämä luo kaksitasoisen järjestelmän, joka voi vaikeuttaa sisällön seurantaa ja maltillisuutta alustojen välillä. Kuva, jolla ei ole näkyvää tunnistetta, voi kiertää vapaammin-riippumatta siitä, onko se AI-generoitu.
Openain kaksikerroksinen strategia-näkyvien merkkien yhdistäminen metatietoilla-voi heijastaa yritystä lieventää näitä kysymyksiä tekemättä kompromisseja liian ankaria käytettävyyden suhteen. Synteettisen väliaineen lisääntyessä vesileimausjärjestelmien on kuitenkin todennäköisesti kehitettävä edelleen pysyäkseen tehokkaina. On edelleen epäselvää, vastaako nykyinen saldo sääntelijöiden, alustojen ja käyttäjien odotuksia.