Kuinka syntetisidi toimii ja miksi Google laajentaa sitä Merkitä AI: n generoitu ja AI-muokattu sisältö vaikuttamatta sen visuaaliseen ulkonäköön. Toisin kuin perinteiset vesileimat, jotka poistetaan usein, kun kuvia muutetaan tai painetaan, synthID luo näkymättömän tunnisteen, joka pysyy havaittavissa useimmissa vakiomuokkauksissa.
Teknologiaa käytettiin alun perin Googlen Image 3-mallin luomien kuvien seuraamiseen, ja nyt sen laajentumisen AI-modifioituihin kuviin pyrkii sulkemaan porsaanreikä AI-sisällön varmennuksessa.
the Vesilevy on luettavissa Googlen”About This Image”-työkalulla, joka tarjoaa käyttäjille tietoa kuvan alkuperästä ja kaikista AI-pohjaisista muutoksista. Google kuitenkin myöntää, että SynthID ei ole erehtymättömiä-ekstremejä muutoksia, kuten aggressiivinen viljely tai suodatus, voi kuitenkin Vähennä sen tehokkuutta. Media on jo käytetty poliittisissa kampanjoissa, julkkis syvällisissä ja petollisissa mainonnissa.//arxiv.org/pdf/2310.00076.pdf”>Study Marylandin yliopistosta havaitsi, että vastustavat tekniikat voivat usein poistaa AI-vesileimat kuvista vähentäen niiden luotettavuutta todennuksen työkaluna.
Meta on myös ottanut käyttöön AI-läpinäkyvyysmittarit lisäämällä pakollisia AI: n generoituja etikettejä sisältöön Facebookissa ja Instagramissa. Yhtiö on ottanut lisäaskeleen videotiiviskehyksellään, joka soveltaa hermosolut, jotka jatkuvat myös muutosten jälkeen.
Sillä välin Microsoft on upottanut näkyvät vesileimat AI-generoituihin kuviin Bing Image Creatorilta, kun taas Openai on toteuttanut C2PA-metatiedot Dall-E 3: n luomissa kuvissa.
kun nämä aloitteet paranevat Läpinäkyvyys, heillä on myös rajoituksia. Vesileimat ja metatiedot etiketit voidaan poistaa, muuttaa tai jättää huomiotta, mikä tekee niistä epätäydellisen ratkaisun väärään tiedon ongelmaan. Tämä koskee erityisesti aikakaudella, jolloin AI-moottorilla olevat muokkaustyökalut helpottavat digitaalisen median manipulointia. > Synthidin laajentuminen ei ole vain Googlen vapaaehtoinen siirto-hallitusten ja sääntelyviranomaisten lisääntyvän painostuksen keskellä varmistaa AI: n tuotetun sisällön tunnistettavissa.
Lokakuussa 2023 Biden Administration antoi toimeksiannon. Määräyksessä mainitsi huolenaiheen AI-pohjaista vaalien häiriöitä, syviä huijauksia ja synteettisen väärän tiedon nopeaa leviämistä.
Vertailun yhteydessä Euroopan unionin AI-Tuodettu sisältö ja toteuttaa havaitsemismekanismit. Heinäkuussa 2024 julkaistun lainsäädännön lopullinen versio, joka on voimassa tämän kuukauden jälkeen, asettaa seuraamuksia yrityksille, jotka eivät noudata sisällön todennustoimenpiteitä.
Onko AI-vesileimaus? Keskustelu tehokkuudesta
Googlen siirtyminen laajentamaan syntettiä muokattuihin kuviin on askel kohti suurempaa läpinäkyvyyttä, se ei käsittele kokonaan AI: n tuotetun sisällönvahvistuksen laajempaa kysymystä. AI-vesileimaus, mukaan lukien SynthID, Adoben sisältötiedot ja Openain C2PA-metatiedot, voivat tarjota tärkeitä digitaalisia allekirjoituksia, mutta ne luottavat oletukseen, että alustat ja käyttäjät tarkistavat ne.
Yksi merkittävä huolenaihe on, että Watermarking on ei aina pysyvä. AI: n generoitua sisältöä muutetaan, rajataan usein tai uudelleenkäsitetään ennen kuin ne jaetaan verkossa, ja metatietopohjaiset etiketit voidaan poistaa, kun kuvia ladataan sosiaaliseen mediaan.
Seurauksena on, että vesileimaus on arvokas työkalu, monet asiantuntijat väittävät Ne eivät tarjoa absoluuttista turvallisuutta AI: n generoituja sisällön manipulointia vastaan ”, Marylandin yliopiston tutkijat totesivat tutkimuksessaan. > AI-generoitujen sisällön noustessa yritykset ja sääntelyviranomaiset tutkivat lisämenetelmiä todentamiseksi vesileimaajan ulkopuolella. P>
Googlen viimeisin syntettien laajennus osoittaa, että teknologiayritykset tunnustavat vahvemman AI-sisällön todennuksen tarpeen.