A Google kibővíti szintetikus vízjel-technológiáját a Google Phots-ra, és láthatatlan digitális markereket ad hozzá az AI-hajtású eszközökkel megváltoztatott képekhez.
Ez fontos lépést jelent a Google erőfeszítéseiben az AI átláthatóság javítása érdekében, mivel az AI-asszisztált tartalomszerkesztés kifinomultabbá válik. A héten megjelenő frissítés a Magic Editor segítségével módosított képekre vonatkozik, egy AI-vezérelt fotószerkesztési funkcióval, amely elérhető a pixel eszközökön. Aggodalomra ad okot a megváltozott média terjedése. A vállalat korábban bevezette a metaadat-alapú AI címkéket a Google Phots-ban 2024 októberében, de ez a módszer megkövetelte a felhasználók számára, hogy a kép részleteit manuálisan ellenőrizzék. Most, a SynthID-vel, egy rejtett vízjel be van ágyazva a pixel szintjén, így megnehezítve a módosított képek AI-hozzárendelését. 2024/05/Google-DeepMind-Synthid-ai.jpg”>
Hogyan működik a SynthID és miért bővíti a Google
Synthid, amelyet a Google DeepMind fejlesztett ki, tervezték jelölni az AI által generált és ai-szerkesztett tartalmat anélkül, hogy befolyásolná annak vizuális megjelenését. A hagyományos vízjelekkel ellentétben, amelyeket gyakran eltávolítanak, amikor a képeket átméretezik vagy tömörítik, a SynthID láthatatlan azonosítót hoz létre, amely a legtöbb szabványos szerkesztés során kimutatható marad.
A technológiát kezdetben a Google Imagen 3 modell által létrehozott képek nyomon követésére használták, és most az AI-módosított képekre való kiterjesztése célja a kiskapuk bezárása az AI tartalom ellenőrzésében. A vízjel olvasható lesz a Google „About Image” eszközével, amely információkat szolgáltat a felhasználóknak a kép eredetéről és az AI-alapú módosításokról. A Google azonban elismeri, hogy Csökkentse annak hatékonyságát. A médiát már alkalmazták a politikai kampányokban, a hírességek mélyfajta és a megtévesztő hirdetésekben.//arxiv.org/pdf/2310.00076.pdf”>study a Marylandi Egyetemen Megállapította, hogy a versengés technikái gyakran lecsökkenthetik az AI vízjeleket, csökkentve a megbízhatóságukat a hitelesítés eszközeként. > A Meta az AI átláthatósági intézkedéseket is bevezetett, kötelező AI-generált címkék hozzáadásával a Facebookon és az Instagram-on. A társaság további lépést tett a video pecsét keretével, amely olyan idegi vízjeleket alkalmaz, amelyek a módosítások után is fennállnak.
Időközben a Microsoft beágyazta a látható vízjeleket a Bing Image Creator AI által generált képekbe, míg az Openai a C2PA metaadatokat hajtotta végre a Dall-E 3 által létrehozott képekbe. Átláthatóság, korlátozásokkal is járnak. A vízjelek és a metaadatok címkéi eltávolíthatók, megváltoztathatók vagy figyelmen kívül hagyhatók, és ezáltal hiányos megoldást jelenthetnek a téves információk problémájára. Ez különösen egy olyan korszakban, ahol az AI-alapú szerkesztési eszközök megkönnyítik a digitális média manipulálását. > A szintid kiterjesztése nem csupán a Google önkéntes lépése-a kormányok és a szabályozók egyre növekvő nyomása közepette az AI által generált tartalom azonosíthatósága.
2023 októberében a A Biden Administration végrehajtási parancsot adott ki , amely arra utasította a technológiai vállalatokat, hogy erősebb vízjelző és hitelesítési rendszereket hozzanak létre az AI által generált média számára. A végzés az AI-vezérelt választási beavatkozással, a mélytámasz csalásokkal és a szintetikus téves információk gyors terjedésével kapcsolatos aggodalmakkal kapcsolatos aggodalmakat idézi.-A generált tartalom és végrehajtási mechanizmusok. A jogszabály végleges változata, amelyet 2024 júliusában tettek közzé, és ez a hónap óta hatályba lép, szankciókat szab ki azoknak a vállalatoknak, amelyek nem felelnek meg a tartalom hitelesítési intézkedéseinek. A hatékonyságról szóló vita
Miközben a Google mozog a szintet szerkesztett képekre történő kibővítéséhez, egy lépés a nagyobb átláthatóság felé, nem foglalkozik teljes mértékben az AI által generált tartalom-ellenőrzés szélesebb körű kérdésével. Az AI vízjelzés, beleértve a SynthID, az Adobe tartalmi hitelesítő adatait és az OpenAi C2PA metaadatait, fontos digitális aláírásokat nyújthat, ám ezek a feltételezésre támaszkodnak, hogy a platformok és a felhasználók ellenőrzik őket. nem mindig kitartó. Az AI által generált tartalmat gyakran megváltoztatják, kivágják vagy újrafeldolgozzák az online megosztás előtt, és a metaadat-alapú címkék eltávolíthatók, amikor a képeket feltöltik a közösségi médiába.
Ennek eredményeként, míg a vízjelzés értékes eszköz, sok szakértő azt állítja, hogy azt kriptográfiai ellenőrzési módszerekkel és erősebb eredetű követéssel kell kiegészíteni. Nem nyújtanak abszolút biztonságot az AI által generált tartalom manipulációja ellen”-jegyezte meg a Marylandi Egyetem kutatói tanulmányaikban. > Az AI által generált tartalom emelkedésével a vállalatok és a szabályozók a vízjeleken túli hitelesítés további módszereit vizsgálják meg. P>
A Google legutóbbi szintetikus bővítése azt mutatja, hogy a technológiai vállalatok felismerik az erősebb AI-tartalom-hitelesítés szükségességét.