Meta a anunțat Meta Video Seal, un nou instrument open-source conceput pentru a filigrana videoclipurile generate de AI. Video Seal încorporează filigrane invizibile, dar robuste, care persistă prin editări, comprimare și partajare, făcând posibilă urmărirea și autentificarea conținutului.
Versiunea își propune să abordeze preocupările tot mai mari cu privire la utilizarea greșită a AI generativă, inclusiv creșterea deepfake-urilor și a conținutului manipulat.
Dezvoltarea Video Seal vine într-un moment în care proliferarea IA generativă a introdus noi provocări pentru moderarea conținutului. Cercetarea a constatat o creștere de zece ori (de 10 ori) a numărului de deepfake detectate la nivel global, în toate industriile din 2022 până în 2023, contribuind la 7% din cazurile de fraudă la nivel mondial, de la furtul de identitate la elaborarea socială. inginerie.
Odată cu lansarea generatorului de videoclipuri Sora de la OpenAI săptămâna aceasta, un astfel de filigran soluțiile vor trebui să joace un rol din ce în ce mai mare pentru a ajuta oamenii să distingă videoclipurile generate de IA de cele reale filmare.
Problema Video Seal Rezolvă
Tehnologia Deepfake, alimentată de modele AI generative precum DALL·E și Stable Diffusion, a permis crearea de hiper-conținut realist, dar înșelător.
Deși aceste instrumente oferă posibilități creative, ele prezintă și riscuri, cum ar fi răspândirea dezinformarii și activitățile frauduloase. Filigranarea video oferă o soluție prin încorporarea de identificatori în videoclipuri pentru a verifica autenticitatea acestora.
Tehnicile tradiționale de filigranare video nu răspund adesea provocărilor moderne. Transformările video, cum ar fi decuparea, compresia și recodificarea pot distorsiona sau elimina filigranele, făcându-le ineficiente. Video Seal de la Meta introduce noi metode pentru a asigura rezistența împotriva unor astfel de distorsiuni.
Cum funcționează Video Seal
Meta Video Seal folosește tehnici inovatoare de filigran neuronal care îl fac atât eficient si robust. Una dintre caracteristicile sale definitorii este propagarea temporală a filigranului, un proces care încorporează un filigran în cadrele video cheie și îl propagă la cadrele învecinate.
Această abordare reduce sarcina de calcul, asigurând în același timp că filigranul invizibil rămâne intact chiar și după ce videoclipul suferă transformări comune.
Imagine: Meta AI
De asemenea, instrumentul folosește creșteri diferențiabile, transformări aplicate în timpul fazei de antrenament care simulează distorsiunile video din lumea reală, pentru a simula distorsiunile din lumea reală, cum ar fi compresia și decuparea. Acest lucru asigură rezistența filigranului în condiții dificile.
Echipa de cercetare Meta explica, „Video Seal elimină nevoia de a filigrana fiecare cadru dintr-un videoclip prin valorificarea propagării temporale a filigranului, permițând timpi de inferență rapidi, menținând în același timp robustețea la compresia video și distorsiunile geometrice.”
Un alt aspect critic este procesul de antrenament în mai multe etape. Video Seal începe cu pregătirea prealabilă a imaginii, trecerea la antrenamentul specific video cu etape de reglare fină. Această abordare hibridă combină eficiența modelelor bazate pe imagini cu adaptabilitatea necesară pentru video conținut.
Video Seal a fost testat în comparație cu repere din industrie, cum ar fi MBRS,
MBRS,
href=”https://arxiv.org/abs/2311.18297″>TrustMark și WAM și au demonstrat performanțe superioare sub transformări precum compresia H.264 și distorsiunile geometrice. Acest lucru îl face unul dintre cele mai robuste cadre de filigranare disponibile în prezent.
Pentru a încuraja colaborarea în continuare, Meta a lansat Meta Omni Seal Bench, un clasament public pentru compararea tehnicilor de filigranare. Compania intenționează, de asemenea, să găzduiască un atelier la Conferința internațională privind reprezentanțele învățării (ICLR) în 2025 pentru a stimula dialogul în cadrul comunităților academice și industriale. p>
„Lansăm public modelul Video Seal sub o licență permisivă, împreună cu o lucrare de cercetare, un cod de instruire și un cod de inferență.” Meta afirmă.
Altă IA Soluții de filigranare
Meta nu este singurul în eforturile sale de a aborda provocările generate de IA generativă Concurenți precum DeepMind și Microsoft au introdus și instrumente de filigranare, evidențiind o recunoaștere a problemei la nivel de industrie.
SynthID de la Google DeepMind, de exemplu, utilizează tehnici de filigranare neuronale similare pentru imagini, videoclipuri și audio generate de AI Natura open-source a Seal îl deosebește, permițând cercetătorilor și dezvoltatorilor să acceseze liber codul său și să contribuie la îmbunătățirea acestuia.
Meta Video Seal se concentrează, de asemenea, exclusiv pe conținut video, încorporând filigrane imperceptibile în cadre individuale și oferind opțiuni opționale. mesaje ascunse pentru urmărirea originilor video.
În schimb, SynthID de la Google aplică o strategie mai largă, încorporând filigrane în text, imagini, audio și video. Ambele tehnologii demonstrează rezistență împotriva editărilor obișnuite, cum ar fi decuparea, compresia și filtrarea.
Aplicații și provocări
În timp ce Video Seal are ca scop în primul rând combaterea dezinformării, aplicațiile se extind mult dincolo. Industrii precum media și divertismentul ar putea folosi tehnologia pentru a preveni pirateria și pentru a verifica autenticitatea conținutului. De exemplu, studiourile de la Hollywood ar putea încorpora filigrane în fișierele de film pentru a urmări copiile neautorizate.
Cu toate acestea, există limitări. Videoclipurile puternic comprimate sau cele supuse unor editări ample pot degrada semnalul filigranului. Echipa de cercetare recunoaște că, deși Video Seal demonstrează o rezistență ridicată față de transformările comune, inclusiv compresia și editările geometrice, filigranul său se poate degrada sau deveni irecuperabil în condiții extreme, cum ar fi compresia puternică sau modificările substanțiale.
O altă provocare constă în adopţie. Deși Meta a făcut Video Seal open source, adoptarea pe scară largă a industriei depinde de compatibilitatea cu fluxurile de lucru existente și de dorința de a se îndepărta de sistemele proprietare.
Introducerea Video Seal reflectă angajamentul declarat al Meta față de dezvoltarea responsabilă a AI. La începutul acestui an, compania a raportat că mai puțin de 1% din informațiile greșite legate de alegeri detectate pe platformele sale au fost generate de inteligență artificială, subliniind abordarea sa proactivă a moderarii conținutului. Acest lucru se aliniază cu strategia mai largă a Meta de a atenua utilizarea abuzivă a AI, încurajând în același timp inovația.
Prin lansarea Video Seal ca instrument open-source, Meta a făcut un pas important în abordarea provocărilor generate de AI generativă. Capacitatea sa de a încorpora filigrane imperceptibile, dar rezistente, în videoclipuri nu numai că combate utilizarea abuzivă, ci și întărește încrederea în conținutul digital. Pe măsură ce industriile se confruntă cu implicațiile AI, instrumente precum Video Seal ar putea deveni esențiale pentru menținerea transparenței și autenticității.
