Pe măsură ce OpenAI lansează noul mod GPT-4O Generare de imagini pentru utilizatorii ChatGPT cu nivel liber, compania experimentează, de asemenea, atât tehnici de filigran vizibile, cât și invizibile, pentru a ajuta la identificarea mai bună a imaginilor generate de AI. Filigranul vizibil-care apare ca etichetă „Imagegen”-este testat pe ieșiri din conturi gratuite, în timp ce utilizatorii plătiți vor
OpenAI a recunoscut limitările instrumentului și posibilitatea tehnicilor sofisticate de a-l ocoli. De asemenea, compania a remarcat probleme potențiale de corectitudine pentru utilizatorii care se bazează pe AI pentru sprijinul de scriere în al doilea rând. Filigranul ar putea fi eliminat sau obfustat folosind strategii simple, cum ar fi reformarea sau traducerea mașinilor.
Aceste eforturi anterioare oferă un context esențial pentru testul de filigranare ChatGPT-4O. Combinând indicatori vizibili și invizibili, OpenAI încearcă să lovească un teren de mijloc între utilizabilitate și trasabilitate.
se deplasează din întreaga industrie către atribuire
OpenAI nu este singur în regândirea autentificării conținutului. Alți giganți tehnologici au făcut măsuri paralele pentru a marca mass-media generate de AI. În februarie 2025, Google și-a extins sistemul Synthid-dezvoltat de obicei de DeepMind-la Google Photos. Tehnologia se aplică acum imaginilor editate, precum și cele generate complet, încorporarea filigramentelor imperceptibile direct în datele pixelilor. Synthid poate supraviețui transformărilor de bază, cum ar fi redimensionarea sau filtrarea luminii, dar este mai puțin eficientă împotriva modificărilor grele sau a recoltării.
Microsoft a adoptat, de asemenea, filigranarea în septembrie 2024 prin serviciul său Azure Openai, încorporat metadate semnate criptografic în imagini generate de Dall · e. Aceste intrări de metadate notează sursa de generație, data creării și identificatorul software. Sistemul face parte dintr-o inițiativă mai largă care implică parteneriate cu Adobe, Truepic și BBC pentru a standardiza autentificarea conținutului pe platforme.
Meta, între timp, a adoptat o abordare mai directă. În februarie 2024, compania a lansat filigrane vizibile obligatorii pe conținut generat de AI pe Facebook, Instagram și fire. Eticheta „imaginată cu AI” apare pe orice imagine creată de instrumentele Meta sau modele terțe precum Midjourney și Dall · e. Meta a semnalat că va necesita în curând o dezvăluire similară pentru videoclipuri și audio sintetice, cu potențiale acțiuni de aplicare pentru nerespectarea.
Limitări tehnice și provocări de cercetare
În ciuda creșterii adoptării, filigranarea are în continuare slăbiciuni. În octombrie 2023, cercetătorii de la Universitatea din Maryland au publicat un studiu care examinează limitele filigranului AI Image. Descoperirile lor au arătat că metodele de filigranare comune pot fi învinse prin tehnici adverse.
De exemplu, un proces numit purificare a difuziei-unde zgomotul gaussian este adăugat la o imagine și apoi denoate-pot elimina efectiv filigranele imperceptibile din imagini generate. Mai mult decât atât, este faptul că atacatorii pot „răsfăța” un filigran pe o imagine nemarcată, ceea ce face ca acesta să fie generat de AI atunci când nu este.
În hârtia lor, echipa a descris, de asemenea, un compromis de detectare: îmbunătățirea preciziei pentru a evita falsele negative (lipsa unui aperat) crește riscul de false pozitive (semnalizarea conținutului nemarcat). Aceste descoperiri sugerează că filigranarea singură poate să nu fie o plasă de siguranță fiabilă împotriva mass-media manipulată sau a dezinformării.
echilibrarea transparenței cu utilizabilitatea
Decizia de a limita vizibilul „ImageGen” filigran la utilizatorii liberi a determinat întrebări despre consecvență. Dacă abonații plătiți vor continua să se bucure de producțiile fără filigran, acest lucru ar crea un sistem cu două niveluri care ar putea complica urmărirea și moderarea conținutului pe platforme. O imagine fără o etichetă vizibilă ar putea circula mai liber-indiferent dacă este generată de AI.
Strategia dublă a lui Openai-combinarea mărcilor vizibile cu metadate-poate reflecta o încercare de a atenua aceste probleme fără a face compromisuri prea dure pentru capacitatea de utilizare. Cu toate acestea, pe măsură ce media sintetică proliferează, sistemele de filigranare vor trebui probabil să evolueze în continuare pentru a rămâne eficiente. Indiferent dacă echilibrul actual îndeplinește așteptările autorităților de reglementare, platforme și utilizatorilor nu este încă neclar.
Categories: IT Info
