Meta ha annunciato l’implementazione di una nuova politica sui contenuti su tutte le sue piattaforme, che include i social network Facebook e Instagram. L’iniziativa, progettata per aumentare la trasparenza, comporterà l’etichettatura di immagini e media generati dall’intelligenza artificiale (AI). Come parte della politica, i media creati dai più diffusi generatori di intelligenza artificiale, come gli strumenti di Meta, Midjourney, Dall-E e Bing Image Creator, porteranno una filigrana che indica”Imagined with AI”. fotografia originale ma è stata sintetizzata utilizzando la tecnologia AI.
Migliorare la consapevolezza dell’utente
La norma mira ad aiutare gli utenti a riconoscere quando il contenuto che stanno visualizzando potrebbe non rappresentare realtà ma è piuttosto il prodotto di algoritmi di apprendimento automatico in grado di generare immagini fotorealistiche. Meta mostrerà il tag”Imagined with AI”sulle immagini create utilizzando la sua funzione Meta AI e prevede di fare lo stesso con i media generati da strumenti di altre aziende. Inoltre, Meta imporrà presto agli utenti di rivelare quando condividono video o audio realistici creati dall’intelligenza artificiale. La non conformità, come la mancata fornitura di una corretta divulgazione, potrebbe comportare azioni contro l’account dell’utente, inclusi avvisi o rimozioni di post.
Sfide e precauzioni relative ai media sintetici
Nonostante gli sforzi volti a mitigare i rischi, il rilevamento completo di video e audio sintetici rimane difficile. Meta riconosce le sfide continue legate ai contenuti che sfuggono al rilevamento e si è quindi impegnata in collaborazioni con partner per migliorare l’identificazione e l’etichettatura in tempo reale dei media sintetizzati. Come sottolinea il presidente degli affari globali della società, Nick Clegg, c’è una particolare preoccupazione riguardo all’uso dei media manipolati per ingannare il pubblico, soprattutto in momenti critici come le elezioni. Per affrontare situazioni ad alto rischio, Meta può utilizzare un’etichettatura più evidente per fornire informazioni e contesto aggiuntivi al pubblico.
L’introduzione di questi meccanismi di etichettatura fa parte di uno sforzo più ampio volto a stabilire standard di settore per la chiara marcatura dei contenuti generati dall’intelligenza artificiale. Anche YouTube, un’altra importante piattaforma di contenuti, ha annunciato piani nel 2023 per aiutare i propri utenti a identificare se un video è stato creato con l’aiuto di strumenti di intelligenza artificiale generativa. Insieme, queste misure riflettono il crescente impegno del settore tecnologico nei confronti della trasparenza e della responsabilità nell’era dei contenuti generati dall’intelligenza artificiale.
Filigrane di Microsoft e dubbi sui loro effetti
Microsoft applica già la filigrana alle immagini generate da Bing Image Creator. L’aggiunta della filigrana ha lo scopo di aiutare gli utenti a identificare i contenuti generati dall’intelligenza artificiale. Le immagini generate dall’intelligenza artificiale stanno diventando sempre più realistiche e può essere difficile distinguerle dalle immagini create dall’uomo. La filigrana aiuterà gli utenti a sapere che un’immagine è stata creata utilizzando l’intelligenza artificiale e a dare credito a Microsoft per la sua creazione.
A ottobre, i risultati di uno studio hanno suggerito che le filigrane sulle immagini AI hanno scarso effetto. Microsoft, Google, Amazon e OpenAI hanno recentemente aggiunto il watermarking, un metodo per aggiungere metadati ai contenuti digitali per stabilirne l’origine, per rafforzare le misure di sicurezza contro i deepfake prodotti dai loro modelli di intelligenza artificiale.
Il documento di ricerca “Robustness of AI-Image Detectors: Fundamental Limits and Practical Attacks”, pubblicato su ArXiv, descrive in dettaglio i risultati. Il team è stato co-guidato da Soheil Feizi, professore associato di informatica presso l’Università del Maryland, come ha affermato in un email a The Register che lo studio rivela”vulnerabilità fondamentali e pratiche del watermarking delle immagini come difesa contro i deepfake.”
