O campanie de dezinformare cunoscută sub numele de „Operațiunea Undercut”, atribuită Agenției de Design Social (SDA) din Rusia, a atras atenția semnificativă pentru utilizarea instrumentelor avansate de inteligență artificială, inclusiv tehnologia de generare a vocii de la ElevenLabs.
The ElevenLabs operațiune, analizat de Compania de informații privind amenințările Recorded Future, subliniază rolul din ce în ce mai mare al inteligenței artificiale în crearea de conținut credibil, multilingv, menit să influențeze opinia publică și să destabilizeze unitatea occidentală.
ElevenLabs la Centrul tacticilor de dezinformare
În centrul strategiei Operation Undercut este utilizarea de voce off generată de AI, cu instrumente precum ElevenLabs joacă un rol cheie.
ElevenLabs este o platformă bazată pe inteligență artificială specializată în tehnologii ultra-realiste de clonare a textului în vorbire și a vocii permite utilizatorilor să convertească textul în vorbire reală în 32 de limbi, oferind o bibliotecă diversă de voci și capacitatea de a crea clone vocale personalizate care captează caracteristici vocale unice.
Aceste instrumente sunt deja utilizate pe scară largă în diferite sectoare, inclusiv cărți audio, soluții de voce off video, jocuri și soluții de accesibilitate, care oferă conținut audio de înaltă calitate, asemănător unui om pentru un public global.
Voice off AI, produse în mai multe limbi, cum ar fi engleza, germană și franceză, permit campaniei să creeze conținut care rezonează cu diverse audiențe, păstrând în același timp o aparență de autenticitate.
Potrivit Recorded Future, „Operation Undercut folosește conținut video cu AI-au generat voci off și imagini care fac referire la articole reale ale instituțiilor media occidentale, dar scot fragmente de informații din context și reambalează în mod înșelător informațiile pentru a-și susține obiectivele de influență.”
Tehnologia ElevenLabs, care este specializată în crearea de sinteze a vocii de înaltă calitate, asemănătoare unui om, a contribuit la sporirea credibilității conținutului Operation Undercut. Recorded Future a identificat peste 1.190 de videoclipuri cu 233 de transcrieri unice, dintre care multe au fost probabil create folosind instrumente comerciale AI, cum ar fi ElevenLabs.
Abilitatea de a producerea de voce în off care nu se poate distinge de vorbirea umană a făcut aceste narațiuni mai convingătoare, sporind impactul lor potențial.
A Campanie sofisticată cu caracteristici unice
Spre deosebire de Doppelgänger, un alt SDA-operațiune conectată, Operation Undercut se bazează pe conturi operate de oameni, mai degrabă decât pe amplificarea automată. Această schimbare de tactică reflectă o evoluție a strategiilor de dezinformare, acordând prioritate angajamentului direct și utilizării conținutului original, îmbunătățit prin inteligență artificială.
Recorded Future notează: „Obiectivul principal al Operațiunii Undercut a fost aproape sigur să slăbească sprijinul occidental pentru Ucraina. și exacerba anxietățile interne și internaționale legate de alegerile din SUA din 2024.”
Conflictul Israel-Gaza este un alt domeniu de interes. Operațiunea difuzează afirmații cu privire la complicitatea guvernelor occidentale la acțiuni controversate, inclusiv acuzații că agențiile de informații din SUA, Marea Britanie și Turcia au sprijinit Hamas.
În plus, Operațiunea Undercut amplifică narațiunile despre protestele din țările occidentale, cum ar fi prezentarea demonstranților pro-palestinieni din New York ca purtând steaguri Hamas și exagerarea cererilor la Londra pentru încetarea vânzărilor de arme către Israel.
Prin evidențierea acestor evenimente, campania își propune să aprofundeze diviziunile societale, să aprindă tensiunile dintre guverne și cetățenii acestora și să pună la îndoială capacitatea Occidentului de a menține o abordare echilibrată a conflictului.
(Imagine: Recorded Future)
Simultan, vizează Uniunea Europeană prin evidențierea fracturilor între statele membre, susținând extrema dreaptă mișcări și criticând politicile de sancționare ale Bruxelles-ului.
Operațiunea Undercut a vizat-o pe Ursula von der Leyen etichetându-o drept „marionetă” a guvernului german și acuzând-o că influențează politicile poloneze în detrimentul economiei Poloniei.
(Imagine: Recorded Future)
Chiar și evenimentele culturale, cum ar fi Jocurile Olimpice de la Paris din 2024, devin instrumente pentru dezinformare. Narațiunile din jurul Jocurilor Olimpice subliniază preocupările legate de securitatea evenimentelor, eșecurile logistice și controversele sociale mai ample, rezonând cu publicul european.
( Imagine: Viitorul înregistrat)
Rafinament tactic
Încrederea pe ElevenLabs și alte instrumente avansate de inteligență artificială subliniază sofisticarea campaniei. Aceste tehnologii permit crearea de conținut care imită mass-media legitimă, recontextualizând articole de la publicații precum The New York Times și Politico pentru a da o credibilitate falsă.
Recorded Future observă: „Volumul de conținut unic și original postat de Operation. Conturile undercut arată că operatorii rețelei au foarte probabil acces la capabilități interne de creare de conținut, inclusiv designeri grafici, editori video și ilustratori.”
Hashtag-urile localizate și interacțiunea cu platforme de nișă precum 9gag, o pagină de plop pentru distribuirea de meme, extind acoperirea campaniei. Aceste eforturi sunt completate de utilizarea alte rețele, cum ar fi CopyCop, un instrument AI pentru generarea de copii „conforme” publicitare Facebook, adăugând straturi de complexitate și adaptabilitate la operațiune.
În ciuda designului său sofisticat, implicarea organică a Operation Undercut rămâne limitată. Recorded Future își clasifică activitatea ca „Categoria 2 pe scara de dezvoltare a Brooking Institution, reflectând activitatea pe mai multe platforme fără implicarea semnificativă a publicului.”
Cu toate acestea, utilizarea instrumentelor AI precum ElevenLabs ridică îngrijorări cu privire la scalabilitatea dezinformarii. campanii, semnalând nevoia de vigilență.
Abordarea amenințării
Pentru a combate influența în creștere a dezinformarii îmbunătățite de IA, Recorded Future subliniază importanța măsurilor proactive, guvernele, companiile de tehnologie și societatea civilă trebuie să colaboreze pentru a monitoriza și a contracara amenințările emergente.
Prin analizarea tiparelor. de uzurpare a identității și crearea de conținut bazată pe inteligență artificială, părțile interesate pot proteja discursul public și pot atenua riscurile asociate cu dezinformarea avansată campanii.
