Generative AI, tehnologia din spatele instrumentelor precum ChatGPT de la OpenAI și a generatoarelor de imagini precum DALL·E, transformă rapid interacțiunea digitală și producția creativă.
OpenAI tocmai a lansat generatorul său video Sora AI, care permite milioane de Abonații ChatGPT pentru a crea clipuri scurte fotorealiste.
Cu toate acestea, riscurile societale asociate cu aceste sisteme, de la dezinformare la neintenționat părtinire — rămâne în mare parte neabordată de dezvoltatori
Economiștii de la Centrul Leibniz pentru Cercetare Economică Europeană (ZEW), consideră inteligența artificială un caz de eșec al pieței și îndeamnă Uniunea Europeană să Decembrie brief policy pentru a adopta un model de finanțare direcționată pentru a aborda aceste provocări.
În teoria economică, „piață eșec” se referă la o situație în care piața liberă nu reușește să aloce resursele în mod eficient, ceea ce duce la rezultate suboptime pentru societate în ansamblu.
Aceștia propun un program de stimulare bazat pe repere pentru a alinia dezvoltatorul priorități cu nevoile de siguranță publică.
„Stimulentele actuale de pe piață sunt insuficiente pentru a asigura dezvoltarea de sisteme AI generative sigure, deoarece companiile suportă doar o parte din costurile potențiale ale defecțiunilor de siguranță, în timp ce captează majoritatea beneficiilor din îmbunătățirea capacităților, „, se precizează în documentul de politică, identificând un eșec critic al pieței care lasă progresele în materie de siguranță subfinanțate.
Legate: UE lansează primul proiect de uz general. Codul de practică AI
Eșecuri ale pieței în dezvoltarea AI generativă
Creșterea rapidă a IA generativă a fost alimentată de miliarde de investiții publice și private. Cu toate acestea, aceste sisteme, care învață modele din seturi de date extinse pentru a genera text, imagini sau audio, nu dispun de garanții încorporate împotriva utilizării greșite.
Conform cercetătorilor ZEW, acest dezechilibru le permite dezvoltatorilor să prioritizeze capacitățile față de siguranță, lăsând externalizate costurile societale ale riscurilor, cum ar fi campaniile de dezinformare la scară largă sau eșecurile în aplicații critice, cum ar fi asistența medicală.
Rezumatul politicii subliniază că provocările legate de siguranță în IA generativă nu pot fi rezolvate doar prin îmbunătățiri convenționale de formare. Acesta susține că măsurile de conservare a setului de date înainte de formare sau de după antrenament, cum ar fi algoritmii de reglare fină, nu pot aborda în mod adecvat deficitele de siguranță de bază inerente stivei de tehnologie. Aceste lacune subliniază necesitatea unor progrese tehnologice substanțiale.
Legate: Meta conduce giganții tehnologici îndeamnă UE să regândească strategia de reglementare a inteligenței artificiale
Propunere pentru o Model de finanțare bazat pe repere
Pentru a reduce acest decalaj, economiștii ZEW propun un program finanțat de UE care oferă stimulente bazate pe repere dezvoltatorilor care realizează standarde de siguranță predefinite. Acest mecanism de finanțare „pull” ar recompensa mai degrabă rezultatele decât intrările, oferind căi previzibile pentru creșterea siguranței în sistemele AI generative.
„Propunem o schemă de stimulare bazată pe etape în care plățile prespecificate ar recompensa realizarea etape de siguranță verificabile”, explică brief-ul. „Schema ar folosi valori solide de siguranță și evaluare competitivă pentru a preveni jocurile, asigurând în același timp un progres semnificativ”.
Modelul propus ar rămâne neutru din punct de vedere tehnologic, permițând dezvoltatorilor să aleagă metode inovatoare pentru a îndeplini criteriile de siguranță. Valori pentru evaluare ar include acuratețea faptică, prevenirea vătămării și rezistența în cadrul testării contradictorii.
Un control public și independent ar asigura transparența, responsabilitatea și alinierea cu nevoile societății.
Implicarea publică și responsabilitatea
O piatră de temelie a propunerii este accentul pus pe participarea publică la testarea modelelor de IA, sau „. echipă roșie”, ar provoca aceste sisteme pentru a identifica vulnerabilitățile și a asigura robustețea.
„Este deosebit de important să se alinieze stimulentele tuturor părților implicate și să se asigure dispozitivele de coordonare necesare pentru eficientizare și eficacitate. echipă roșie”, subliniază documentul de politică, subliniind importanța procedurilor de validare colectivă.
Măsurile de transparență ar include dezvăluirea publică a rezultatelor evaluării, promovarea încrederii și permițând o înțelegere comună a potențialului și limitărilor IA generativă. Prin implicarea unei game variate de părți interesate, programul își propune să se asigure că inovațiile în materie de siguranță se aliniază cu așteptările societății.
Incorporarea propunerii în cadrele politice ale UE
programul propus bazat pe repere completează măsurile de reglementare existente ale UE, cum ar fi Legea AI și Directiva actualizată privind răspunderea pentru produse. Aceste cadre se concentrează în mare parte pe interzicerea aplicațiilor nesigure și pe impunerea de penalități pentru defecțiunile legate de siguranță.
Cu toate acestea, rezumatul politicii ZEW evidențiază un decalaj critic: inițiativele existente acordă prioritate adoptării și dezvoltării capacităților, mai degrabă decât promovarea directă a inovațiilor în materie de siguranță.
„UE declară, de asemenea, că dorește să încurajeze și să răsplătească dezvoltarea unei IA generative mai sigure cu diverse inițiative inițiate în ultimul mandat legislativ. Cu toate acestea, acestea par să fie mai concentrate pe promovarea adoptării AI generative în general, mai degrabă decât pe dezvoltarea IA generativă sigură în special”, explică rezumatul, indicând programe precum „GenAI4EU” și „Fabrici AI” ca exemple de eforturi care trec cu vederea provocările specifice siguranței.
Programul de inovare în IA generativă sigură ar adăuga o nouă dimensiune strategiei UE în domeniul IA, recompensând în mod explicit dezvoltatorii pentru atingerea unor etape semnificative de siguranță, reducând astfel decalajul dintre reglementare și inovație.
Echilibrarea siguranței și performanței
Una dintre provocările critice ale programului este abordarea compromisului între siguranță și alte dimensiuni de performanță ale IA generativă Cele mai sigure sisteme de inteligență artificială – cele care evită în întregime să genereze conținut potențial dăunător – ar fi, de asemenea, cele mai puțin funcționale.
Pentru a atinge un echilibru, programul de stimulare trebuie să acorde prioritate modelelor care îndeplinesc standarde înalte de siguranță. menținerea performanței competitive.
„O creștere a siguranței ar putea veni în detrimentul unei performanțe mai scăzute în alte dimensiuni. Pentru a ilustra acest punct: cea mai sigură IA generativă este cea care nu generează absolut nimic, dar este necesar un nivel competitiv de performanță pentru ca un model să fie de utilizare reală”, notează documentul de politică.
The programul ar folosi legile de extindere și alte căi de dezvoltare previzibile pentru a încuraja eficiența în integrarea siguranței și a performanței.
Construirea unui avantaj competitiv pentru Europa
Dincolo de obiectivul său imediat pe În ceea ce privește siguranța, propunerea își propune să consolideze poziția UE în peisajul global al inteligenței artificiale. În prezent, Europa este în urmă față de Statele Unite și China în ceea ce privește dezvoltarea generativă a inteligenței artificiale, doar câteva companii concurând pe scena internațională.
De. acordând prioritate siguranței, UE s-ar putea stabili ca lider în inovarea etică AI, o prioritate din ce în ce mai mare pentru consumatori și autoritățile de reglementare din întreaga lume.
„Programul de inovare a IA generativă sigură ar putea de asemenea, reactivați inovația AI în UE”, se arată în comunicat. „Prin crearea de stimulente clare pentru inovarea în materie de siguranță, acest program ar putea ajuta companiile europene să dezvolte un avantaj competitiv într-o dimensiune de piață din ce în ce mai importantă”.
Rezumatul subliniază, de asemenea, potențialul mai larg al mecanismelor de finanțare „pull”, invocându-le. succes în domenii precum dezvoltarea de vaccinuri și vehiculele autonome. Prin adaptarea acestor abordări la inteligența artificială generativă, UE ar putea deveni pionierul unui nou model de progres tehnologic responsabil.
Rezumatul de politică concluzionează: „Obiectivul principal ar trebui să rămână în centrul atenției, cu obiective secundare incluse doar dacă nu o fac. modificarea stimulentelor, pentru a evita „misiunea furișă””.
