Meta ha svelato un cambiamento significativo nel suo approccio all’intelligenza artificiale (AI) con il lancio di Frontier AI Framework , una politica volta a controllare il rilascio di sistemi AI ad alto rischio.
Il nuovo framework introduce limiti chiari che possono impedire il rilascio di modelli AI considerati troppo pericolosi per essere made publicly available, signaling a departure from Meta’s previous strategy of open access. Il nuovo approccio arriva quando le preoccupazioni di montaggio dei meta volti per il potenziale uso improprio delle sue potenti tecnologie di intelligenza artificiale, come i modelli Llama.
Storicamente, Meta ha adottato un approccio relativamente aperto all’intelligenza artificiale, rendendo i suoi modelli ampiamente accessibili. Tuttavia, questa apertura ha comportato conseguenze non intenzionali, con rapporti che suggeriscono che gli attori contraddittori hanno riproposto questi modelli per scopi dannosi, come lo sviluppo di chatbot orientati alla difesa non autorizzati.
These security concerns have led Meta to reconsider its AI deployment strategy. Introducendo il framework di AI Frontier, Meta mira a frenare i rischi associati al rilascio di sistemi di intelligenza artificiale che potrebbero essere utilizzati per scopi dannosi. Meta scrive,
“Attraverso questo quadro, darà la priorità a mitigare il rischio di danni catastrofici, garantendo che i nostri modelli non siano utilizzati per scopi dannosi non intenzionali pur consentendo progressi e innovazioni.”
Framework AI basato sul rischio di Meta: ad alto rischio vs. critico a rischio
Il framework di AI di frontiera classifica i sistemi di intelligenza artificiale in due categorie distinte: ad alto rischio e a rischio critico. Entrambe le categorie sono definite dal potenziale danno che questi modelli potrebbero causare se sfruttati, ma la distinzione sta nella gravità delle loro conseguenze.
I modelli ad alto rischio potrebbero facilitare attività dannose come violazioni della sicurezza informatica o assistere nella creazione di pericolosi agenti biologici o armi. La creazione di armi biologiche o un attacco informatico su vasta scala su infrastrutture critiche.
La decisione di Meta di limitare l’accesso ai sistemi ad alto rischio fino a quando non sono implementate le garanzie appropriate è un passo cruciale nel bilanciare l’innovazione dell’intelligenza artificiale con la sicurezza. Come sottolinea l’azienda,”riteniamo che considerando sia i benefici che i rischi nel prendere decisioni su come sviluppare e distribuire l’IA avanzata Mantenere un livello adeguato di rischio.”
Il passaggio di Meta lontano dall’accesso aperto a AI
La nuova strategia di Meta rappresenta un perno significativo dalla sua posizione precedente su Open L’intelligenza artificiale. Gli attori esterni per scopi non intenzionali e potenzialmente dannosi, come lo sviluppo di strumenti difensivi che potrebbero essere sfruttati per fini dannosi.
Per uno sguardo dettagliato alla precedente stratgia ad accesso aperto e alle sfide incontrate Meta, controlla i nostri articoli su ciò che Meta non ti sta dicendo sui modelli”open source”e la definizione di intelligenza artificiale open source dall’iniziativa open source.
Con il nuovo framework di AI Frontier, Meta sta adottando un approccio molto più cauto, afferma che”non stiamo chiudendo la porta sul futuro dell’intelligenza artificiale ad accesso aperto, ma dobbiamo assicurarci di mettere il diritto meccanismi in atto per prevenire l’uso improprio della tecnologia che potrebbe essere dannoso per la società in generale.”
Per raggiungere questo obiettivo, il framework non solo classifica i modelli di intelligenza artificiale per livello di rischio, ma fornisce anche un chiaro processo per determinare quanto alto-Il Modelli di rischi verranno gestiti.
I sistemi ad alto rischio saranno limitati all’accesso interno, con ulteriori garanzie messe in atto prima della distribuzione più ampia. I modelli a rischio critico dovranno affrontare controlli ancora più rigorosi, tra cui un completo arresto dello sviluppo fino a quando non potranno essere rielaborati per mitigare i loro potenziali pericoli.
L’approccio di Meta è in contrasto con quello di alcuni dei suoi concorrenti. Mentre aziende come Openai hanno optato per un accesso più controllato ai loro modelli, il passaggio di Meta verso la limitazione dell’accesso riflette ulteriormente le crescenti preoccupazioni sull’abuso di AI.
AI ad alto rischio vs. critico: cosa Significa che per lo sviluppo dell’IA di Meta
La differenziazione di Meta tra sistemi di intelligenza artificiale ad alto rischio e critico è fondamentale per comprendere come la società navigherà nello sviluppo e nello spiegamento dei suoi modelli.
High-risk AI systems, as defined by Meta, could facilitate cyberattacks or assist in the creation of harmful biological agents. Tuttavia, il potenziale impatto di questi modelli sarebbe probabilmente meno grave dei sistemi a rischio critico, che sono in grado di causare danni incontrollabili e diffusi.
Questi sistemi a rischio critico potrebbero avere conseguenze catastrofiche, come abilitare i Proliferazione di armi biologiche o causando disturbi significativi nelle infrastrutture critiche.
stabilendo questa distinzione, Meta sta creando un framework che aiuta a gestire i rischi di intelligenza artificiale in modo più efficace. Come osserva Meta, la decisione di rilasciare un particolare modello di intelligenza artificiale verrà presa considerando sia i suoi potenziali benefici che i suoi rischi.
Mentre Meta è impegnata nel rilascio aperto dei suoi sistemi AI, la società riconosce che il I rischi associati a potenti strumenti di intelligenza artificiale devono essere ponderati con cura prima di qualsiasi distribuzione.
Perché Meta sta implementando queste restrizioni ora
L’introduzione dei segni di Frontier AI Framework a turning point for Meta. Mentre la società è stata una sostenitrice dell’apertura e dell’accessibilità nello sviluppo dell’IA, la sua decisione di attuare controlli più severi arriva in un momento in cui i rischi associati alle tecnologie AI sono diventati più evidenti.-Il Modello di accesso riflette preoccupazioni del settore più ampie sulla sicurezza dei sistemi AI avanzati, illustrati dalla recente versione del sistema di salvaguardia AI di Antropic, chiamato Classificatori costituzionali , che è progettato per filtrare sia i suggerimenti in arrivo che le risposte generate dall’IA.
sembra esserci un consenso in crescita, che, poiché la tecnologia AI diventa più potente e pervasiva, i rischi associated with its misuse increase.
Ad esempio, i rapporti di attori stranieri che utilizzano i modelli di Meta per scopi relativi alla difesa evidenziano i pericoli del rilascio di modelli di intelligenza artificiale senza sufficienti garanzie. Istituzioni di ricerca legate all’esercito della liberazione popolare della Cina (PLA) ha sviluppato uno strumento di intelligenza artificiale chiamato”chatbit”utilizzando il Llama disponibile pubblicamente di Meta Modello.
Introducando il framework di AI Frontier, Meta lo riconosce can foster innovation, it can also leave the door open to potentially harmful applications of the technology
