Faculty, una società britannica di intelligenza artificiale, si è assicurata importanti contratti con il governo del Regno Unito, sollevando interrogativi sui collegamenti politici dell’impresa e sui processi di approvvigionamento. Negli ultimi tre anni la società si è aggiudicata oltre 45 milioni di sterline in gare pubbliche, compreso un contratto da 1,5 milioni di sterline con il AI Safety Institute (AISI) di nuova costituzione per testare tecnologie IA avanzate.
Connessioni politiche e controversie
Gli stretti legami dell’azienda con figure politiche chiave hanno suscitato polemiche, scrive Politico. Marc Warner, co-fondatore della Facoltà, è il fratello di Ben Warner, ex consigliere di Boris Johnson e alleato di Dominic Cummings. La facoltà ha inizialmente attirato l’attenzione come partner di data science per la campagna Vote Leave, che ha sostenuto l’uscita del Regno Unito dall’UE. Da allora, l’azienda è diventata sempre più integrata all’interno del governo britannico, paragonabile all’azienda statunitense Palantir, anch’essa specializzata in contratti governativi.
I recenti contratti della Facoltà sono stati assegnati senza gare d’appalto, una pratica che ha ha lasciato a disagio alcuni parlamentari. Politico cita Tim Clement-Jones, un parlamentare liberaldemocratico ed esperto di politiche tecnologiche che ha espresso preoccupazione per gli ampi legami politici dell’azienda. Clement-Jones ha affermato che la Facoltà”sembra essere connessa a tutti”, evidenziando la necessità di trasparenza nei processi di appalto pubblico.
Sicurezza dell’IA e approvazione del governo
La Faculty ha sfruttato l’attenzione del governo britannico sulla sicurezza dell’IA, in particolare sotto il Primo Ministro Rishi L’amministrazione di Sunak. La società è stata incaricata di testare la sicurezza dei modelli linguistici di grandi dimensioni (LLM), un tipo di tecnologia di intelligenza artificiale che include chatbot e altri sistemi di intelligenza artificiale generativa. Il lavoro della Facoltà ha rivelato vulnerabilità significative in questi modelli, inclusa la facilità con cui si suppone le misure di salvaguardia possono essere aggirate.
Politico ha parlato con il CEO della Facoltà Marc Warner, che ha sottolineato l’importanza della sicurezza dell’intelligenza artificiale, sostenendo un approccio ibrido che coinvolga test sia del settore pubblico che di quello privato, come lo hanno portato le esperienze di Warner con gli LLM attenzione che gli attuali livelli di controllo e intuizione non sono sufficienti per garantire risultati sicuri con sistemi di intelligenza artificiale più potenti.
Posizione del governo e prospettive future
Il governo del Regno Unito ha ha difeso la sua decisione di aggiudicare contratti alla Facoltà senza concorrenza, citando la competenza unica dell’azienda nella sicurezza dell’intelligenza artificiale in una lunga risposta a Politico. Un portavoce del governo ha dichiarato che Faculty è stato”giudicato come l’unico fornitore in grado di fornire questi servizi altamente sensibili e specialistici nel mercato emergente dell’intelligenza artificiale”. Tuttavia, lo specialista in appalti pubblici Albert Sanchez-Graells dell’Università di Bristol ha criticato questa logica, sostenendo che il governo non ha adeguatamente dimostrato che nessun altro fornitore potrebbe soddisfare i requisiti.
