Faculty, una empresa británica de inteligencia artificial, ha conseguido importantes contratos con el gobierno del Reino Unido, lo que plantea dudas sobre las conexiones políticas y los procesos de adquisición de la empresa. La empresa ha recibido más de £45 millones en licitaciones públicas durante los últimos tres años, incluido un contrato de £1,5 millones con el el recién creado AI Safety Institute (AISI) para probar tecnologías avanzadas de IA.
Conexiones políticas y controversia
Los estrechos vínculos de la empresa con figuras políticas clave han generado controversia, escribe Politico. Marc Warner, cofundador de la facultad, es hermano de Ben Warner, ex asesor de Boris Johnson y aliado de Dominic Cummings. Los profesores llamaron la atención por primera vez como socios científicos de datos para la campaña Vote Leave, que apoyó la salida del Reino Unido de la UE. Desde entonces, la empresa se ha integrado cada vez más dentro del gobierno del Reino Unido, lo que generó comparaciones con la empresa estadounidense Palantir, que también se especializa en contratos gubernamentales.
Los contratos recientes de la facultad se han adjudicado sin licitación competitiva, una práctica que ha dejó incómodos a algunos parlamentarios. Politico cita a Tim Clement-Jones, un legislador liberal demócrata y experto en políticas tecnológicas que expresó su preocupación por las amplias conexiones políticas de la empresa. Clement-Jones afirmó que la facultad”parece estar conectada con todos”, destacando la necesidad de transparencia en los procesos de contratación pública.
Seguridad de la IA y respaldo gubernamental
La facultad ha capitalizado el enfoque del gobierno del Reino Unido en la seguridad de la IA, particularmente bajo el primer ministro Rishi. La administración de Sunak ha recibido la tarea de probar la seguridad de los grandes modelos de lenguaje (LLM), un tipo de tecnología de inteligencia artificial que incluye chatbots y otros sistemas de inteligencia artificial generativos. El trabajo de la facultad ha revelado vulnerabilidades significativas en estos modelos, incluida la facilidad con la que se supone. se pueden eludir las salvaguardias.
Politico habló con el director ejecutivo de la facultad, Marc Warner, quien enfatizó la importancia de la seguridad de la IA y abogó por un enfoque híbrido que involucre pruebas tanto del gobierno como del sector privado. Advierte que los niveles actuales de control y conocimiento son insuficientes para garantizar resultados seguros con sistemas de IA más potentes.
Posición del gobierno y perspectivas futuras
El gobierno del Reino Unido ha defendió su decisión de adjudicar contratos a la facultad sin competencia, citando la experiencia única de la empresa en seguridad de IA en una larga respuesta a Politico. Un portavoz del gobierno afirmó que se”consideraba que la Facultad era el único proveedor capaz de ofrecer estos servicios altamente sensibles y especializados en el nuevo mercado emergente de la IA”. Sin embargo, el especialista en adquisiciones públicas Albert Sánchez-Graells de la Universidad de Bristol ha criticado este razonamiento, argumentando que el gobierno no ha demostrado adecuadamente que ningún otro proveedor pueda cumplir con los requisitos.
