A Faculdade, uma empresa britânica de inteligência artificial, garantiu contratos significativos com o governo do Reino Unido, levantando questões sobre as conexões políticas e os processos de aquisição da empresa. A empresa ganhou mais de £45 milhões em concursos públicos nos últimos três anos, incluindo um contrato de £1,5 milhões com o recém-criado AI Safety Institute (AISI) para testar tecnologias avançadas de IA.
Conexões políticas e controvérsia
Os laços estreitos da empresa com figuras políticas importantes geraram controvérsia, escreve Politico. Marc Warner, cofundador do corpo docente, é irmão de Ben Warner, ex-conselheiro de Boris Johnson e aliado de Dominic Cummings. O corpo docente ganhou atenção pela primeira vez como parceiro de ciência de dados para a campanha Vote Leave, que apoiou a saída do Reino Unido da UE. Desde então, a empresa tornou-se cada vez mais integrada no governo do Reino Unido, atraindo comparações com a empresa norte-americana Palantir, que também é especializada em contratos governamentais.
Os contratos recentes do corpo docente foram adjudicados sem licitação, uma prática que tem deixou alguns membros do parlamento desconfortáveis. O Politico cita Tim Clement-Jones, legislador liberal democrata e especialista em política tecnológica que expressou preocupação com as extensas conexões políticas da empresa. Clement-Jones afirmou que o corpo docente “parece estar conectado a todos”, destacando a necessidade de transparência nos processos de compras governamentais.
Segurança de IA e endosso do governo
O corpo docente capitalizou o foco do governo do Reino Unido na segurança de IA, especialmente sob o primeiro-ministro Rishi A administração de Sunak A empresa foi encarregada de testar a segurança de grandes modelos de linguagem (LLMs), um tipo de tecnologia de IA que inclui chatbots e outros sistemas generativos de IA. O trabalho do corpo docente revelou vulnerabilidades significativas nesses modelos, incluindo a facilidade com que supostas. as salvaguardas podem ser contornadas.
O Politico conversou com o CEO do corpo docente, Marc Warner, que enfatizou a importância da segurança da IA, defendendo uma abordagem híbrida que envolve testes do governo e do setor privado. As experiências de Warner com LLMs o levaram a. alertam que os atuais níveis de controle e percepção são insuficientes para garantir resultados seguros com sistemas de IA mais poderosos.
Posição do governo e perspectivas futuras
O governo do Reino Unido defendeu sua decisão de conceder contratos ao corpo docente sem concorrência, citando a experiência única da empresa em segurança de IA em uma longa resposta ao Politico. Um porta-voz do governo afirmou que o corpo docente foi “considerado o único fornecedor capaz de fornecer esses serviços altamente sensíveis e especializados no mercado emergente de IA”. No entanto, o especialista em compras públicas Albert Sanchez-Graells, da Universidade de Bristol, criticou esse raciocínio, argumentando que o governo não demonstrou adequadamente que nenhum outro fornecedor poderia atender aos requisitos.
