O Os Estados Unidos, o Reino Unido e 16 outras nações forjaram um acordo histórico com o objetivo de proteger a inteligência artificial (IA) contra ameaças de atores mal-intencionados. Lançado em 27 de novembro, o documento de 20 páginas fornece princípios orientadores que incentivam o desenvolvimento e a utilização da IA de uma maneira que priorize a segurança pública e a segurança do cliente.
Secure AI by Design
Focando no conceito de “segurança desde a concepção”, o acordo enfatiza a importância de integrar medidas de segurança em todo o processo de concepção da IA. Jen Easterly, diretora da Agência de Segurança Cibernética e de Infraestrutura dos EUA, disse à Reuters sobre a importância de alinhar-se com a noção de que os sistemas de IA devem priorizar a segurança desde o início.
O governo do Reino Unido anunciou as diretrizes juntamente com o primeiro diretrizes para garantir o desenvolvimento seguro da tecnologia de IA. As diretrizes incentivam as empresas a monitorar rigorosamente a IA em busca de possíveis abusos, proteger a integridade dos dados e avaliar minuciosamente as práticas de segurança dos fornecedores de software. Embora o acordo não seja vinculativo e ofereça principalmente recomendações amplas, ele marca um passo substancial em direção à cooperação internacional em segurança de IA.
Além da segurança: cenário regulatório e desafios
A estrutura colaborativa aborda como defender tecnologias de IA contra ataques de hackers e sugere que os modelos de IA devem apenas ser liberado após avaliações de segurança satisfatórias. No entanto, o documento não aborda questões mais profundas, como a implantação ética da IA ou os processos envolvidos na recolha de dados para modelos de IA. Estas preocupações, que vão desde a perturbação democrática à fraude e à potencial deslocação de empregos, continuam a ser relevantes à medida que a influência da IA cresce na sociedade.
As nações europeias estão atualmente a liderar o ataque à regulamentação da IA. França, Alemanha e Itália alcançaram um consenso que apoia a autorregulação obrigatória através de códigos de conduta, especialmente para modelos fundamentais de IA que geram diversos resultados. Em contraste, os Estados Unidos ainda aguardam progressos na legislação sobre IA, apesar das iniciativas da Casa Branca que visam mitigar os riscos da IA e promover a segurança nacional.
Este esforço internacional reflecte vários esforços anteriores para moldar a trajectória da IA. Desenvolvimento da IA a nível mundial, embora muitas iniciativas anteriores careçam de mecanismos de aplicação. À medida que o mundo enfrenta cada vez mais o impacto generalizado da IA, este acordo estabelece uma referência para discussões futuras e potenciais regulamentações no domínio da IA.
