A Microsoft atualizou recentemente sua política para proibir os EUA departamentos de polícia utilizem IA generativa para fins de reconhecimento facial por meio de seu serviço Azure OpenAI. O Azure OpenAI Service, um conjunto abrangente de nível empresarial construído em torno das tecnologias da OpenAI, agora inclui linguagem em seus termos de serviço que proíbe explicitamente o uso de seus recursos para tarefas de reconhecimento facial “por ou para” departamentos de polícia nos Estados Unidos. inclui qualquer integração com os modelos avançados de análise de texto e fala da OpenAI.
Restrições globais e isenções específicas
A revisão da política se estende além das fronteiras dos Estados Unidos. Os Estados abrangerão as agências de aplicação da lei em todo o mundo, proibindo especificamente a implantação de “tecnologia de reconhecimento facial em tempo real” em dispositivos móveis, como câmeras corporais e dashcams. O objetivo é evitar a identificação de indivíduos em ambientes não controlados. No entanto, a proibição não se aplica ao reconhecimento facial realizado com câmeras estacionárias em ambientes controlados, como um escritório, embora ainda restrinja quaisquer esforços de reconhecimento facial por parte dos departamentos de polícia dos EUA.
Esta medida surge na sequência de preocupações levantadas sobre um novo produto da Axon, conhecido por fabricar tecnologia e armamento para militares e policiais, que aproveita o modelo GPT-4 da OpenAI para resumir o áudio das câmeras corporais. Os críticos destacaram possíveis problemas, como a geração de informações imprecisas por modelos de IA e a introdução de preconceitos raciais a partir de dados de treinamento, o que é particularmente preocupante dada a taxa desproporcional com que pessoas de cor são paradas pela polícia.
Posição em evolução da Microsoft e da OpenAI em relação à IA e à aplicação da lei
Os termos atualizados refletem uma mudança mais ampla na abordagem da Microsoft e da OpenAI em relação ao papel da IA na aplicação da lei e nos contratos de defesa. Apesar das reservas anteriores da OpenAI sobre o fornecimento das suas tecnologias de IA a organizações militares, relatórios recentes revelaram colaborações com o Pentágono em projectos de segurança cibernética, entre outros. Da mesma forma, a Microsoft propôs o uso da ferramenta de geração de imagens da OpenAI, DALL-E, para desenvolver software para apoiar as operações do Departamento de Defesa.
O Azure OpenAI Service foi introduzido na oferta Azure Government da Microsoft em fevereiro, projetado para atender as necessidades específicas das agências governamentais, incluindo a aplicação da lei, com recursos aprimorados de conformidade e gerenciamento. A vice-presidente sênior da Microsoft Federal, Candice Ling, garantiu que o serviço passará por novos processos de autorização para sua implantação em missões do DoD.
Após a publicação da atualização da política, a Microsoft esclareceu que um erro nos termos de serviço originais foi corrigido, afirmando que a proibição do reconhecimento facial se aplica exclusivamente aos EUA e não é uma proibição geral do uso do serviço.
