Em uma medida para combater o possível uso indevido de tecnologias de inteligência artificial (IA), a Microsoft e o Google anunciaram o seu compromisso de implementar novas medidas de segurança infantil nos seus serviços generativos de IA. Esses compromissos são assumidos em colaboração com Thorn, uma organização sem fins lucrativos dedicada ao combate ao abuso sexual infantil, e All Tech Is Human, uma iniciativa que visa promover um ecossistema tecnológico responsável.
Os anúncios sublinham a dedicação da indústria tecnológica à inovação ética e à proteção de crianças vulneráveis. da exploração e do abuso sexual. Amazon, Anthropic, Civitai, Meta, Metaphysic, Mistral AI, OpenAI e Stability AI também se comprometeram com a iniciativa.
Medidas Proativas da Microsoft
A Microsoft delineou a sua estratégia para prevenir a exploração de crianças através das suas tecnologias de IA. A empresa afirma que desenvolverá modelos generativos de IA que não sejam treinados em conjuntos de dados contendo material de abuso sexual infantil. Além disso, a Microsoft compromete-se a proteger ativamente estes modelos contra exposição ou geração de tal conteúdo pós-lançamento. Em seu postagem no blog, a Microsoft enfatiza a importância deste compromisso como um passo crítico na prevenção do uso indevido de tecnologias de IA para criar ou disseminar material de abuso sexual infantil (AIG-CSAM) e outras formas de dano sexual contra crianças.
Esforços dedicados do Google
Da mesma forma, o Google detalhou sua abordagem para melhorar a segurança infantil em seus serviços de IA. A empresa destaca a existência de uma equipe especializada encarregada de identificar conteúdos que possam indicar que uma criança está em perigo. O Google emprega uma estratégia multifacetada para detectar e remover conteúdo relacionado ao abuso e exploração sexual infantil, aproveitando a tecnologia de correspondência de hash, classificadores de inteligência artificial e análises humanas para garantir a eficácia de seus esforços. Além disso, o Google expressou seu apoio a vários projetos de lei no Congresso dos EUA que visam reforçar a proteção das crianças contra abuso e exploração.
