A Microsoft anunciou uma atualização planejada para sua plataforma Microsoft Purview, com o objetivo de abordar a crescente preocupação com as ameaças à segurança cibernética impulsionadas pela IA. A atualização, programada para visualização em julho de 2024 e disponibilidade geral em setembro 2024, significa o reconhecimento da IA pela Microsoft como um risco potencial à segurança que requer controles rigorosos.
Compreendendo o uso arriscado da IA
O termo “arriscado O uso de IA”abrange atividades intencionais e não intencionais que podem colocar em risco a segurança de uma organização. Isso inclui a geração de dados de arquivos ou sites confidenciais e o uso de IA para criar prompts ou respostas contendo informações confidenciais. A próxima atualização do Microsoft Purview visa estender sua cobertura não apenas aos Microsoft Copilots, mas também a aplicativos generativos de IA de terceiros, aprimorando a capacidade da plataforma de detectar automaticamente ameaças cibernéticas relacionadas à IA, como roubo de propriedade intelectual, vazamento de dados e violações de segurança.
Recursos aprimorados e privacidade do usuário
A atualização do Microsoft Purview foi projetada para reforçar o gerenciamento de riscos internos, permitindo que os administradores identifiquem o uso arriscado de IA em suas organizações. A plataforma incorporará novos recursos de detecção para atividades de risco interno intencionais e não intencionais relacionadas a aplicativos generativos de IA.
Este desenvolvimento surge na sequência de um relatório divulgado pela Microsoft, em parceria com a OpenAI, que destacou o uso de IA por agentes maliciosos de países como Rússia, Irão, China e Coreia do Norte lançará ataques cibernéticos. Os parceiros neutralizou com sucesso ameaças representadas por cinco grupos de hackers que se acredita serem patrocinados por estados-nação. Essas entidades vinham explorando os grandes modelos de linguagem (LLMs) da OpenAI para reforçar suas atividades cibernéticas, marcando um avanço significativo no uso de IA generativa para ataques cibernéticos.
Além disso, a Microsoft enfatiza a abordagem de privacidade por design do Purview, garantindo que os usuários sejam pseudonimizados por padrão e que controles de acesso baseados em funções e logs de auditoria sejam implementados para manter a privacidade do usuário. A atualização também visa agilizar diversos processos, como integração de novos dispositivos e acesso a soluções de segurança de dados, governança e conformidade por meio de um portal unificado.
