Segurança adaptativa levantou com sucesso US $ 43 milhões em financiamento para acelerar seu trabalho combatendo ameaças cibernéticas acionadas por IA, com um foco específico em defender contrafosos e ataques de engenharia social. Andreessen Horowitz (A16Z) , reflete a crescente urgência de as empresas investirem em medidas proativas de segurança cibernética à medida que a tecnologia de IA se torna mais sofisticada e acessível aos cibercriminosos. Esse investimento ocorre em um momento crítico, pois as ferramentas generativas de IA são cada vez mais armas em golpes on-line, roubo de identidade e esquemas fraudulentos. DeepFakes-imagens, áudio e vídeos de maneira alta e convincente-estão sendo usados para personificar indivíduos, manipular a opinião pública e enganar vítimas em transações fraudulentas. A presença de fagos de profundidade no cibercrime aumentou significativamente em 2023, contribuindo para 7% dos casos de fraude global, com um aumento de dez vezes nos incidentes detectados em relação ao ano anterior. Esses números alarmantes destacam a vulnerabilidade de indivíduos e empresas a fraude movida a IA.
Um dos aspectos mais preocupantes da tecnologia DeepFake é sua capacidade de permitir ataques de engenharia social. Nesses ataques, os cibercriminosos representam figuras confiáveis, usando a mídia convincente gerada pela IA para manipular as vítimas. A plataforma de segurança adaptativa foi projetada para abordar essa ameaça crescente, ajudando as organizações a detectar e neutralizar esses ataques antes de causar danos financeiros ou de reputação. Ao apoiar a segurança adaptativa, o OpenAI está se alinhando com os esforços para proteger o cibercrime, acionado por IA, uma área que continua sendo uma preocupação crescente para as empresas de tecnologia em todo o mundo. segurança cibernética. O Video Seal da Meta, uma estrutura de marca d’água de fonte aberta, incorpora identificadores invisíveis e resistentes a adulterações em vídeos gerados pela IA para autenticar sua origem. A solução da Meta complementa esforços como as iniciativas da Microsoft, que também incluíram ações legais contra os cibercriminosos que exploram a IA para gerar conteúdo nocivo, como vídeos do DeepFake. Esses vídeos falsos foram projetados para manipular alvos para divulgar informações confidenciais. Esse processo sublinha a crescente frequência de ameaças de segurança cibernética relacionadas à IA e a necessidade de as empresas adotarem defesas robustas contra tais ataques. A plataforma de segurança da Microsoft, por exemplo, recentemente se expandiu para incluir agentes de IA que automatizam a detecção de phishing, gerenciamento de vulnerabilidades e proteção de identidade. Esses agentes de IA fazem parte de uma tendência mais ampla em que as empresas estão aproveitando a IA não apenas para responder a ataques cibernéticos, mas também para antecipar e mitigar riscos potenciais. A plataforma da empresa pretende ensinar os funcionários a reconhecer ameaças movidas a IA antes de resultarem em perdas significativas. Essa abordagem proativa é crucial, pois as tecnologias de IA como os deepfakes continuam evoluindo e se tornam mais difíceis de detectar. Essas descobertas-como falhas encontradas em carregadores de botas que podem ser potencialmente explorados-claramente a necessidade de ferramentas orientadas a IA para identificar os riscos de que os métodos tradicionais de segurança cibernética podem ignorar. A plataforma usa a detecção baseada em IA para identificar rapidamente padrões que podem indicar violações em potencial, permitindo que as empresas reajam prontamente. Uma onda global no cibercrime, do sudeste da Ásia à Europa, levantou alarmes sobre o alcance e a sofisticação dessas ameaças. Somente no sudeste da Ásia, os cibercriminosos exploraram as tecnologias de IA para perpetrar a fraude que totalizou US $ 37 bilhões em 2023.
Os governos e empresas de tecnologia estão começando a reconhecer a urgência de abordar esses riscos. Em 2024, a Europol alertou que o conteúdo gerado pela IA está complicando os esforços para combater o crime organizado, observando o crescente uso da IA para exploração infantil e fraude financeira. Isso destaca a necessidade de ação unificada em toda a indústria de tecnologia para garantir que as tecnologias de IA sejam usadas com responsabilidade, além de defender aqueles que procuram explorá-los para fins maliciosos. Ataques gerados pela IA. Com o apoio do Openai, a segurança adaptativa está posicionada para liderar a acusação no combate a essas ameaças emergentes. A plataforma da empresa, que simula a DeepFake ataca e treina os funcionários para reconhecer ameaças orientadas pela IA, é uma parte essencial do futuro da segurança cibernética. Para ficar à frente desses riscos, as empresas precisarão investir em ferramentas de segurança cibernética de ponta que possam se adaptar a ameaças novas e emergentes. A colaboração entre a segurança aberta e adaptativa é uma etapa na direção certa, mas será essencial para a indústria continuar inovando e trabalhando juntos para lidar com o cenário de ameaças em rápida evolução. de segurança cibernética. À medida que empresas como a segurança adaptativa aumentam seus esforços para combater essas ameaças, torna-se evidente que uma estratégia de defesa de várias camadas e orientada pela IA será essencial para salvaguardar contra a nova geração de crime cibernético. À medida que a tecnologia de IA continua evoluindo rapidamente, as empresas precisarão permanecer ágeis, adotando novas medidas de segurança e refinando continuamente suas defesas para acompanhar as ameaças. A colaboração entre empresas de IA e startups de segurança cibernética é crucial para o desenvolvimento de mecanismos de defesa mais sofisticados e proativos, garantindo que as empresas não apenas respondam, mas também antecipam as táticas cada vez mais sofisticadas empregadas por cibercriminosos. No entanto, com o potencial da IA para bons e danos, fica claro que a batalha pela segurança digital está apenas começando. À medida que olhamos para o futuro, a chave garantirá que a mesma tecnologia que impulsiona a inovação também possa ser aproveitada efetivamente para salvaguardar contra a onda crescente de crimes cibernéticos acionados por IA.