Existem quatro ameaças críticas e imprevisíveis nas quais os atacantes detêm vantagem significativa sobre as empresas, de acordo com o Gartner. O levantamento Gartner ThreatScape aponta que deepfakes, comprometimento de aplicações de Inteligência Artificial (IA), injeção de prompts e falhas na cadeia de suprimentos de software exigem atenção imediata.
Essas áreas demandam que líderes priorizem investimentos estratégicos, mesmo diante de limitações de recursos. “A introdução de iniciativas de segurança por empresas de ponta de IA gera ruído em um cenário já bastante agitado. Os líderes devem ser capazes de identificar os sinais em meio ao ruído para responder às mudanças”, afirma John Watts, Vice-Presidente Analista do Gartner.
O comprometimento de aplicações de IA cresce porque os atacantes visam ferramentas corporativas em produção. A superfície de ataque se expandiu para agentes personalizados e integrações que expõem dados sensíveis. “As equipes de Segurança precisam expandir seus programas para além das proteções tradicionais, mapeando novas superfícies introduzidas por GenAI ou ferramentas agênticas”, diz Watts. Ele recomenda usar o framework TRiSM para incorporar mitigações desde o desenvolvimento.
Os CISOs devem aplicar modelagem de ameaças e o ciclo de vida seguro a essas aplicações, além de adotar controle de acesso baseado em propósito (PBAC). Esse cuidado se estende aos deepfakes, impulsionados pela GenAI em voz e vídeo em tempo real. “O uso de deepfakes por atacantes tornou fraudes difíceis de detectar”, alerta Watts. “As organizações devem combinar o fortalecimento de processos, conscientização e tecnologias de detecção.” É essencial proteger a biometria e reuniões online com autenticação forte.
A IA também acelera os ataques à cadeia de suprimentos de software por meio de códigos abertos. “As organizações devem criar registros confiáveis de componentes, fortalecer seus pipelines de CI/CD e desenvolver respostas a anomalias operacionais”, afirma Watts. Para mitigar o risco, os CISOs precisam exigir listas de materiais de software (SBOMs) e de IA (AIBOMs) de seus fornecedores, além de utilizar repositórios curados com privilégios mínimos de acesso.
Por fim, a injeção de prompts manipula sistemas de IA e Grandes Modelos de Linguagem (LLMs) para vazar dados ou contornar regras. Para combater essa ameaça crítica, as equipes de Cibersegurança devem adotar uma estratégia de mitigação em camadas. Isso envolve implementar a validação e sanitização de entradas para filtrar comandos maliciosos, estabelecer alertas para comportamentos anormais do sistema e integrar testes de injeção de prompts diretamente no ciclo de vida de desenvolvimento da tecnologia.
