Qual o futuro da Cibersegurança na era da Inteligência Artificial Generativa e Agêntica? O World Economic Forum (WEF) buscou responder essa questão a partir do estudo “Empowering Defenders: AI for Cybersecurity”, lançado em parceria com a consultoria KPMG. O paper advoga que, diante das aceleradas mudanças tecnológicas do ciberespaço, a SI precisará endereçar, no tempo adequado, cada um dos usos da IA para reequilibrar o jogo.
O estudo relembra, nesse sentido, que a Inteligência Artificial se tornou uma necessidade estratégica devido à alguns fatores essenciais: o crescimento do conflito assimétrico entre agentes de ameaça – amplos usuários de LLMs maliciosas – alimentados pela IA; crescimento dos ecossistemas digitais e de sua superfície de riscos; e a expansão do gap de talentos em Segurança, que se torna um déficit ainda mais crítico em tempos de aceleração operacional.
“A IA já não é uma inovação secundária. Ela está redefinindo a Segurança Cibernética ao possibilitar recursos avançados de defesa, criar requisitos para proteger sistemas e ampliar as ferramentas à disposição dos adversários. os avanços na área defensiva estão ocorrendo paralelamente a um ambiente de ameaças em rápida evolução, no qual os adversários atuam cada vez mais à velocidade das máquinas”, reforça o estudo.
Com isso, o WEF reuniu diversas aplicações da Inteligência Artificial nos ofícios da Cyber Security, considerando como mapa orientativo às seis funcionalidades do Cybersecurity Framework 2.0 do NIST: Governar, identificar, proteger, detectar, responder e recuperar. Assim, para o estudo, cada uma dessas grandezas pode se aperfeiçoar a partir da aplicação da IA, desde usos reconhecidamente aplicados até utilidades ainda experimentais, mas promissoras.
Em relação à Governança, por exemplo, a IA já é capaz de reduzir custo de auditoria, aumentar rastreabilidade e melhorar decisões baseadas em risco. Isso inclui automação de compliance regulatório, validação contínua de políticas e gestão de riscos de terceiros. Já na identificação de riscos e inteligência de ameaças, há maior maturidade prática com a relação automatizada de threat intel e simulação constante de incidentes baseado em vulnerabilidades priorizadas.
Ainda de acordo com o estudo do órgão, a IA também viabiliza o deslocamento da SI para as fases de desgin e desenvolvimento de projetos, ampliando conceitos de Security-by-design e DevSecOps para proteger de falhas de configuração com detecção precoce. Em um contexto semelhante, também é possível ampliar as análises avançadas de malware e possibilidades de phishing, com maior escala e precisão.
Por fim, nos casos de resposta e recuperação, se destacam a capacidade de orquestração da triagem, investigação de incidentes e contenção com escala de eventuais ameaças detectadas, além de possibilidades, ainda incipiente, de simulação de cenários de interrupção sistêmica e atualização de planos de recovery. O grande desafio, no caso desses tópicos, está em preservar a presença humana em atividades ainda críticas demais para plena automação.
Reforço do “human-in-the-loop”
O alerta sobre a presença humana no uso da IA, inclusive, abre espaço para que o estudo reforce um alerta sempre presente na vida dos CISOs: antes de investir em IA para a Segurança Cibernética, os executivos devem enfatizar que autonomia deve ser proporcional ao risco e à reversibilidade da ação, exigindo novos modelos de controle e accountability. Além disso, é preciso ter clareza sobre os resultados comerciais que se espera que a IA proporcione.
“A IA não deve ser adotada apenas por si só, mas como um recurso capaz de acelerar prioridades como resiliência operacional, conformidade regulatória, confiança do cliente e eficiência de custos. Sem objetivos claros, as iniciativas de IA correm o risco de ficar desalinhadas com as prioridades estratégicas, o que pode impedir a obtenção do apoio da alta administração e, em última instância, do financiamento”, conclui o WEF.
