Da mesma forma que outros setores das empresas, a Cibersegurança direciona suas atenções para incluir a IA agêntica em suas estruturas no próximo biênio. Todavia, segundo aponta a pesquisa “State of IT 2025”, da Salesforce, os grandes desafios das Lideranças envolvem, em especial, governança e conformidade dos dados para garantir decisões precisas da tecnologia.
O estudo consultou 2.138 tomadores de decisão ligados à Segurança, privacidade e compliance das organizações, incluindo 100 deles atuantes no Brasil. Entre os líderes brasileiros, 46% apontam já terem implementado o uso de agentes de IA em seus processos, e essa taxa deve aumentar para 75% nos dois anos adiante.
Todavia, também 46% dos entrevistados disseram temer que sua base de dados não esteja pronta para aproveitar todo o potencial da tecnologia, e 47% dizem não contar com as salvaguardas essenciais para garantir Segurança no uso da IA. O estudo reforça que a confiança nos processos e nos profissionais envolvidos com essas atividades são fatores essenciais para que os planejamentos de aplicação da tecnologia deem resultado.
“A Segurança de dados tomou uma posição central no contexto de IA. Isso porque, hoje, os líderes de Segurança precisam garantir proteção para essa tecnologia, ao mesmo tempo em que precisam habilitar inovações em todos os departamentos da companhia, em um momento que a Inteligência de máquina e automação são mandatórias para permanecer competitivo no mercado”, acrescenta o estudo, em sua introdução.
Os profissionais citam no estudo como preocupação importante risco de envenenamento de dados usados nas ferramentas agênticas, pois a inclusão de informações inconsistentes nas plataformas podem levar a tomadas de decisões ruins por parte da IA. A pesquisa recomenda que sejam tomadas ações imediatas com vistas a garantir uma base estratégica adequada para sustentar o uso desses recursos.
Uma delas é costurar trabalhos conjuntos de governança e privacidade com setores responsáveis pela gestão de dados da companhia. O objetivo conjunto é ampliar a visibilidade sobre a quantidade e qualidade desses registros, e, a partir disso, buscar restringir ao que é crítico para eventuais ferramentas agênticas. Além disso, promover automatização dos processos de conformidade, um desafio para 83% dos líderes entrevistados, também é um passo importante a ser dado.
“Os agentes de IA têm o potencial de transformar a segurança digital, liberando equipes para focarem em desafios mais complexos ao automatizar tarefas manuais e aumentando a eficiência do trabalho de empresas e profissionais de Segurança. No entanto, é importante lembrar que a implementação da IA generativa exige um alicerce sólido de infraestrutura e governança de dados”, afirma Gabriel Dornella, Diretor Sênior de Engenharia na Salesforce.
Oportunidades dos agentes de IA
O estudo “State of IT” também ressalta que, enquanto 79% dos líderes de SI no mundo acreditam que a IA agêntica traz novos desafios ao setor, 80% deles também creem que a tecnologia trará também novas oportunidades. Nesse sentido, os tomadores de decisão consultados pela pesquisa esperam que os agentes de IA poderão atuar em diversos setores, como mitigação de vieses, detecção de ameaças e automação de compliance:
- Detecção e resposta a ameaças: sinalização de atividades incomuns e coordenação da correção de incidentes com o mínimo de atraso.
- Identificação de vieses em modelos: auditoria contínua de modelos de IA em busca de vieses e vulnerabilidades, garantindo imparcialidade e confiabilidade.
- Automação da conformidade: acompanhamento da adesão às políticas em todos os sistemas, reduzindo a supervisão manual.
“Transferir tarefas repetitivas ou de grande volume para a IA agêntica, mantendo-se confiante sobre o sucesso desse recurso, é uma mudança essencial, em um tempo que as ameaças se proliferam mais rapidamente do que a maioria das equipes de Segurança consegue acompanhar”, conclui a análise.
