No Brasil, quase 80% dos líderes de segurança em tecnologia reconhecem a necessidade de transformar suas práticas para enfrentar os desafios da era da IA, segundo o relatório da Salesforce. A pesquisa aponta que o elemento central dessa transformação é a adoção em larga escala de agentes de IA, que utilizam capacidades generativas para automatizar tarefas, detectar ameaças e realizar auditorias avançadas de desempenho de modelos. Atualmente, 46% das equipes de segurança no Brasil já utilizam esses agentes, e esse número deve saltar para 75% nos próximos dois anos, segundo os especialistas.
A pesquisa marcou um otimismo das lideranças em relação aos agentes de IA. Segundo os dados, todos os entrevistados identificaram ao menos uma atribuição de segurança que poderia ser aprimorada com o uso da tecnologia. Apesar disso, algumas barreiras relevantes ainda travam as jornadas de implementação nas empresas brasileiras. Quase metade (46%) dos entrevistados teme que sua base de dados ainda não esteja totalmente preparada para aproveitar o potencial máximo da IA generativa e 47% não estão totalmente confiantes de que contam com as salvaguardas necessárias para implementar os agentes de IA de maneira segura.
“Os agentes de IA têm o potencial de transformar a segurança digital, liberando equipes para focarem em desafios mais complexos. Enquanto cibercriminosos já incorporam IA no dia a dia, as empresas e profissionais de segurança podem usar essa tecnologia para o bem, automatizando tarefas manuais e aumentando a eficiência do trabalho. No entanto, é importante lembrar que a implementação da IA generativa exige um alicerce sólido de infraestrutura e governança de dados”, afirma Gabriel Dornella, Diretor Sênior de Engenharia de Soluções na Salesforce.
Tendências em segurança e IA
O estudo da Salesforce identificou outras tendências em segurança e IA. Em sua análise a preocupação com data poisoning aumentou, além de riscos já conhecidos, como ameaças à segurança na nuvem, malwares e ataques de phishing. Esse fenômeno acontece quando atores mal-intencionados comprometem os conjuntos de dados usados para treinar IA. A resposta a esse cenário já é visível com um aumento de recursos, com 74% das organizações brasileiras esperam ampliar seus orçamentos de segurança no próximo ano.
Incerteza com a regulação dificulta a implementação da IA
De acordo com os pesquisadores, embora quatro em cada cinco líderes de de TI (81%) acreditem que agentes de IA oferecem oportunidades para melhorar a conformidade, como o cumprimento de leis globais de privacidade, 73% afirma que esses agentes também têm desafios de conformidade. O cenário pode ser parcialmente atribuído a um ambiente regulatório complexo em torno da tecnologia (e que ainda está evoluindo). No Brasil, apenas 49% estão totalmente confiantes de que podem implementar agentes de IA em conformidade com as regulamentações locais, enquanto 83% dizem que ainda não automatizaram completamente seus processos de conformidade.
Governança de dados será central na era da IA generativa
Segundo a pesquisam, cerca de metade dos líderes brasileiros não têm certeza se possuem dados de qualidade para sustentar os agentes de IA ou se conseguiriam implementar a tecnologia com as permissões, políticas e salvaguardas necessárias. No entanto, há avanços uma pesquisa recente da Salesforce com CIOs revelou que os orçamentos dedicados a infraestrutura e gestão de dados foram quatro vezes maiores do que o dedicado a IA, um sinal de que as organizações estão inteligentemente construindo uma base para uma implementação mais robusta da tecnologia no futuro.
