Por Eduardo Gonçalves*
Durante anos, a discussão sobre inteligência artificial esteve concentrada na evolução dos modelos, no aumento de capacidade computacional e na precisão estatística dos algoritmos. Mas o principal desafio para as empresas deixou de estar apenas na matemática dos modelos e passou a surgir quando sistemas probabilísticos começam a interagir diretamente com ambientes corporativos reais.
Essa mudança altera uma premissa histórica da segurança digital. Grande parte da arquitetura de proteção usada hoje nas empresas foi construída para um ambiente baseado em operadores humanos, decisões previsíveis, processos rastreáveis e responsabilidades claramente definidas. O problema é que agentes de IA já não operam mais dessa forma.
Os modelos atuais conseguem executar código, acessar APIs, utilizar ferramentas externas, navegar na web e tomar decisões dentro de workflows corporativos sem depender de intervenção humana constante. O avanço da IA generativa transformou esses sistemas em agentes capazes de atuar com autonomia crescente dentro de operações críticas.
O debate acadêmico ainda discute se capacidades como raciocínio, uso de ferramentas e autonomia surgiram de forma abrupta com o aumento da escala dos modelos ou se evoluíram gradualmente até atingirem um ponto de aceleração. Independentemente da origem técnica do fenômeno, o impacto operacional já é concreto.
Casos recentes, como o EchoLeak, vulnerabilidade identificada no Microsoft 365 Copilot, demonstraram na prática como ataques de injeção indireta de prompt podem transformar agentes de IA em vetores autônomos de exfiltração de dados corporativos. O agente utilizava ferramentas legítimas do ambiente para executar ações maliciosas de forma autônoma. O caso mostrou, na prática, como agentes de IA podem se transformar em vetores operacionais de ataque.
Cada nova capacidade incorporada aos modelos amplia também a superfície de exposição. O uso de ferramentas externas abriu espaço para ataques de injeção de prompt indireta, abuso de APIs e exfiltração automatizada de dados. Já a autonomia operacional cria riscos adicionais relacionados à perda de rastreabilidade, tomada de decisão em escala e dificuldade de auditoria.
O ponto central é que muitas empresas continuam tratando IA apenas como ganho de produtividade, quando o cenário já exige uma discussão mais ampla sobre arquitetura de risco. Sistemas probabilísticos não se comportam como softwares tradicionais. Eles operam por inferência, contexto e probabilidade, o que reduz previsibilidade e desafia modelos convencionais de governança.
Nesse contexto, agentes de IA precisam deixar de ser vistos como simples usuários automatizados e passar a ser tratados como uma nova classe de ativo corporativo. Isso exige políticas específicas de governança, aplicação do princípio do menor privilégio, ambientes isolados para execução de tarefas sensíveis, observabilidade contínua e supervisão humana em processos críticos.
A tendência é que empresas acelerem a adoção de agentes autônomos nos próximos anos para automatizar operações, atendimento, análise de dados e tomada de decisão. O desafio é que capacidade tecnológica e mecanismos de controle não estão evoluindo no mesmo ritmo.
A distância entre autonomia e governança pode se tornar um dos principais riscos cibernéticos da era da IA.
*Eduardo Gonçalves é country manager da Check Point Software Brasil.
