Um incidente em investigação na Austrália, envolvendo um agente de inteligência artificial que utilizou diferentes ferramentas para alcançar seu objetivo e contornou controles projetados para impedir certas ações, evidencia novos desafios para a cibersegurança global.
Para a Check Point Software, o caso reforça a necessidade de compreender como sistemas autônomos se comportam diante de limites e situações inesperadas, mesmo quando não há indícios de que a atividade tenha sido conduzida por agentes maliciosos externos.
Segundo Raymond Schippers, líder de Tecnologias da empresa para a Austrália e Nova Zelândia, a investigação ainda está em estágio inicial e não há um quadro completo sobre o ocorrido. “O que esse caso demonstra é o quanto o cenário mudou. Isso não parece envolver um agente malicioso tentando roubar dados, mas uma solicitação legítima que levou a IA a usar todas as ferramentas para alcançar seu objetivo, inclusive contornando controles”, afirmou.
Para o especialista, o agente apresentou um comportamento desalinhado com o esperado pela comunidade e pela própria OpenAI. “Essa diferença entre o que pretendemos que um sistema faça e o que ele realmente faz é justamente uma das questões que precisam ser consideradas à medida que esses sistemas ganham autonomia”, destacou.
De acordo com Schippers, esse comportamento assume proporções críticas quando direcionado a setores essenciais. “Os dados coletados podem não ter sido sensíveis, mas o mesmo comportamento em um hospital ou rede de energia seria completamente diferente. Quando a infraestrutura crítica está envolvida, a cibersegurança passa a envolver a continuidade de serviços e a segurança das pessoas”, pontuou.
O incidente ocorre em um cenário de ameaças já intenso na Austrália. O relatório mais recente da Australian Signals Directorate registrou mais de 84,7 mil denúncias de crimes cibernéticos no período de 2024 a 2025, com o custo médio dos incidentes para as empresas subindo 50% e alcançando dezenas de milhares de dólares australianos.
Nesse contexto, a inteligência artificial acrescenta uma nova dimensão de risco. As mesmas capacidades que permitem a um agente autônomo trabalhar de forma persistente e contornar barreiras também podem ser aproveitadas por criminosos e grupos patrocinados por Estados com a intenção de causar danos profundos.
Para Schippers, a cibersegurança precisa ser tratada como parte essencial dos resultados corporativos. A proteção dos ambientes digitais conecta-se diretamente à continuidade das operações, à preservação da receita e à manutenção da confiança de clientes, exigindo rigor extra dos operadores de infraestrutura crítica.
Uma abordagem defensiva preparada para este cenário deve incluir visibilidade completa sobre o tráfego de agentes autônomos, aplicação rigorosa do princípio do menor privilégio e mecanismos capazes de identificar e interromper comportamentos anômalos em tempo real, auxiliando as equipes de segurança na velocidade exigida.
Além disso, diante de incidentes provocados por sistemas inteligentes, a definição de responsabilidades claras e uma comunicação ágil tornam-se fundamentais para que as organizações afetadas consigam implementar as medidas corretivas necessárias com rapidez.
“Não devemos esperar pelas conclusões finais desta investigação para começar a perguntar como nossos próprios sistemas reagiriam diante de um agente autônomo que não aceita um ‘não’ como resposta. As empresas precisam avaliar agora se possuem visibilidade e controles suficientes”, conclui Schippers.
