A Check Point Software divulgou uma análise sobre um novo tipo de vulnerabilidade: a ilusão de controle. Com a integração crescente de sensores inteligentes, algoritmos de IA e conectividade em tempo real, setores como energia, manufatura e abastecimento de água estão cada vez mais dependentes de sistemas autônomos para decisões operacionais. Embora essa automação prometa eficiência, resposta rápida e manutenção preditiva, especialistas apontaram que ela também traz um nível inédito de complexidade e exposição a riscos que, muitas vezes, não são percebidos até que se tornem críticos.
De acordo com a pesquisa, esses sistemas operam com grande autonomia, adaptando-se constantemente a novas condições e aprendendo com dados em tempo real. No entanto, quanto mais independentes se tornam, mais difícil é entender como decisões estão sendo tomadas, especialmente quando modelos de IA funcionam como “caixas-pretas”, sem explicação clara para suas ações. Além disso, os especialistas afirmaram que a interconexão entre sistemas de TI e OT elimina barreiras tradicionais de segurança, criando novas superfícies de ataque.
O papel da IA em ambientes OT
A pesquisa apontou que IA está transformando ambientes OT ao permitir análises em tempo real, manutenção preditiva, respostas dinâmicas e orquestração em larga escala. Alguns exemplos principais de aplicação da IA são a manutenção preditiva, para a prevenção de falhas de máquinas com base em métricas como análise de vibração e imagem térmica, reduzindo o tempo de inatividade; detecção de anomalias e sistemas de controle autônomos.
Segundo os dados, as implementações fazem parte da Indústria 4.0, em que Sistemas Ciberfísicos (CPS, na sigla em inglês para Cyber-Physical Systems) não apenas automatizam processos e aumentam a eficiência, mas também dissolvem as fronteiras entre TI e OT.
Os especialistas apontaram que no passado os sistemas OT eram isolados, desconectados e protegidos de redes externas por razões de segurança. Agora, com sensores inteligentes, computação em nuvem e dispositivos conectados na borda, essas fronteiras estão desaparecendo. TI e OT estão se entrelaçando profundamente, criando oportunidades, mas também novos riscos, à medida que os sistemas se tornam mais interdependentes.
O relatório apontou para um paradoxo da autonomia, o qual reside no equilíbrio delicado entre controle humano e independência da máquina. Sistemas autônomos são projetados para operar sem intervenção humana constante, com o objetivo de melhorar a eficiência e a capacidade de resposta. Porém, isso reduz a supervisão direta dos operadores humanos.
Ao mesmo tempo, os pesquisadores explicaram que os sistemas baseados em IA continuam evoluindo, adaptando seus modelos de decisão de forma imprevisível e, muitas vezes, incompreensível. Agravando essa situação, muitos mecanismos de segurança ainda são baseados em pressupostos obsoletos que não refletem o comportamento dinâmico das IAs modernas.
Assim, a própria autonomia que visa aumentar a segurança e o controle pode paradoxalmente introduzir novos riscos e incertezas, destacando a necessidade urgente de mecanismos de supervisão adaptativos. Ou seja, a análise mostrou que a autonomia introduz uma nova classe de ameaças, sistemas que podem ser manipulados, enganados ou reprogramados por adversários. Os atacantes não precisam mais “quebrar” um sistema, basta confundir ou envenenar sua lógica de decisão.
Nesse sentido, a empresa afirma que é importante aos CISOs de OT que não presumam que visibilidade significa controle. Devem tratar a autonomia como um risco de terceiro, revisando-a regularmente, testando-a com rigor e sempre mantendo um mecanismo de intervenção humana. E ainda que o controle não significa apenas emitir comandos, mas garantir que as intenções por trás deles sejam compreendidas e executadas com segurança.
Os especialistas da Check Point Software reforçaram que decisões autônomas irão controlar resultados físicos, máquinas irão regular fluxos de energia, dosagens químicas e braços robóticos. Assim, afirmam que para proteger o futuro, os CISOs de OT devem questionar toda suposição sobre visibilidade, confiança e controle em sistemas OT inteligentes.
