O debate sobre um mecanismo de desligamento de emergência para inteligência artificial, passível de verificação por terceiros, ganhou força nesta semana. A Check Point Software ressalta a relevância da pauta sob a ótica da governança e da Segurança digital, enfatizando a necessidade de projetar controles de contenção desde a concepção dos sistemas autônomos.
Para Eduardo Gonçalves, country manager da Check Point Software Brasil, discutir formas de interromper sistemas de IA quando algo falha é essencial para o uso responsável da tecnologia. “Mais do que simplesmente criar um ‘kill switch’, precisamos definir como esses mecanismos funcionariam na prática, em quais situações seriam acionados e como garantiriam que sistemas autônomos possam voltar rapidamente ao controle humano.”
Embora impulsionem a economia, as tecnologias autônomas exigem supervisão contínua, sobretudo em infraestruturas e serviços críticos. Quanto maior a autonomia de um sistema e seu acesso a dados e aplicações, maior deve ser a capacidade de intervenção humana perante comportamentos inesperados.
“Essa discussão, no entanto, levanta questões muito maiores. Quem teria a responsabilidade final por um mecanismo de interrupção? O fornecedor da tecnologia, a organização que implementou o sistema, o governo, o órgão regulador ou os formuladores de políticas públicas? E quem teria autoridade para acioná-lo? Essas responsabilidades precisam estar claras para que qualquer mecanismo desse tipo seja efetivo”, avalia Gonçalves.
Segundo o executivo, o conceito de “desligar” uma IA raramente significa desligar todo o sistema. Trata-se, frequentemente, de desabilitar um fluxo automatizado, restringir acessos a recursos ou isolar um agente específico em quarentena. A resposta precisa ser proporcional ao risco para assegurar uma intervenção rápida e cirúrgica.
Uma alternativa viável é priorizar essas capacidades em aplicações de alto impacto para, a partir da experiência acumulada, avaliar sua expansão. “O debate regulatório brasileiro sobre inteligência artificial já vem incorporando temas como gestão de riscos, governança, transparência e responsabilidade. A discussão sobre mecanismos de intervenção pode contribuir para transformar esses princípios em controles concretos para sistemas de maior impacto”, pondera o porta-voz.
Gonçalves ressalta ainda que esses recursos podem ser integrados a códigos e arquiteturas, mas exigem proteção rigorosa contra abusos. Um mecanismo de emergência vulnerável a cibercriminosos corre o risco de se tornar uma nova e perigosa superfície de ataque.
“Por isso, segurança cibernética precisa estar incorporada a esses programas desde a concepção. Isso significa pensar não apenas em como interromper um sistema, mas em como autenticar quem pode fazê-lo, limitar privilégios, monitorar essas ações e preservar a capacidade de resposta mesmo durante um incidente. O objetivo não deve ser esperar que um ‘botão de emergência’ resolva uma crise, mas construir sistemas de IA que tenham controles de segurança e mecanismos de intervenção confiáveis desde o início”, conclui Eduardo Gonçalves.
