Previsão de que 40% das organizações governamentais estabelecerão funções dedicadas de TrustOps até 2028 para combater a falsificação de identidade por meio de deepfakes e a desinformação como serviço (DaaS). Segundo o Gartner, os governos precisam estruturar com urgência capacidades de defesa proativas contra campanhas que miram tanto a opinião pública quanto os sistemas internos das instituições.
Essas ameaças se manifestam na clonagem de líderes para pronunciamentos enganosos e em ataques voltados a burlar a autenticação biométrica automatizada de voz ou rosto. Os criminosos utilizam técnicas avançadas de engenharia social para manipular funcionários, simulando senso de autoridade e urgência. “Os deepfakes podem minar ou até mesmo transformar em arma as noções de identidade digital, atacando a credibilidade do próprio Estado”, diz Daniel Nieto, Diretor Analista Sênior do Gartner.
Para o analista, se os cidadãos não conseguirem distinguir um anúncio legítimo de uma réplica, a arquitetura fundamental da verdade entra em colapso. Diante desse risco existencial, os CIOs devem liderar uma defesa rápida e integrada, unindo tecnologia e comunicação. “O fenômeno do deepfake ameaça provocar uma regressão digital, revertendo o retorno sobre o investimento (ROI) da transformação digital ao forçar uma volta para interações presenciais e em papel, que geram grande atrito”, afirma Nieto.
Esses e outros temas relacionados à cibersegurança, governança de IA e proteção contra ameaças emergentes serão debatidos durante a Conferência Gartner Segurança & Gestão de Risco, nos dias 4 e 5 de agosto, em São Paulo. O Gartner reforça que os governos não devem tratar o problema apenas sob a ótica de TI, exigindo coordenação executiva e educação da força de trabalho, além de evitar respostas tardias, já que não é possível conter um conteúdo sintético após a sua viralização.
Como recomendação prática de curto prazo, a consultoria aponta que o ônus da verificação deve ser transferido do usuário final para a infraestrutura institucional. Isso envolve a criação de um conselho de confiança interfuncional, o reforço de processos de negócios de alto risco (como aprovações financeiras com múltiplos validadores para conter vozes clonadas) e o desenvolvimento de procedimentos operacionais padrão (SOPs) para testar e expor mídias suspeitas geradas por inteligência artificial.
A longo prazo, a resposta para proteger a integridade pública exigirá tecnologias mais robustas de validação na origem. “No longo prazo, as organizações governamentais podem considerar a implementação de soluções como o protocolo C2PA. Elas devem tornar obrigatória a verificação da proveniência do conteúdo de saída adotando o protocolo C2PA, incorporando metadados criptográficos à prova de adulteração em todas as mídias digitais oficiais. Também podem promover o uso da proveniência do conteúdo junto aos cidadãos e partes interessadas para reforçar a confiança.”, conclui Nieto.
