Até 2028, 50% das organizações implementarão uma postura de zero-trust para a governança de dados devido à proliferação de dados não verificados gerados por Inteligência Artificial (IA), de acordo com o Gartner, Inc., empresa de insights de negócios e tecnologia.
“As organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos”, diz Wan Fui Chan, Vice-Presidente de Gestão do Gartner. “À medida que os dados gerados por IA se tornam onipresentes e indistinguíveis dos dados criados por humanos, uma postura zero-trust que estabeleça medidas de autenticação e verificação é essencial para proteger os resultados comerciais e financeiros.”
Dados gerados por IA aumentam os riscos de colapso do modelo e as exigências de conformidade
Os Grandes Modelos de Linguagem (LLMs) são normalmente treinados com dados “coletados na web” e uma variedade de fontes, incluindo livros, repositórios de código e artigos de pesquisa. Algumas dessas fontes já contêm conteúdo gerado por Inteligência Artificial e, se as tendências atuais continuarem, quase todas acabarão sendo preenchidas com dados gerados por IA.
De acordo com a 2026 Gartner CIO and Technology Executive Survey, 84% dos entrevistados esperam que suas organizações aumentem o financiamento para Inteligência Artificial Generativa (GenAI) em 2026. À medida que as organizações aceleram a adoção e o investimento em iniciativas de IA, o volume de dados gerados por Inteligência Artificial continuará a aumentar. Isso significa que as futuras gerações de LLMs serão cada vez mais treinadas com base nos resultados de modelos anteriores, aumentando o risco de “colapso do modelo”, em que as respostas das ferramentas de IA podem não refletir mais a realidade com precisão.
“Conforme o conteúdo gerado por Inteligência Artificial se torna mais prevalente, espera-se que os requisitos regulatórios para verificar dados ‘livres de IA’ se intensifiquem em certas regiões”, diz Chan. “No entanto, esses requisitos podem diferir significativamente entre as regiões geográficas, com algumas jurisdições buscando aplicar controles mais rígidos ao conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível”.
“Nesse ambiente regulatório em evolução, todas as organizações precisarão ter a capacidade de identificar e fazer marcações (tag) em dados gerados por IA. O sucesso dependerá de ter as ferramentas certas e uma força de trabalho qualificada em gestão de informações e de conhecimento, bem como soluções de gestão de metadados essenciais para a catalogação de dados”.
Práticas ativas de gestão de metadados se tornarão um diferencial importante, permitindo que as organizações analisem, alertem e automatizem a tomada de decisões em todos os seus ativos de dados.
Gerenciando riscos associados ao aumento de dados não verificados gerados por IA
As organizações devem considerar diversas ações estratégicas para gerenciar os riscos de dados não verificados:
– Nomear um líder de governança de IA: estabeleça um cargo responsável pela governança de Inteligência Artificial, incluindo políticas de zero-trust, gerenciamento de riscos de IA e operações de conformidade. Esse líder deve trabalhar em estreita colaboração com as equipes de Data & Analytics (D&A) para garantir que os dados estejam prontos para Inteligência Artificial e que os sistemas sejam capazes de lidar com o conteúdo gerado por IA.
– Promover a colaboração multifuncional: forme equipes multifuncionais que incluam Segurança Cibernética, Data & Analytics e outras partes interessadas relevantes para conduzir avaliações abrangentes de riscos de dados, buscando identificar os riscos para os negócios relacionados a informações geradas por IA e determinar quais são abordados pelas políticas de segurança de dados existentes e quais precisam de novas estratégias.
– Aproveitar as políticas de governança existentes: baseie-se nas estruturas de governança de Data & Analytics atuais e concentre-se na atualização das políticas relacionadas à segurança, gerenciamento de metadados e ética para lidar com novos riscos de dados gerados por IA.
– Adotar práticas ativas de metadados: isso permite alertas em tempo real quando os dados estão desatualizados ou precisam de recertificação, ajudando as organizações a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos a informações imprecisas ou tendenciosas.
