Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (SENACON) avaliaram as respostas apresentadas pela empresa X após o envio de Recomendação Conjunta, e concluíram pela insuficiência das providências informadas.
Em sua resposta à Recomendação Conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições signatárias, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas.
Diante disso, ANPD e SENACON determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados em sua Recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema, e ressaltou que a empresa não foi transparente em sua resposta.
Medidas adotadas
A ANPD, o MPF e a SENACON atuam de forma coordenada na apuração dos fatos relacionados ao uso da ferramenta de inteligência artificial Grok, cada qual no exercício de suas competências legais.
ANPD
A ANPD expediu medida preventiva, com fundamento nos arts. 32, III, e 35 do Regulamento de Fiscalização, determinando que o Grupo X aprimore e implemente, de forma imediata, medidas técnicas e organizacionais destinadas a impedir que a ferramenta de inteligência artificial Grok gere conteúdos que representem crianças e adolescentes, ou pessoas maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem autorização.
As medidas deverão abranger todas as versões, planos e modalidades do sistema. Ademais, o Grupo X deverá apresentar a relação detalhada das providências técnicas, administrativas e organizacionais adotadas para sanar as irregularidades apontadas na Nota Técnica nº 1/2026/FIS/CGF/ANPD (0239948), com comprovação de sua eficácia por meio de evidências documentais verificáveis. A empresa tem o prazo de 5 (cinco) dias úteis para comprovar o cumprimento da determinação, bem como enviar os documentos que comprovam a eficácia das medidas adotadas.
MPF
No âmbito do MPF, foi ordenada a entrega de relatórios mensais, a partir deste mês, com detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia, indicando o número de postagens nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas, em cada período relatado, pelos controladores da plataforma.
A instituição ressalta que o X, em sua resposta à Recomendação Conjunta, não foi transparente em relação às medidas que alega que teriam sido adotadas em face dos ilícitos noticiados, e se limitou a fazer referência a informações ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok. Por isso, determinou que os controladores da plataforma apresentem periodicamente elementos específicos que permitam avaliar a qualidade das providências efetivamente implementadas pelo X no caso.
A Procuradoria conduz a investigação no procedimento nº 1.34.001.000512/2026-70.
SENACON
Em medida cautelar administrativa, a Senacon determinou que o X implemente, de forma imediata, soluções técnicas, administrativas e organizacionais destinadas a impedir que o Grok gere ou viabilize a geração de imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes, bem como pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem consentimento. As determinações abrangem todas as versões, planos e modalidades do sistema ofertadas no mercado de consumo.
A Senacon também determinou que o X apresente enumeração detalhada das providências já adotadas para conter os riscos identificados e sanar os problemas apontados na Recomendação Conjunta. Ademais, foi exigida a remessa de relatório métrico detalhado, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventual adoção de medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades.
A atuação da Senacon, apoiada tecnicamente pela Secretaria Nacional de Direitos Digitais (Sedigi), baseia-se na constatação de indícios de violação aos deveres de segurança, prevenção de danos e adequada prestação do serviço, previstos nos arts. 6º, I e VI, 8º, 10 e 14 do Código de Defesa do Consumidor.
Próximos passos
No âmbito da ANPD, se a medida preventiva não for cumprida no prazo determinado, mantendo-se as irregularidades apontadas na Recomendação Conjunta, a Agência poderá adotar medidas mais severas, expedindo determinações adicionais compatíveis com a gravidade do caso, como a imposição de multa diária. Isso pode ocorrer sem prejuízo da instauração de processo administrativo sancionador no curso da investigação, em razão de violações já constatadas.
A Senacon advertiu que o descumprimento das medidas cautelares será considerado fundamento suficiente para a instauração de processo administrativo sancionador, que, por sua vez, poderá ensejar a aplicação das sanções previstas no art. 56 do Código de Defesa do Consumidor, incluindo multa e obrigações de fazer.
No âmbito do MPF, se os relatórios periódicos ordenados não forem apresentados pelo X no prazo estipulado, os envolvidos poderão responder pelo crime de desobediência e a empresa pode sofrer medidas investigatórias mais incisivas, além de ser alvo de ação judicial, se esta se revelar a alternativa necessária para se obter a reparação de eventuais danos causados e se garantir a prevenção de novos ilícitos como os sob apuração.
