O governo emitiu nesta terça-feira (20) uma recomendação para que a plataforma X (antigo Twitter) suspenda imediatamente as contas de usuários que usaram o sistema de inteligência artificial, o Grok, para gerar imagens sexualizadas de mulheres, adolescentes e crianças.

Em uma nota técnica conjunta, a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça, alertaram para o risco de multas severas e restrições às atividades da plataforma no país, caso as recomendações não sejam adotadas.

As medidas ocorrem após denúncias de que a ferramenta permite a criação de deepfakes sexualizadas a partir de comandos simples dos usuários. As instituições definiram o prazo de 27 de janeiro de 2026 para que a empresa informe sobre a adoção das medidas urgentes.

O descumprimento das recomendações poderá acarretar sanções administrativas e judiciais previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na própria LGPD. O artigo 12, do Marco Civil da Internet, prevê uma série de sanções para plataformas que não cumprem a lei brasileira, como:

• Advertência, com indicação de prazo para adoção de medidas corretivas;
• Multa de até 10% do faturamento do grupo econômico no Brasil no seu último exercício, excluídos os tributos, considerados a condição econômica do infrator e o princípio da proporcionalidade entre a gravidade da falta e a intensidade da sanção;
• Suspensão temporária das atividades;
• Proibição de exercício das atividades no país.

Segundo a ANPD, testes realizados pela Coordenação de Fiscalização comprovaram que o Grok é capaz de manipular fotografias reais para inserir pessoas em contextos íntimos e erotizados, alterando roupas e cenários originais.

As entidades recomendam que a rede social de Elon Musk crie, no prazo máximo de 30 dias, procedimentos “claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários”.

As autoridades apontam que essa funcionalidade viola princípios fundamentais da Lei Geral de Proteção de Dados (LGPD), como a boa-fé, a finalidade e o melhor interesse da criança e do adolescente.

Além disso, a ANP, o MPF e a Senacon apontam que a conduta da plataforma diante do uso do Grok é contraditória, pois o sistema permite práticas que as próprias políticas internas do X proíbem, como a nudez não consensual e a exploração sexual infantil. O documento estabelece recomenda que a X Brasil Internet Ltda. adote as seguintes medidas:

• Implementação de barreiras técnicas para impedir que o Grok gere imagens, vídeos ou áudios sexualizados de menores de idade ou de adultos sem autorização;
• Identificar e excluir conteúdos dessa natureza que ainda circulam na plataforma no prazo de 30 dias;
• Suspensão imediata e permanente de contas que utilizem a IA para criar ou compartilhar exclusivamente deepfakes não consensuais;
• Elaboração de um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o tratamento de dados pela IA e a criação de mecanismos acessíveis para denúncias de titulares afetados.

A nota técnica considerou as denúncias feitas pela deputada federal Erika Hilton (PSOL-SP), pelo Instituto Brasileiro de Defesa do Consumidor (Idec) e pela Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República.

“Essa é uma vitória gigante. Frente às empresas do homem mais rico do mundo, que estavam lucrando com pornografia infantil e pornografia sem consentimento, as instituições brasileiras foram firmes na defesa das mulheres e crianças do nosso país”, disse Erika após a divulgação da nota técnica.

O governo destacou que órgãos reguladores do Reino Unido e da Itália já abriram investigações semelhantes, enquanto países como Malásia e Indonésia chegaram a bloquear o acesso ao Grok devido à geração de conteúdo pornográfico de forma “sintética”.

PT e PSOL apresentaram ações contra uso do Grok

No último dia 5, a deputada federal Erika Hilton (PSOL-SP) acionou a ANPD e o MPF contra o Grok, apontando que a ferramenta está “ultrapassando todos os limites” ao distribuir “pornografia infantil” por meio da inteligência artificial integrada a uma rede social.

Já o PT pediu à Procuradoria da República no Distrito Federal e à Senacon, na semana passada, a abertura de investigação e medidas para bloquear ou até banir o uso do Grok no Brasil.

Após ser questionado por usuários, o perfil do Grok reconheceu “lapsos nas salvaguardas” que permitiram a criação de conteúdos “inadequados, incluindo de menores”.