O PT pediu à Procuradoria da República no Distrito Federal e à Secretaria Nacional do Consumidor (Senacon) que abram uma investigação e adotem medidas para bloquear ou até banir o assistente de inteligência artificial Grok no Brasil. As representações protocoladas nesta semana alegam que a ferramenta passou a gerar imagens falsas de teor sexual envolvendo pessoas reais, inclusive crianças e adolescentes.

Nos ofícios, o PT afirma que a legislação brasileira já oferece base legal suficiente para ações imediatas contra o serviço, incluindo “a suspensão, bloqueio ou banimento do serviço em território nacional”. Segundo o partido, não há necessidade de esperar a aprovação de novas leis para enfrentar o que classifica como uma situação grave e urgente.

“De forma reiterada e em escala massiva, o sistema de inteligência artificial generativa integrado à plataforma X (Twitter), denominado Grok, vem sendo utilizado para a produção de conteúdos sintéticos a partir do uso não consentido de imagens, especialmente de crianças e adolescentes e mulheres, gerando mídias automatizadas falsas com representação sexualizada e íntima, e alto grau de verossimilhança”, diz um dos ofícios (veja na íntegra).

O PT sustenta que o governo não pode aguardar a tramitação do projeto que cria o Marco Legal da Inteligência Artificial no Brasil, o PL 2338/2023, que ainda aguarda votação na Câmara dos Deputados. Em dezembro do ano passado, líderes partidários fecharam um acordo para tentar retomar a análise da proposta a partir da primeira semana de fevereiro, na volta do recesso parlamentar.

Nas últimas semanas, usuários da rede social X passaram a utilizar o Grok para manipular imagens de pessoas sem autorização, criando montagens digitais para despir mulheres e até crianças. A prática gerou repercussão internacional e levou a plataforma a restringir a edição de imagens pelo Grok apenas a assinantes da ferramenta.

Para o PT, tais práticas “configuram graves violações a direitos humanos, à dignidade da pessoa humana, à proteção integral de crianças e adolescentes, à honra, à imagem e à intimidade”, contrariando o Estatuto da Criança e do Adolescente (ECA).

O partido também afirma que o caso representa um risco concreto à ordem pública e à segurança digital no país.

“As práticas expostas são absolutamente vedadas pela legislação brasileira e tipificadas no Código Penal. Segundo o art. 216-B do Código Penal, é crime ‘Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes’ e incorre na mesma pena quem ‘realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo’”, pontua.

O pedido do PT foi protocolado um dia após o Instituto de Defesa do Consumidor (Idec) apresentar denúncia formal à Autoridade Nacional de Proteção de Dados (ANPD) solicitando a suspensão imediata do Grok no Brasil. A entidade aponta possíveis violações à Lei Geral de Proteção de Dados (LGPD).

A ANPD confirmou que recebeu denúncias sobre “possível descumprimento da LGPD” e informou que o caso está sob análise da área de fiscalização da agência. Segundo o órgão, o processo ocorre em diálogo com outros órgãos públicos que também possuem competência sobre o tema.