O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) recomendaram que a rede social X adote medidas para impedir a geração de imagens eróticas falsas de pessoas reais por meio da ferramenta de inteligência artificial Grok. O prazo indicado para adoção das providências é 27 de janeiro.
✅ Siga o canal do Claudio Dantas no WhatsAppA recomendação consta de documento conjunto enviado à plataforma após relatos de que usuários utilizavam o Grok para criar deepfakes — imagens falsas da realidade — de teor sexual, erótico ou pornográfico, envolvendo mulheres adultas sem autorização e também crianças e adolescentes reais.
Segundo o texto, esse tipo de conteúdo teria sido publicado de forma aberta na plataforma, acessível a qualquer usuário, independentemente de idade. O documento afirma que a exposição pública amplia os danos potenciais às pessoas retratadas.
A recomendação foi expedida na terça-feira (20), mesmo após a plataforma informar que ajustes já teriam sido feitos na ferramenta. As instituições relatam ter recebido denúncias de usuários e de parlamentares. Entre as representações encaminhadas ao MPF estão pedidos assinados por parlamentares do PT e do PSOL.
Além do bloqueio à geração de imagens sexuais de pessoas reais, os órgãos recomendaram:
– criação, em até 30 dias, de procedimentos técnicos para identificar e remover conteúdos ilegais já publicados;
– suspensão imediata de contas envolvidas na produção desse tipo de material, com envio de relatórios mensais;
– implementação de um canal eficaz de denúncias para uso abusivo de dados pessoais;
– elaboração de relatório de impacto à proteção de dados no uso do Grok para geração de conteúdos sintéticos.
Questionada, a própria ferramenta afirmou que medidas adicionais foram adotadas. Segundo a resposta, em 9 de janeiro o recurso passou a ser restrito a assinantes pagos. Em 14 de janeiro, teriam sido aplicados bloqueios mais amplos, proibindo edições sexualizadas de pessoas reais, com restrições geográficas onde a prática é ilegal.
O documento do MPF, da Senacon e da ANPD foi enviado após essas mudanças. Os órgãos aguardam resposta formal da plataforma sobre o cumprimento das recomendações.
Após as denúncias, o proprietário do X, Elon Musk, afirmou que não tinha conhecimento da geração de imagens explícitas envolvendo menores. “Não tenho conhecimento de nenhuma imagem de menores geradas pelo Grok. Literalmente zero”, declarou.
Musk disse ainda que a ferramenta é programada para recusar pedidos ilegais e que usuários que criem conteúdo ilícito estariam sujeitos às mesmas punições aplicadas a quem publica material ilegal na plataforma.
