Em seguida denúncia de Erika Hilton, agências federais exigem que X impeça a geração de deepfakes sexuais em Grok

A Dependência Pátrio de Proteção de Dados (ANPD), o Ministério Público Federalista (MPF) e a Secretaria Pátrio do Consumidor (Senacon) emitiram, na última terça-feira (20), uma recomendação conjunta ao controlador da plataforma. A ação foi motivada por uma representação da deputada federalista Erika Hilton (PSOL-SP), que denunciou a facilidade com que o sistema gera deepfakes e pornografia sem consentimento das fotos dos usuários.

O documento exige que a plataforma adote imediatamente medidas técnicas e administrativas para bloquear a geração de imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, muito uma vez que adultos identificáveis ​​sem autorização prévia. As restrições devem abranger todas as versões e modalidades da instrumento de IA.

A origem da reclamação.
A reclamação que culminou na medida administrativa foi apresentada pelo parlamentar em janeiro. Segundo a denúncia, Grok permitiu a edição automatizada de imagens de terceiros, incluindo o uso de fotografias postadas por outros usuários na própria rede social, sem mecanismos eficazes de verificação de consentimento, idade ou finalidade.

A deputada Erika Hilton disse ao ICL Notícias que a responsabilização é crucial dada a sisudez do cenário. “É inconcebível que uma plataforma permita que sua instrumento de IA seja usada para produzir deepfakes, pornografia infantil e pornografia sem consentimento, e não seja responsabilizada”. ele afirmou.

Hilton também criticou a lentidão do Poder Legislativo na regulamentação do setor. “A regulamentação das plataformas é urgente e, enquanto o Congresso se recusa a confrontar as grandes empresas de tecnologia e seus proprietários bilionários, procuro formas alternativas uma vez que acionar o sistema de justiça e a escritório reguladora. Fico feliz que a ANPD, o MPF e a Senacon tenham se mobilizado.”acrescentou o deputado.

Os testes confirmaram a manipulação de imagens.
Para fundamentar a decisão, a ANPD realizou ensaios técnicos, cujos resultados constam na Nota Técnica nº 1/2026 da Coordenação Universal de Fiscalização. A escritório confirmou a verdade das acusações: Grok conseguiu manipular fotografias reais, mudar roupas e inserir as pessoas retratadas em contextos íntimos e sexuais sem qualquer consentimento válido.

A desenlace técnica observou que as salvaguardas anunciadas pela empresa eram insuficientes para evitar danos aos direitos de privacidade, à proteção de dados e à honra humana. O sistema permitiu que o teor fosse disponibilizado claramente, ampliando o alcance e os danos às vítimas.

Determinações e prazos
Além de bloquear imediatamente a geração de novos conteúdos ilícitos, a recomendação conjunta estipula outras obrigações para a plataforma X:

• Remoção de teor: Prazo de até 30 dias para geração de procedimentos eficazes para identificação, revisão e eliminação de materiais deste tipo já existentes na rede;
• Suspensão da conta: Suspensão imediata e permanente de perfis envolvidos na produção ou troca recorrente de deepfakes sexuais;
• Via de denúncia: Implementação de mecanismos transparentes e acessíveis para que os usuários possam denunciar o uso imperdoável de suas imagens;
• Informação: Apresentação mensal de documentos que comprovem o cumprimento das medidas e elaboração de Relatório de Impacto na Proteção de Dados específico para conteúdos sintéticos.

Plataforma uma vez que coautor
Um ponto médio nos argumentos das agências federais diz reverência à responsabilidade da plataforma. O documento destaca que, no caso do Grok, os deepfakes não são produzidos exclusivamente por terceiros, mas por meio da interação com a instrumento disponibilizada pela empresa. Isso faz “coautor do referido teor, e não seu mero intermediário”, varar a isenção de responsabilidade prevista no cláusula 19 do Marco Social da Internet para hospedagem de teor simples.

As instituições também citaram o recente entendimento do Supremo Tribunal Federalista (STF), que declarou a inconstitucionalidade parcial do referido cláusula do Marco Social, estabelecendo que os prestadores têm o obrigação de diligência para impedir a circulação de crimes graves, principalmente os cometidos contra mulheres.

O texto da recomendação também destaca que a própria política de autorregulação de X proíbe a manipulação e disseminação de meios de informação sexuais não consensuais, tornando “insustentável” a disponibilidade de IA sem filtros rígidos.

Caso as recomendações não sejam acatadas ou sejam consideradas insuficientes, ANPD, MPF e Senacon informaram que poderão adotar novas medidas administrativas e judiciais. Erika Hilton garantiu que continuará acompanhando o caso: “Vou agora continuar monitorando se Grok cumprirá a lei e fará todo o provável para prometer um envolvente seguro para as pessoas na Internet.”