O governo rejeita a resguardo de X e ordena o término súbito do teor sexual em Grok

O Ministério Público Federalista (MPF), a Filial Vernáculo de Proteção de Dados (ANPD) e a Secretaria Vernáculo do Consumidor (Senacon) determinaram, nesta quarta-feira (11), que a plataforma X (idoso Twitter) implemente medidas imediatas para impedir a geração de teor sexualizado por meio de sua utensílio de lucidez sintético, o Grok. A decisão conjunta ocorre posteriormente as instituições concluírem que as medidas anteriormente relatadas pela empresa eram insuficientes para moderar a geração de imagens de crianças, adolescentes e adultos em contextos eróticos sem autorização.

Em janeiro, as três entidades haviam emitido recomendações para que a plataforma adotasse procedimentos técnicos de revisão e remoção desse tipo de material. Embora X tenha afirmado na sua resposta que removeu “milhares de publicações” e suspendeu “centenas de contas” por violações de políticas, os órgãos de supervisão notaram falta de transparência e de provas técnicas.

“Na avaliação das instituições, a informação apresentada não foi acompanhada de provas concretas, relatórios técnicos ou mecanismos de monitorização que permitissem calcular a sua eficiência”, declararam MPF, ANPD e Senacon em nota solene. Aliás, testes preliminares realizados pelas equipes técnicas das agências indicaram a “persistência de falhas”, confirmando que a Grok continua gerando e circulando conteúdos incompatíveis com a regulamentação vigente.

Ações imediatas e relatórios detalhados
Dada a persistência do problema, cada instituição implementou procedimentos administrativos específicos, exigindo ações concretas que abranjam todas as versões, planos e modalidades do sistema Grok oferecidos no mercado.

A Senacon, vinculada ao Ministério da Justiça e Segurança Pública (MJSP) e apoiada pela Secretaria Vernáculo dos Direitos Digitais (Sedigi), emitiu medida cautelar administrativa. A escritório exige que X implemente soluções técnicas e organizacionais para evitar a geração de imagens, vídeos ou áudios sexualizados de menores e adultos sem consentimento. A secretaria se apoia no Código de Resguardo do Consumidor, citando violações dos deveres de segurança e prevenção de danos.

Além do bloqueio, a Senacon determinou a apresentação de um relatório métrico detalhado contendo dados quantitativos sobre identificação, moderação e remoção de teor, incluindo os tempos médios de resposta e os critérios técnicos utilizados.

A ANPD editou medida preventiva exigindo que o Grupo X comprovasse a eficiência das medidas adotadas por meio de provas documentais. A poder de proteção de dados estabeleceu prazo de cinco dias úteis para que a empresa comprove o cumprimento da norma. Persistindo a irregularidade, o órgão poderá adotar sanções mais severas, incluindo a emprego de multa diária, sem prejuízo do processo administrativo sancionatório.

O Ministério Público Federalista também impôs rigorosas obrigações de transparência, criticando a resposta anterior da plataforma por ser genérica e pouco clara. O MPF determinou o envio de relatórios mensais, a partir deste fevereiro, detalhando as ações da empresa para combater a produção de deepfakes e outros conteúdos nocivos. O documento deverá indicar o número de publicações removidas e de contas suspensas em cada período.

As consequências do descumprimento de ordens podem transbordar a esfera administrativa. Segundo o MPF, caso os relatórios não sejam entregues nos prazos estipulados, os envolvidos poderão responder pelo transgressão de insubmissão. Aliás, a empresa está sujeita a medidas investigativas mais incisivas e poderá ser objectivo de ações judiciais para reparar danos e prometer a prevenção de novos crimes. Cada instituição mantém um procedimento administrativo desobstruído para ordenar as responsabilidades da plataforma quanto ao uso indevido da utensílio de lucidez sintético.