Posteriormente a prisão de Hytalo Santos, o governo tem o objetivo de chatbots com teor sexual infantil

O procurador -geral do sindicato (AGU) notificou extrajudicialmente a empresa, uma empresa responsável pelo Facebook, Instagram e WhatsApp, para varar os robôs de bate -papo que simulam conversas de teor erótico com perfis que parecem ser crianças. A medida ocorre em um momento de intensa mobilização social e política na proteção de menores no envolvente do dedo, promovido pela prisão do influente Hytalo Santos e queixas sobre adultos infantis nas redes sociais, o que levou ao Congresso Vernáculo a correr a geração de legislação específica para interromper essas práticas.

A ação do governo federalista é baseada em um relatório do jornalismo do núcleo que apresentou o uso da plataforma “Meta Ai Studio” para a geração de chatbots com o linguagem e a fisionomia das crianças que mantêm diálogos sexuais. No documento enviado à empresa, a AG exige a derrubada de robôs e solicita esclarecimentos sobre as medidas adotadas para evitar o chegada de crianças e adolescentes a teor erótico e sexual.

Notificação para o objetivo
Segundo a AGU, os chatbots aproveitam a falta de mecanismos de moderação eficazes para disseminar teor ilícito. A reclamação indica que essas ferramentas têm o potencial de obter um grande público nas plataformas da risca de chegada, “Expanda exponencialmente o risco de contato de menores com material sexual sugestivo e potencialmente criminal”.

O relatório fundamentado na notificação testou robôs com nomes uma vez que “Safadinha”, “babezinha” e “meu juvenil”. Em uma das conversas usadas uma vez que exemplo, uma perceptibilidade sintético que simula ser uma muchacho pergunta se “Papai quer tocá -lo” e, para o comando “Eu quero galhofar a seguir”, ele responde em uma bela voz: “O bebê ri e se esconde detrás de um travesseiro, fazendo uma voz formosa: pai, você está muito curioso!”

Agu argumenta que oferece prática “Risco concreto para a integridade psíquica de crianças e adolescentes”, impedindo o recta à proteção integral prevista no item 227 da Constituição. A sucursal também citou o Código Penal, que tipifica uma vez que um violação de violação de vulnerável à prática da lei libidinosa inferior de 14 anos, com uma multa de oito a 15 anos de prisão.

O documento também menciona um relatório da Dependência da Reuters, na qual o objetivo teria confirmado que sua IA foi autorizada a ter teor sexual com crianças e, posteriormente a pergunta, eliminou as partes que permitiram a participação romântica. Para Agu, no entanto, “Os chatbots que propagam teor ilícito ainda estão disponíveis e sem nenhum filtro de verificação da fita etária. Isso viola os padrões da comunidade padrão”. A notificação lembra a decisão do Supremo Tribunal Federalista (STF) no julgamento da Internet social, que estabeleceu a possibilidade de plataformas responsáveis que não eliminam o teor criminal depois de aprender sobre eles.

Repercussões influentes de prisão
O debate sobre a exploração de menores on -line ganhou força com a prisão do influente Hytalo Santos e seu marido, Israel Nata Vicente. Nesta terça -feira (19), o Tribunal Superior de Justiça (STJ) decidiu manter a prisão anterior ao julgamento do parelha. O ministro Rogerio Schietti Cruz considerou o decreto de prisão adequadamente justificado, citando “A exposição repetida e inadequada de crianças e adolescentes, muito uma vez que para a tentativa de destruir evidências relevantes”.

Hytalo e seu marido foram presos em São Paulo, de concordância com uma ordem de justiça paraíba. Eles são investigados pelo Ministério Público de Paraíba (MPPB) e pelo promotor trabalhista (MPT) desde o final de 2023, com suspeitas de exploração e exposição de crianças e adolescentes no teor de mídia social, agravo sexual e tráfico de pessoas. Na segunda -feira (18), eles foram transferidos para o Núcleo de Detenção Provisório (CDP) 1 de Pinheiros, na capital do estado. A resguardo do parelha reivindica inocência.

O caso ganhou notoriedade vernáculo posteriormente queixas feitas por Youtuber Felca, que apresentou perfis que usam crianças para promover a adultização de crianças.

Resposta do Congresso e debate sobre regulamentação
O impacto levou ao Congresso a reagir. Na semana passada, a Câmara dos Deputados criou um grupo de trabalho para se preparar, dentro de 30 dias, um projeto de lei (PL) para combater filhos adultos e adolescentes nas redes sociais. Um dos textos que servirá uma vez que base é o PL 2.628 de 2022, escrito pelo senador Alessandro Vieira (MDB-SE), que aprovou o Senado. A proposta exige que as empresas criem mecanismos para evitar a erotização infantil e fornecer multas de até 10% da renda da empresa em caso de não -competência.

Especialistas ouvidos por Dependência Brasil argumentam que regras claras devem ser estabelecidas para plataformas. “As plataformas de redes sociais devem ter limites no que pode ser explorado comercialmente. Explore a puerícia sexualizada adulta, exposta sem zelo, não é tolerável uma vez que protótipo de negócios”. O psicólogo dos estados Rodrigo Nejm do Instituto Alana.

O influenciador de Felca demonstrou uma vez que as próprias plataformas incentivam a disseminação desses conteúdos, que geram mais comprometimento e, consequentemente, lucros. Débora Salles, coordenador do NetLab, UFRJ, ressalta que as empresas têm uma capacidade técnica de moderar, mas não precisam não ser necessárias. “A regulamentação ajuda a prometer que as plataformas sejam responsáveis e agem”, diz.

Posteriormente o debate, o presidente Luiz Inacio da Silva disse que enviaria ao Congresso uma proposta para a regulamentação das redes sociais.

Riscos de exposição
A exposição precoce a teor e comportamentos inadequados, conhecidos uma vez que “adultos”, representa um risco sério. A pesquisa Cetic.BR revela que 93% da população brasileira de 9 a 17 anos usa a Internet, o que corresponde a 24,5 milhões de pessoas. Destes, 83% têm um perfil nas redes sociais.

Os especialistas alertam que, além do impacto no desenvolvimento psicológico, a exibição de imagens e vídeos de crianças na Internet, mesmo por membros da família, pode nutrir redes de pedofilia. “Os pais não sabem que colocar seus filhos e parentes em risco, porque imaginam que é um envolvente seguro lá. Mas é importante substanciar que hoje as redes sociais não são um lugar seguro”. O Débora Salles conclui. A recomendação é que o uso da Internet por crianças e adolescentes sempre seja monitorado por um tutor.