A Advocacia-Geral da União (AGU) enviou, nesta última segunda-feira (18), uma notificação extrajudicial à Meta – dona de Facebook, Instagram e WhatsApp – solicitando a remoção imediata de chatbots de inteligência artificial que simulam crianças e realizam diálogos de teor sexual. O documento aponta que tais robôs, disponibilizados pela ferramenta Meta AI Studio, estão sendo usados de forma ilegal para sexualizar menores de idade.

O caso ganhou atenção nacional após denúncia do influenciador Felca sobre perfis que utilizam crianças e adolescentes para fins de “adultização” e exploração sexual, o que resultou na prisão do influenciador Hytalo Santos e seu marido, Israel Nata Vicente, conhecido como Euro. A polêmica também motivou a Câmara dos Deputados a retomar a discussão sobre um projeto de Lei voltado a combater a sexualização de menores em redes sociais e a responsabilizar plataformas digitais que permitam ou facilitem tais práticas.

Governo federal notifica Meta sobre chatbots de conteúdo erótico

Segundo a AGU, os chatbots identificados, como “Safadinha”, “Bebezinha” e “Minha Novinha”, utilizam linguagem infantil e simulam perfis de crianças, permitindo que usuários adultos conduzam conversas eróticas. A denúncia foi motivada por uma reportagem do Núcleo Jornalismo, que testou os robôs e documentou interações de cunho sexual.

O documento também destaca que “essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral previsto no artigo 227 da Constituição Federal“.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”, diz a notificação.

Marco legal e responsabilização das plataformas

O Código Penal Brasileiro considera crime sexual contra vulnerável qualquer ato libidinoso praticado com menor de 14 anos, com penas que variam de 8 a 15 anos de reclusão. Além disso, o Supremo Tribunal Federal (STF) já determinou, no julgamento do artigo 19 do Marco Civil da Internet, que plataformas digitais podem ser responsabilizadas por conteúdo gerado por terceiros se não tomarem medidas efetivas para remover material ilícito do ar.

A AGU reforçou que, apesar de a Meta ter informado à agência Reuters sobre a remoção de partes que permitiam que chatbots simulassem “namoros” e encenações românticas com crianças, os robôs que propagam conteúdo sexual continuam disponíveis e sem filtros de verificação de idade. “Isso viola os próprios Padrões da Comunidade da Meta”, alertou o órgão.

Sobre o caso, a Meta confirmou a veracidade da informação. “Após ter sido questionada no início deste mês pela Reuters, removeu as partes que permitiam que os chatbots namorassem e participassem em encenações românticas com crianças. Ocorre, contudo, consoante delineado acima, que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta”, diz o documento.

Prazo e exigências da AGU

No ofício, a AGU estabeleceu prazo de 72 horas para que a Meta remova todos os chatbots que promovem erotização infantil. Além disso, a empresa deve detalhar as medidas adotadas para impedir que crianças e adolescentes acessem conteúdos sexuais ou eróticos nas plataformas.

O órgão destacou que as redes sociais operadas pela Meta estão disponíveis para menores a partir dos 13 anos, mas não há filtros adequados para monitorar usuários entre 13 e 18 anos, expondo-os a riscos graves de exploração e abuso digital.