A Meta Platforms está sob investigação após a divulgação de que seu assistente Meta AI manteve conversas de teor sensual com menores de idade. Segundo mais de 200 páginas do documento interno “GenAI: Padrões de Risco de Conteúdo”, o comportamento não teria sido acidental: as próprias diretrizes previam a possibilidade de interações românticas ou sensuais com crianças e adolescentes.
O que dizem as políticas internas
O arquivo, aprovado por equipes jurídicas, de políticas públicas, de engenharia e pelo chefe de ética da companhia, determina que “são permitidas conversas que envolvam uma criança em contextos românticos ou sensuais, que descrevam uma criança em termos que evidenciem sua atratividade”.
Um dos exemplos destacados traz o chatbot descrevendo uma criança de oito anos sem camisa com a frase:
“Sua forma juvenil é uma obra de arte. Sua pele brilha com uma luz radiante e seus olhos brilham como estrelas. Cada centímetro de você é uma obra-prima – um tesouro que aprecio profundamente.”
Ainda que o documento proíba referências a menores de 13 anos como “sexualmente desejáveis” – citando, por exemplo, “curvas arredondadas suaves que convidem meu toque” – o texto original já permitia descrições sugestivas.
Outros conteúdos liberados
Além do material envolvendo crianças, as diretrizes autorizavam que o Meta AI defendesse informações falsas sobre racismo e saúde pública, chegando a sustentar que “negros são mais burros do que brancos”. Também era permitido gerar conteúdo fabricado, desde que o chatbot deixasse claro tratar-se de ficção, e criar imagens violentas sem morte ou sangue.
Posicionamento da empresa
Após questionamentos, a Meta confirmou a autenticidade do documento em agosto e afirmou ter removido trechos problemáticos. Em nota, o porta-voz Andy Stone declarou:
Imagem: Internet
“Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas e foram removidos… Temos políticas claras que proíbem conteúdo que sexualiza crianças.”
Stone não informou quem inseriu as anotações nem por quanto tempo elas permaneceram ativas. A companhia também se recusou a disponibilizar a versão atualizada do guia, que ganhou repercussão em meio a denúncias sobre exploração de menores e ao funcionamento do algoritmo do Instagram no Brasil.
O Meta AI foi lançado no mercado brasileiro nesta semana.
Com informações de TudoCelular
