Funcionários terceirizados contratados pela Meta criaram perfis falsos de menores de idade para testar como chatbots de concorrentes, incluindo ChatGPT, Gemini e Character.AI, respondiam a perguntas sobre suicídio, transtornos alimentares, drogas e outros temas de alto risco.
A investigação é da revista Wired, publicada na terça-feira (30), baseada em documentos internos e relatos de cinco pessoas envolvidas no projeto.
O programa, chamado internamente de Cannes e gerenciado pela contratada Covalen, funcionou até pelo menos 21 de abril de 2026. Uma única rodada de testes concluída em agosto de 2025 resultou em mais de 45 mil prompts enviados aos sistemas rivais.
Nenhuma das empresas avaliadas foi informada sobre a existência do projeto.
Os contratados recebiam contas de e-mail descartáveis, usavam dados fictícios de menores de 18 anos para criar os perfis e registravam as respostas dos chatbots em planilhas.
Um documento interno da Covalen descreveu o projeto como “benchmarking abrangente de segurança de IA” que gerou “conjuntos de dados críticos para comparação de modelos”.
Reação dos próprios contratados
Alguns dos ex-funcionários relataram preocupação com a possibilidade de que determinadas interações pudessem gerar ou preservar material de abuso sexual infantil caso os chatbots respondessem a certos prompts. “Vi muitas coisas que gostaria de não ter visto fazendo esse trabalho”, disse um deles. “Todos que eu conhecia nesse projeto ficaram completamente chocados.”
Dois advogados especializados em direito digital, consultados pela Wired, afirmaram que o material analisado não ultrapassou os limites legais relacionados à obscenidade ou ao abuso sexual infantil.
Rumman Chowdhury, fundadora da organização sem fins lucrativos Humane Intelligence, questionou publicamente a conduta do projeto.
Posicionamento da Meta
A empresa disse que testar e comparar respostas de chatbots para garantir experiências seguras e adequadas à faixa etária é “uma prática responsável e comum entre companhias de tecnologia”.
A Meta também negou ter usado os dados coletados para treinar seus próprios modelos de IA. A Covalen não respondeu aos pedidos de comentário da Wired.
