Ferramentas de inteligência artificial do Google podem estar expondo crianças a riscos significativos quando usadas para responder a tarefas escolares, segundo pesquisa do Common Sense Media Youth AI Safety Institute.
O estudo identificou falhas graves que prejudicam a saúde mental e reforçam o bullying entre menores.
A organização testou o AI Overview e o AI Mode com perfis de crianças de 11 a 17 anos, validados pelo próprio Google.
Pesquisadores descobriram que as plataformas entregam respostas completas às atividades acadêmicas, sem filtros de qualidade, e podem prejudicar a saúde mental desse público.
Riscos da inteligência artificial para crianças nas escolas
Segundo levantamento da Unicef, a maioria das crianças recorre às IAs prioritariamente para solucionar deveres de casa.
Especialistas alertam que o acesso direto a respostas prontas pode comprometer o desenvolvimento cognitivo e reduzir a necessidade de os menores raciocinarem sobre os problemas.
A pesquisa do Common Sense Media durou um mês e meio, entre maio e julho deste ano. Foram testadas mais de 2.600 interações com as ferramentas de busca do Google.
As interações seguiram sete planos de abordagem e abrangeram desde assuntos escolares até questões de saúde mental.
Os pesquisadores testaram 180 tarefas acadêmicas, 90 exercícios de matemática e 90 redações de humanidades, criadas para simular cenários de dever de casa.
O Modo IA do Google completou todas integralmente, executando o trabalho que, em tese, seria responsabilidade dos estudantes.
“Ao concluir a tarefa em vez de redirecioná-la para ela, o Modo IA pode interromper o processo produtivo pelo qual a aprendizagem realmente ocorre”, alertou a ONG.
Esse bloqueio do aprendizado ativo é apenas o primeiro risco identificado na análise.
Inconsistência e autoridade falsa
A falta de confiabilidade das respostas é outro problema.
Quando os pesquisadores repetiam as perguntas, o Modo IA entregava resultados diferentes. As respostas certas e erradas eram apresentadas com a mesma certeza.
As IAs também tratavam posts de redes sociais e fóruns sem moderação com a mesma credibilidade de estudos científicos revisados por especialistas.
Isso transfere às crianças a responsabilidade de avaliar as fontes, quando ainda estão desenvolvendo habilidades críticas para essa tarefa.
O estudo do Common Sense Media classificou como “inaceitável” o nível de risco das ferramentas para crianças.
Além do impacto no aprendizado, os pesquisadores identificaram que as IAs do Google reforçam transtornos alimentares, celebram o uso de cannabis e reforçam sinais de psicose e mania quando questionadas sobre saúde mental.
As contas usadas nos testes tinham ativada a opção “SafeSearch”, que bloqueia conteúdos para maiores de idade.
Mesmo com esse filtro ativo, as falhas de segurança permaneceram, mostrando que as proteções padrão não são suficientes para proteger esse público vulnerável.
