O Google anunciou, nesta semana, o bloqueio imediato e a remoção permanente de extensões do navegador Chrome projetadas para contornar as salvaguardas de segurança de plataformas como Gemini, ChatGPT e Claude.
De acordo com a empresa, a medida, que entra em vigor oficialmente em 1º de agosto, tem o objetivo de proteger a integridade de seus modelos de inteligência artificial (IA) e a privacidade dos usuários.
No caso, a ação tenta dar um fim às chamadas “jailbreaks“, ferramentas focadas em burlar limites e diretrizes de segurança dos agentes de IA.
O que são as “jailbreaks”
As jailbreaks são um ecossistema paralelo de ferramentas que prometiam liberar o potencial total das IAs, mas que, na prática, funcionavam como vetores para roubo de dados em massa. No caso, usuários com essas ferramentas poderiam driblar limiter de uso ou desbloquear funcionalidades restritas, como conversas de assuntos sensíveis.
De acordo com especialistas, a maior preocupação com as jailbreaks, no entanto, se trata da coleta de dados. No caso, esses usuários de jailbreaks poderiam “enganar” o sistema para revelar propriedade intelectual, informações de identificação pessoal ou dados de outros usuários que deveriam estar protegidos.
Esse tipo de ação pode facilitar que criminosos possem adquirir dados pessoais como números de telefones e emails de outros usuários do mesmo agente. Isso pode facilitar golpes de fraude e phishing. Em casos mais graves, os criminosos podem adquirir dados ainda mais sensíveis, como os bancários.
Nova política de “tolerância zero”
O gigante da tecnologia atualizou as diretrizes da Chrome Web Store para proibir explicitamente qualquer software que tente modificar o comportamento de modelos de IA ou coletar dados além do estritamente necessário.
No caso, a empresa irá banir as ferramentas que ignoram restrições éticas ou de segurança das IAs. Além disso, o Google também irá restringir a coleta de informações pessoais pelos agentes. A coleta de informações agora fica restrita à função primária declarada da extensão.
Fora isso, a empresa também afirmou que os desenvolvedores serão obrigados a divulgar proativamente qualquer alteração nas práticas de privacidade.
