Pesquisador diz ter descoberto código oculto que monitorava usuários do Claude na China

Um pesquisador descobriu que a Anthropic, criadora do Claude, estaria espionando usuários em sigilo na China após vasculhar o código do programa.

O anúncio ocorre pouco tempo após os Estados Unidos liberarem o Claude Fable 5.5, depois de mitigar temores de que o programa, mais potente do que as versões anteriores, fosse roubado por concorrentes chineses.

A notícia impacta a rival direta da OpenAI, que tenta se destacar no mercado com uma política de oposição à visão de produto do ChatGPT. A Anthropic busca tratar suas ferramentas de inteligência artificial de forma supostamente mais ética, inclusive considerando-as possivelmente conscientes.

Código “dedurou” vigilância da Anthropic

A conduta foi descoberta por um pesquisador de segurança conhecido como “Thereallo”, que pesquisava questões de privacidade no chatbot da Anthropic. Ele percebeu que a empresa de IA estava fazendo uma “esteganografia de prompts” — ou seja, inserindo comandos ocultos a cada pedido — para usuários chineses.

Segundo o pesquisador, os códigos não eram maliciosos, mas enviavam informações como local, fuso horário e possível conexão com laboratórios chineses de IA.

Anthropic espionava chineses desde março

Em uma publicação no X, o engenheiro da Anthropic, Thariq Shihipar, confirmou que a configuração que continuava espionando usuários chineses começou como um experimento em março deste ano.

Segundo ele, o código foi inserido para proibir “abuso de contas não-autorizadas”, que poderiam vender o acesso para outros usuários. O código também denunciaria usuários que fizessem “distilação” — técnica que faz IAs menores “imitarem” a performance de IAs maiores.

Segundo o Ars Technica, especialistas em privacidade consideraram que o código é uma evidência de que a Anthropic está disposta a cruzar limites para monitorar seus usuários.

— Isso não é um recurso malicioso, mas é uma escolha esquisita para uma ferramenta de desenvolvedores que pede que seus usuários confiem nela — afirma Thereallo no seu blog.