China, retaliação, cibercrimes: entenda o motivo do Claude Fable 5, IA mais poderosa do mundo, ser bloqueado pelos EUA

Menos de um dia após o lançamento, o Claude Fable 5, nova versão da inteligência artificial de ponta da Anthropic, foi bloqueado por ordens do governo dos Estados Unidos. O pretexto do governo norte-americano é de que a IA poderia ser usada para intensificar ciberataques.

A diretriz do governo dos Estados Unidos proibia o uso do assistente de IA fora do país — que é onde está a maior parte dos clientes da empresa. Em contrapartida, a Anthropic decidiu retirar o acesso da ferramenta para todos os usuários.

Pretexto é de segurança digital

Segundo a nota da Anthropic, o governo norte-americano encontrou modos de burlar as travas de segurança da nova IA, o que permitiria que usuários mal-intencionados usassem a ferramenta para ataques. Porém, a empresa alega que as vulnerabilidades apresentadas eram pequenas.

No comunicado, a Anthropic afirma que o governo não forneceu evidências do Claude Fable 5 tendo suas travas de segurança burladas, e que foi bloqueado mesmo com outros chatbots públicos demonstrando capacidade de encontrar as mesmas falhas.

Anthropic vive conflito com governo dos EUA

O episódio ocorreu pouco tempo após outro problema com a gestão Trump. Anteriormente, a Anthropic foi sondada para que a tecnologia por trás do Claude fosse utilizada em ferramentas de vigilância em massa e em armas automatizadas. A empresa recusou a proposta.

Segundo o TechCrunch, o desentendimento fez com que o governo dos Estados Unidos classificasse a dona do Claude como um “risco na cadeia de distribuição”. O termo é uma expressão guarda-chuva para empresas que não aceitam as regras do Pentágono e ameaçam o país.

Grupo chinês teria acessado Claude

Uma fonte anônima ouvida pelo Semafor afirma que o Claude Fable 5 foi bloqueado após a Casa Branca suspeitar que a China poderia ter copiado a ferramenta. E, com isso, poderia usar do seu potencial para intervir no país.

O governo dos Estados Unidos não declarou as evidências por trás das suspeitas. Mas o processo é plausível: empresas de IA aplicam uma técnica chamada “distilação” — que é quando modelos menores passam a imitar o comportamento e raciocínio de modelos gigantes.

Amazon teria envolvimento com bloqueio de Claude

De acordo com o Wall Street Journal, é possível que a Amazon, investidora direta da Anthropic, tenha interferência direta nesse episódio. O atual CEO da empresa, Andy Jassy, teria dito a oficiais do governo que a empresa conseguiu usar a nova IA para obter informações possíveis de uso em ataques digitais.

Um porta-voz da empresa de Jeff Bezos disse ao TechCrunch que não é incomum que o governo procure a empresa para conselhos em assuntos de riscos potenciais. No entanto, não deu mais detalhes sobre essa discussão.