Os Estados Unidos proibiram, nesta sexta-feira, 12, o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic. A justificativa apresentada pelo país foi risco de “segurança nacional”.

A medida vale para estrangeiros que estejam dentro e fora dos EUA, incluindo funcionários da própria startup. Para cumprir a diretiva, a empresa precisou tirar os modelos do ar globalmente.

O pedido não detalhou qual seria o risco de segurança nacional. A Anthropic, no entanto, acredita que a ação do governo possa estar relacionada à possibilidade de um jailbreak do Fable 5.

A prática envolve o uso de engenharia de prompt ou simulações para fazer com que um bot de inteligência artificial responda de forma diferente daquela para a qual foi programado. A técnica pode ser usada para contornar regras de segurança e princípios éticos, executar ações restritas ou inserir nos modelos um viés diferente do definido inicialmente.

Em comunicado, a dona do Claude informou que cumpriu a ordem, mas afirmou acreditar que a diretiva do governo seja resultado de um “mal entendido”. A empresa discorda que a possibilidade de jailbreak seja motivo suficiente para impedir o uso da ferramenta por milhões de pessoas.

“Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, escreveu a empresa em comunicado.

A Anthropic afirmou que já havia informado ao governo americano sobre a possibilidade da “invasão”, mas criticou a atitude adotada.

“Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios”, completou a empresa.

A ordem foi emitida três dias após o lançamento dos modelos. O Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça-feira, 9.

Os modelos ficariam disponíveis gratuitamente por apenas 13 dias. Depois da segunda-feira, 22 de junho, os usuários deixariam de utilizá-los por meio de planos de assinatura e passariam a acessar os modelos por pagamento de preços de API, com cobrança por cada requisição.

Esta não é a primeira divergência entre o governo americano e a Anthropic. No fim de fevereiro, o governo determinou que agências americanas parassem de usar os modelos de IA da startup, depois que a empresa se recusou, por razões éticas, a permitir que as forças armadas do país utilizassem seus modelos sem restrições e sem salvaguardas técnicas.