Empresa afirma que grupo recorreu à IA para desenvolver sistemas de orientação de foguetes e mísseis, mas não conseguiram produzir uma arma operacional.

O grupo iemenita Ansar Allah, como são conhecidos os houthis, utilizou a inteligência artificial Claude, da empresa americana Anthropic, para tentar desenvolver sistemas de armas, segundo relatório divulgado pela companhia na quinta-feira (10). A Anthropic identificou três projetos militares nos quais a ferramenta teria sido empregada.

Entre os projetos estavam um foguete guiado, um míssil balístico com alcance superior a 2 mil quilômetros e um projétil equipado com um planador hipersônico. Segundo a empresa, não há evidências de que o grupo tenha conseguido produzir uma arma operacional, embora os integrantes tenham realizado um teste com um foguete guiado, que fracassou. Após o lançamento, eles voltaram a utilizar o Claude para tentar identificar as causas da falha.

De acordo com a Anthropic, os usuários utilizaram o Claude "no lugar de engenheiros de software humanos", atribuindo diferentes funções às instâncias da ferramenta para desenvolver softwares de orientação, navegação e controle de voo. Um dos projetos envolvia um sistema capaz de ajustar automaticamente a trajetória de um foguete durante o voo.

A empresa afirmou que seus mecanismos de segurança bloquearam muitos dos pedidos, mas alguns conseguiram passar pelos filtros. Os operadores teriam tentado contornar as salvaguardas ocultando os objetivos finais dos projetos e dividindo o trabalho em diferentes sessões, de modo que nenhuma conversa isolada revelasse a finalidade completa da operação.

A Anthropic informou que baniu as contas utilizadas na operação e compartilhou informações sobre a ameaça com parceiros dos setores público e privado para tentar reduzir os riscos associados aos envolvidos. A empresa também informou que está investigando os incidentes e contratou uma organização independente para revisar os casos.