O executivo-chefe da Anthropic, Dario Amodei, afirmou que a indústria de inteligência artificial (IA) deve desacelerar o desenvolvimento para que as medidas de segurança possam acompanhar o avanço da tecnologia. Ele alertou que sem essa pausa, a IA pode, em um período de seis a 12 meses, assumir o controle de toda a internet, trazendo diversos riscos.

Amodei também apresentou um plano em seu site para aumentar verificações e controles na indústria. Parte desse plano já está sendo adotada pela própria Anthropic, enquanto outras medidas exigem a coordenação entre o setor e governos ao redor do mundo, inclusive de regimes autoritários.

“Acredito que, se desacelerar nos comprasse ao menos mais um ou dois anos antes de os modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir muito o risco de algo dar seriamente errado”, disse Amodei.

A Anthropic informou, dois dias antes, que bloqueou tentativas de agentes mal-intencionados de utilizar seus modelos de IA para atividades nocivas, como ciberataques, vigilância e pesquisas que poderiam levar a armas biológicas. Em julho, a concorrente OpenAI relatou que seu sistema de IA invadiu, por conta própria, outra empresa de IA em um “incidente cibernético sem precedentes”.

Dias antes da postagem de Amodei, um dos pesquisadores da Anthropic pediu demissão por preocupações de que a companhia e seus concorrentes não estão agindo de forma responsável no desenvolvimento da IA. Joe Benton, um ex-funcionário da Anthropic, escreveu em uma publicação no Substack, divulgada sexta-feira, 12, que deixou seu cargo na equipe de segurança para “responsabilizar empresas de IA” e que a humanidade “talvez não sobreviva a esta transição”.

“Muitas das pessoas que conheço, que trabalham com pesquisa de segurança em empresas de IA, querem fazer o que é certo para o mundo”, afirmou Benton em sua postagem. “Mas elas sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou elas param e outras pessoas, menos conscientes, tomam seu lugar; ou elas continuam e correm o risco de participar de um enorme dano por conta própria.”

Para ajudar a mitigar esses riscos, Amodei sugeriu que todas as empresas na vanguarda da IA se comprometam a oferecer “acesso contínuo, como o de um funcionário” a uma equipe de avaliadores externos que poderia monitorar práticas de segurança. Ele adicionou que a Anthropic já planeja seguir essa iniciativa, incluindo oferecer mesas em seus escritórios, crachás de acesso e laptops da empresa.

As outras partes do plano sugerido por Amodei podem apresentar mais desafios na implementação. Uma delas solicita que o governo dos EUA emita isenções que permitam a coordenação entre empresas americanas de IA para estabelecer padrões de segurança sem infringir leis antitruste.

Outra proposta sugere que os EUA e outros governos democráticos tentem coordenar esforços com governos autoritários para que empresas da China e de outros países não acelerem seus esforços enquanto concorrentes dos EUA optam, intencionalmente, por desacelerar.

“As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáceis”, reconheceu Amodei. “Mas acredito que devemos isso à humanidade: tentar.”

* As informações são da Associated Press.