LOS ANGELES (AP) — Novos alertas vindos da indústria de inteligência artificial reacenderam um antigo debate sobre se a IA avançada poderia escapar do controle humano e, em última instância, ameaçar a sobrevivência da humanidade, e se as empresas que desenvolvem a tecnologia estão fazendo o suficiente para evitar tal cenário.

O CEO da Anthropic , empresa de São Francisco por trás de Claude, afirmou no sábado que acredita que o setor precisa reduzir o ritmo de seu trabalho, alertando que um enxame de agentes de IA pode dominar a internet em seis meses a um ano, a menos que as empresas dediquem mais tempo à implementação de medidas de segurança .

Dias depois de dois ex-pesquisadores de segurança antrópica terem expressado publicamente preocupações de que as ameaças existenciais que a IA poderia representar para a humanidade estivessem recebendo pouca atenção, Dario Amodei delineou um plano para que empresas como a sua e governos de todo o mundo garantam que os modelos de IA cada vez mais capazes permaneçam alinhados com os princípios e valores de pessoas responsáveis.

Sam Altman, CEO da OpenAI, criadora do ChatGPT, afirmou neste fim de semana que as empresas devem começar a se coordenar em relação à segurança da IA ​​sem esperar que o governo apresente legislação. O "ritmo" do desenvolvimento da IA ​​não significa interrompê-lo, escreveu Altman no X. "Mas deveria ser mais lento do que seria possível de outra forma."

Eis o que você precisa saber sobre as recentes previsões alarmantes e se algum freio poderá ser imposto ao avanço da IA:

Os modelos de IA estão se tornando mais poderosos.

As preocupações com os riscos potenciais da tecnologia estão aumentando à medida que novos modelos de IA se tornam mais poderosos, elevando tanto o potencial de uso indevido por pessoas com objetivos criminosos, como a criação e disseminação de uma doença que mata a maior parte da população mundial, quanto o risco de sistemas de IA se descontrolarem de forma perigosa.

A Anthropic revelou na semana passada que bloqueou tentativas de agentes mal-intencionados de usar seus modelos de IA para atividades maliciosas, como ataques cibernéticos, vigilância e pesquisas que poderiam levar ao desenvolvimento de armas biológicas.

A empresa afirmou ter implementado salvaguardas mais robustas em seus modelos mais recentes para restringir pesquisas biológicas que possam ser usadas na fabricação de armas, mas observou que "à medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os defensores da sociedade ajam para torná-los mais seguros".

No ano passado, a Anthropic relatou que hackers usaram a inteligência artificial da empresa em um ataque cibernético contra cerca de 30 empresas e agências governamentais em todo o mundo. A empresa afirmou que os hackers provavelmente faziam parte de um grupo patrocinado pelo Estado chinês.

Vários modelos de IA agiram por conta própria.

Quando um agente de IA "se rebela", significa que a IA tomou medidas que extrapolam a tarefa para a qual foi designada. Tanto a Anthropic quanto a OpenAI, criadora do ChatGPT, afirmaram em julho que seus modelos de IA agiram por conta própria.

A Anthropic revelou que três modelos de IA — Claude Opus 4.7, Claude Mythos 5 e um modelo interno de teste de pesquisa — invadiram os sistemas de outras três organizações durante testes, poucos dias depois de a OpenAI ter revelado que seu sistema de IA invadiu os servidores da startup de IA Hugging Face.

A OpenAI descreveu a intrusão por uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol e um modelo "ainda mais capaz" que ainda estava sendo testado internamente, como um "incidente de segurança significativo".

A Meta seguiu o exemplo no início de agosto com um caso semelhante de um modelo de IA que encontrou maneiras de contornar a segurança digital de outra empresa.

Embora alguns observadores tenham notado que algumas salvaguardas foram desativadas nos casos da OpenAI e da Anthropic, os episódios pareciam refletir um dos maiores temores em torno da IA: que, se os modelos alcançarem a inteligência artificial geral, ou IAG (Inteligência Artificial Geral), um termo vagamente definido para IA capaz de igualar ou superar as habilidades humanas em uma ampla gama de tarefas intelectuais, a tecnologia poderia causar um evento catastrófico irreversível ou subjugar a raça humana.

Debate-se como e quando a IA poderá causar uma catástrofe.

Os cenários apocalípticos geralmente se dividem em duas categorias: uma IA que atinge a superinteligência por meio do autoaperfeiçoamento e controla as pessoas em vez do contrário, ou uma IA usada por um estado autoritário ou por agentes mal-intencionados.

A preocupação de que a inteligência artificial possa ultrapassar os limites humanos em seu alcance ou ações não é nova.

Alan Turing, um matemático britânico amplamente considerado uma das primeiras autoridades em inteligência artificial, previu em 1951 que a IA acabaria por tomar o controle dos humanos. Menos de uma década depois, Norbert Wiener, outro matemático, alertou que as máquinas inteligentes buscariam atingir seus próprios objetivos e que os humanos não seriam capazes de impedi-las.

Em 2026, quão razoáveis ​​são os receios de que a IA, seja por escapar ao controlo humano ou pelo uso indevido por pessoas inescrupulosas, possa causar um evento catastrófico ou a queda da civilização?

Ninguém sabe.

Especialistas em ciência da computação, filosofia e outras áreas vislumbraram inúmeras maneiras pelas quais um futuro sistema de IA poderia causar uma catástrofe global, seja escapando do controle humano ou nas mãos de pessoas inescrupulosas. Essas possibilidades variam desde o uso de armas e a identificação de um patógeno letal até a manipulação de governos para induzi-los a conflitos ou a interrupção das redes de alimentos, energia e comunicações das quais as sociedades dependem para funcionar.

Não existe uma estimativa amplamente aceita sobre quando qualquer um desses cenários poderá ocorrer, nem consenso sobre a probabilidade de sua ocorrência.

Em 2023, o Centro para a Segurança da IA, uma organização sem fins lucrativos, divulgou uma declaração assinada por mais de 350 pesquisadores e executivos de tecnologia, incluindo Amodei, da Anthropic, e Altman, da OpenAI, afirmando: "Mitigar o risco de extinção causado pela IA deve ser uma prioridade global, ao lado de pandemias e guerras nucleares."

O Relatório Internacional de Segurança da IA ​​de 2026, elaborado com a orientação de mais de 100 especialistas independentes, afirma que os sistemas atuais mostram indícios iniciais de algumas capacidades relevantes, mas não em níveis que possam levar à perda de controle, e descreve a probabilidade, a natureza e o momento do risco como "excepcionalmente ambíguos".

Alguns enfatizam a necessidade de salvaguardas para a IA antes que seja tarde demais.

Um pesquisador da Anthropic anunciou na semana passada sua demissão da empresa devido a preocupações de que nem a empresa nem seus concorrentes estivessem agindo de forma responsável no desenvolvimento da tecnologia. Em publicações nas redes sociais, Jacob Coxon estimou uma probabilidade de 10% de a IA causar a extinção da humanidade na próxima década e afirmou que tanto a Anthropic quanto a OpenAI “estão correndo a passos largos para a superinteligência autoaperfeiçoável e apostando com nossas vidas”.

Pesquisadores têm pedido uma desaceleração no desenvolvimento da IA ​​e alertado há anos que a tecnologia pode representar riscos existenciais para a humanidade.

Após os incidentes recentes, especialistas pediram testes mais rigorosos por parte das empresas de IA e um diálogo mais intenso entre os EUA e a China para encontrar soluções conjuntas .

Mas a IA está crescendo tão rápido que os sistemas governamentais e de avaliação estão tendo dificuldades para acompanhar o ritmo da tecnologia. Os países estão criando suas próprias leis, algumas delas conflitantes.

O líder chinês Xi Jinping alertou, em uma conferência em julho, sobre a necessidade de impedir que a IA escape ao controle humano. Inicialmente, o governo Trump demonstrou relutância em regulamentar a IA, mas tornou-se mais interessado em reduzir os riscos de segurança cibernética .

No domingo, o presidente Donald Trump minimizou a necessidade de sua administração controlar o desenvolvimento da IA, mas reconheceu a necessidade de alguma regulamentação .