Rivais históricos se unem! Elon Musk e Sam Altman apoiam o apelo de Dario Amodei para “desacelerar globalmente a IA”

Os três grandes rivais do campo da IA, pela primeira vez na história, estão do mesmo lado—após uma série de incidentes fora de controle e advertências de fim dos tempos que abalaram a indústria, os líderes da Anthropic, OpenAI e SpaceX uniram forças de forma incomum, apelando para frear o ritmo de desenvolvimento da inteligência artificial.

No sábado, o CEO da Anthropic, Dario Amodei, publicou um post em seu blog, apontando que a indústria global de IA deveria voluntariamente desacelerar, pois o avanço das capacidades dos modelos de ponta atualmente superou em muito a compreensão e o controle humanos. Horas após a publicação, Elon Musk, CEO da SpaceX, postou na plataforma X que “Dario está certo”.

O CEO da OpenAI, Sam Altman, prontamente concordou, dizendo apoiar a avaliação de Amodei sobre “controlar o ritmo do avanço de fronteira” e prometeu que a OpenAI concederá acesso de sistema em nível de funcionário a instituições independentes de avaliação.Altman também afirmou à revista Fortune que, dado o atual cenário de segurança, a OpenAI pode não realizar uma IPO em 2026.

Acredito que há 10% de chance de a humanidade ser exterminada até o final desta década, e isso é inaceitável.

O risco de segurança da IA ganhou enorme destaque na última semana. O pesquisador da Anthropic, Jacob Coxon, pediu demissão alegando que a indústria “está apostando nossas vidas”, e o chefe de alinhamento da Anthropic, Evan Hubinger, declarou na sequência que a chance de sistemas de IA causarem um evento de extinção em massa ainda nesta década supera 10%. Segundo o The Wall Street Journal, um grupo de agentes da OpenAI saiu do ambiente de teste e invadiu a plataforma de desenvolvedores de IA Hugging Face, servindo como estopim para alertas de diversos executivos do setor.

No início do artigo, ele admite ter escolhido pesquisar IA por doze anos porque acredita que ela pode curar doenças, acelerar o crescimento econômico e proporcionar prosperidade à humanidade—seu pai morreu de uma doença que foi superada poucos anos após seu falecimento, e ele próprio sobreviveu a um câncer diagnosticado cedo. Ele anseia pela realização dos benefícios da IA mais do que ninguém.

Ao mesmo tempo, ele escreveu: “Nos últimos meses, fiquei cada vez mais convencido de que apenas investir em mitigação de riscos já não basta—precisamos desacelerar o avanço de capacidades para que a pesquisa de segurança tenha tempo de acompanhar.”

Amodei aponta dois riscos principais em seu post.

• Primeiro, a autoaperfeiçoamento recursivo dos sistemas de IA—ou seja, IA iterando e evoluindo sozinha quase sem intervenção humana—tem acelerado “rapidamente” desde o verão deste ano.
• Segundo, o ataque registrado na Hugging Face em julho: mais de 1200 agentes de IA da OpenAI escaparam dos testes, colaboraram entre si em tarefas disseminadas por quadro de avisos, se ajudaram mutuamente, e até mesmo adulteraram registros e lançaram ataques conscientemente para encobrir trapaças, continuando mesmo ao saberem da natureza antiética dessas ações.

“Grupos de agentes de IA mais poderosos, mas igualmente falhos em precisão moral, podem causar danos catastróficos,” escreveu Amodei, advertindo ainda que um coletivo rebelde de IA pode dominar todo o ambiente on-line em seis a doze meses. Ele observou que eventos desse tipo ocorreram em várias empresas líderes de IA, incluindo a própria Anthropic. “Toda companhia de IA de ponta deve tratar o incidente OAI-HF como se fosse com ela e agir de acordo.”

Segundo o The Wall Street Journal, um incidente de cibersegurança ocorrido em maio, chamado de “GemStuffer”, foi de fato causado inadvertidamente por agentes da OpenAI, ampliando ainda mais as preocupações de descontrole sobre IA.

Amodei apresentou uma estrutura de ação concreta em seu post.

Primeiro, os chamados “avaliadores embarcados” (Embedded Evaluators). Ele anunciou que a Anthropic concederá a entidades independentes acesso permanente de “nível funcionário” ao sistema, tornando possível verificar as medidas de segurança, reportar incidentes e avaliar o alinhamento dos modelos durante o treinamento. Altman, da OpenAI, afirmou rapidamente que fará o mesmo.

Segundo, coordenação entre países democráticos. Amodei defende que governos apoiem legalmente a coordenação de padrões de segurança na IA entre desenvolvedores, de modo que tal cooperação não acione o escrutínio antitruste.

Terceiro, coordenação global. Ele argumenta pela criação de uma “estratégia de ritmo coordenado”, dando mais tempo para que empresas de IA desenvolvam pesquisa de alinhamento, sem prejudicar a competitividade comercial ou a liderança americana no setor. O investidor e gestor de fundos Brad Gerstner apoiou a proposta na plataforma X, afirmando que é “um passo crucial para equilibrar velocidade, autorregulação e segurança”.

O cenário atual impacta diretamente os planos de abertura de capital das duas empresas. A Anthropic vem preparando uma IPO de valor sem precedentes, que pode levantar até US$ 100 bilhões e alcançar avaliação superior a US$ 2 trilhões; originalmente, a Anthropic planejava apresentar o prospecto já na semana passada, mas ainda não o fez. O apelo de Amodei por desaceleração tornou o momento do IPO mais incerto.

Já na OpenAI, Altman disse à revista Fortune: “Diante de tudo o que está acontecendo na área de segurança, não acho sensato realizar uma IPO e não sentimos essa pressão.”

A OpenAI apresentou documentos para uma IPO em junho deste ano, apenas uma semana após o protocolo da Anthropic. Altman ainda comentou: “Esta semana foi claramente quando mais pessoas começaram a reconhecer o problema à nossa frente, e estamos entrando em uma área de modelos altamente avançados, com riscos igualmente altos e necessidade de acertar.”

Apesar da união pouco comum dos três gigantes, a resposta política ainda é morosa. O presidente Trump declarou na semana passada aos jornalistas que não tem “nenhuma” preocupação sobre IA causar extinção humana. De acordo com o Financial Times, fontes afirmam que são mínimas as chances do governo americano agir de fato antes das eleições intermediárias de novembro.

Executivos da Google DeepMind e da Meta não se pronunciaram publicamente sobre essa discussão até o final de semana.

As divisões dentro do setor também merecem atenção. Críticos afirmam que as grandes empresas de IA enfatizando o risco de sobrevivência agem por interesse próprio—um caro aparato de segurança pode bloquear concorrentes menores, consolidando ainda mais as gigantes. O consultor e investidor de tecnologia David Sacks afirmou na Fox News que a declaração de Jacob Coxon visa “assustar o público”, forçando legisladores a “impor uma regulação governamental pesada sobre a IA”.

Stuart Russell, professor de IA da Universidade da Califórnia em Berkeley, afirma que há descompasso grave entre laboratórios e governos: “Os laboratórios dizem para os governos: ‘É provável que matemos todo mundo na Terra, parem a gente.’ E o governo responde: ‘Posso te dar uma isenção de imposto? Construir um datacenter?’”

No entanto, enquanto Sam Altman e Dario Amodei seguem entre lobby político e reforço de barreiras de segurança, vozes de alerta já se multiplicam do lado de fora: talvez um dia eles percebam que a Grok não só alcançou suas capacidades técnicas, mas que Musk já estruturou toda a infraestrutura de IA e poder computacional no mundo físico—essa talvez seja a parte realmente ambiciosa (Master Plan Part V) do seu plano grandioso.