Zuckerberg, da Meta (META.US), responde ao debate sobre "desaceleração" da IA: continuará desenvolvendo as capacidades do modelo e reforçando a segurança

De acordo com informações do Zhihui Finance APP, o CEO da Meta Platforms (META.US), Mark Zuckerberg, e o responsável de IA da empresa, Alexander Wang, se pronunciaram sobre a disputa em torno da velocidade de desenvolvimento da IA, defendendo que os laboratórios de IA devem continuar a aprimorar as capacidades dos modelos, ao mesmo tempo em que constroem medidas de proteção mais robustas em torno destes modelos cada vez mais poderosos.

As declarações de ambos foram publicadas na plataforma X. Atualmente, o setor debate amplamente se o desenvolvimento de capacidades deve ser desacelerado até que haja maiores avanços em segurança de IA. O conceito de segurança em IA refere-se à garantia de que os sistemas de IA sigam de maneira confiável as intenções e valores humanos.

As ações da Meta subiram por três sessões consecutivas até terça-feira, acumulando alta de 4,2%, com leve valorização no after-hours. No Stocktwits, no último acesso, o sentimento dos investidores de varejo para esse papel era de “extremamente pessimista”.

Zuckerberg: laboratórios têm motivação para criar uma IA mais segura

Zuckerberg afirmou que as empresas de IA já possuem fortes incentivos comerciais e jurídicos para promover a segurança dos modelos e alinhá-los aos usuários. “As pessoas não vão querer usar agentes inteligentes que não são compatíveis com seus interesses ou que não agem conforme seu comando”, escreveu Zuckerberg. “Qualquer laboratório que não se concentre em alinhamento ficará para trás.”

Ele acredita que o alinhamento está se tornando uma importante vantagem competitiva por si só, e não apenas uma restrição para o desenvolvimento da IA. “Minha visão é que confiança e alinhamento estão rapidamente se tornando as capacidades mais importantes para diferenciar agentes e modelos”, declarou.

Zuckerberg também mencionou que a Meta decidiu adiar o lançamento do modelo Muse por alguns meses justamente para tratar questões de segurança e proteção.

Meta apoia supervisão externa

Tanto Zuckerberg quanto Alexander Wang defenderam o aumento da participação de avaliadores independentes e supervisão externa à medida que os modelos de IA se tornam mais potentes.

“Ter avaliadores e consultores independentes é uma das melhores práticas do setor,” disse Zuckerberg, ressaltando que um ecossistema de avaliadores maior e mais diversificado irá melhorar a segurança da IA.

Alexander Wang também afirmou que os laboratórios de IA devem manter um “forte quadro de governança” durante todas as fases de treinamento e implantação, incluindo avaliadores externos, bem como fiscalização independente sobre padrões de segurança na publicação dos modelos.

Ele acrescentou: “Cada laboratório precisa operar sob os sistemas de defesa das democracias... Isso significa que, se um modelo causar danos, o laboratório enfrentará significativas responsabilidades legais.”

Meta defende estratégia de alocação de poder computacional

Um dos pontos centrais do argumento dos dois executivos é a decisão da Meta de dedicar a maior parte do poder computacional para servir os usuários, em vez de acelerar o aprimoramento recursivo autônomo (RSI).

“Dedicar a esmagadora maioria de nossa capacidade computacional para servir a humanidade, e não competir pelo aprimoramento recursivo autônomo, é uma das melhores formas de garantir o desenvolvimento seguro desta tecnologia,” disse Zuckerberg.

A preocupação é que o RSI possa permitir que sistemas de IA elevem suas capacidades rapidamente, possivelmente escapando ao controle humano e aumentando o risco de modelos poderosos saírem de controle.

Alexander Wang também descreveu a competição pelo RSI como “um dos caminhos mais perigosos que podem levar à perda de controle de modelos poderosos”.

Debate sobre ritmo da IA polariza setor de tecnologia

A disputa sobre o ritmo do desenvolvimento da IA está principalmente dividida entre: Dario Amodei, CEO da Anthropic, que pede para desacelerar o desenvolvimento de IA de ponta para que os mecanismos de segurança possam acompanhar; e Sam Altman, CEO da OpenAI, Satya Nadella, CEO da Microsoft, e Elon Musk da SpaceX, que defendem um avanço cauteloso e focado em segurança, porém sem interromper o desenvolvimento.

Por outro lado, o presidente dos Estados Unidos, Donald Trump, é contra desacelerar a corrida americana pela IA, temendo que a China assuma a liderança; já David Sacks, ex-conselheiro de IA de Trump, acredita que as empresas devem controlar seus próprios riscos, em vez de buscar restrições governamentais, e coloca em dúvida os alertas de segurança da Anthropic.

O investidor Michael Burry questiona se os pedidos para desacelerar o desenvolvimento não servem, em parte, a interesses próprios, já que isso poderia proteger as atuais empresas de IA contra a concorrência.