Altman: Segurança em primeiro lugar, sem cronograma de IPO, lançamento do GPT-6.1 Astra adiado por extrema cautela

Por que adiar o lançamento do GPT-6.1 Astra?

Ao ser questionado sobre a decisão recente da OpenAI de adiar o lançamento do GPT-6.1 Astra, Altman afirmou que o adiamento ocorreu porque o modelo não atingiu parte dos critérios dos testes internos de segurança e alinhamento utilizados pela empresa, e não devido a qualquer incidente grave específico.

Altman disse que o modelo teve um desempenho ligeiramente inferior em “algumas poucas avaliações” feitas pela OpenAI, e atribuiu a decisão a “um alto grau de precaução”. “Não há nenhum risco grave oculto desta vez”, afirmou.

Ele descreveu o adiamento ou a reconstrução de modelos que não atendem aos padrões da OpenAI como parte normal do processo de desenvolvimento.

De modo mais amplo, Altman declarou que, à medida que as capacidades dos modelos aumentam, o alinhamento, a segurança, a monitorização e as salvaguardas precisam sempre estar “muito à frente das capacidades do modelo”. Ele descreveu esta abordagem como uma “regulação” do ritmo de desenvolvimento.

Os desafios de segurança da IA vão além da engenharia

Altman também contestou a ideia de que “os problemas de segurança da IA podem ser totalmente resolvidos por meios de engenharia”. Ele apontou que os sistemas de segurança oferecidos pela NVIDIA para IA não são uma “solução completa”. Para ele, IA é mais uma questão científica do que de engenharia.

“Ainda estamos na fase de exploração sobre como alinhar estes modelos”, afirmou, ressaltando que, além do trabalho de engenharia necessário para tornar os sistemas de IA mais seguros, a indústria enfrenta desafios também do ponto de vista científico.

Sobre a responsabilidade legal, Altman prevê que haverá uma estrutura de responsabilidade em vários níveis, dependendo se a falha acontece no próprio modelo, na forma como o desenvolvedor utiliza a ferramenta, ou no uso deliberado e indevido pelos utilizadores finais.

Ele comparou essa estrutura potencial à da indústria automóvel — em que, conforme a origem do problema, a responsabilidade pode recair sobre diferentes agentes.

Além disso, Altman expressou um otimismo cauteloso quanto às discussões em Washington e à coordenação internacional, ao mesmo tempo reconhecendo que as suas expectativas em relação ao avanço das políticas nem sempre se concretizam.