Altman: La seguridad es la prioridad, no hay un calendario para la salida a bolsa y el lanzamiento de GPT-6.1 Astra se pospone por extrema precaución.

¿Por qué se pospuso el lanzamiento de GPT-6.1 Astra?

Cuando le consultaron sobre la reciente decisión de OpenAI de posponer el lanzamiento de GPT-6.1 Astra, Altman explicó que la medida se debió a que el modelo no cumplió con algunos de los estándares internos usados por la empresa para evaluar seguridad y alineamiento, y no por la ocurrencia de ningún incidente grave específico.

Altman señaló que el modelo tuvo un desempeño “ligeramente menor” en “unas pocas evaluaciones” que utiliza OpenAI para sus pruebas, y atribuyó la decisión a “mucha precaución”. “Esta vez no hay ningún riesgo grave”, afirmó.

Calificó el aplazamiento o la reestructuración de modelos que no alcanzan los estándares de OpenAI como parte normal del proceso de desarrollo.

Desde una perspectiva más amplia, Altman aseguró que, a medida que los modelos avanzan en sus capacidades, el alineamiento, la seguridad, la supervisión y las protecciones siempre deben “ir mucho más rápido que las capacidades propias de los modelos”. Describió este enfoque como una especie de “regulación” del ritmo de desarrollo.

Los desafíos de la seguridad en la IA van más allá de la ingeniería

Altman también refutó la idea de que “los problemas de seguridad en la IA pueden resolverse completamente mediante ingeniería”. Señaló que los sistemas de seguridad que provee Nvidia para la IA no constituyen una “solución integral”. La IA es, sobre todo, un tema científico, no solo un problema de ingeniería.

“Todavía estamos en una etapa de exploración en cuanto a cómo alinear estos modelos”, opinó, y agregó que además del trabajo de ingeniería necesario para hacer los sistemas de IA más seguros, la industria enfrenta desafíos científicos.

En relación a la responsabilidad legal, Altman predijo que aparecerá un marco de responsabilidad multinivel, dependiendo de si el fallo proviene del propio modelo, del modo en que lo utilizan los desarrolladores o del abuso intencional por parte del usuario final.

Comparó esta posible estructura con la del sector automovilístico — en el que, según el punto exacto donde surge el fallo, la responsabilidad puede recaer en diferentes actores.

Además, Altman expresó un optimismo cauteloso respecto a las discusiones en Washington y a la coordinación internacional, aunque reconoció que las expectativas sobre la evolución de las políticas no siempre se cumplen.