Altman: La seguridad es lo primero, no hay un calendario para la salida a bolsa y el lanzamiento de GPT-6.1 Astra se ha pospuesto por extrema precaución.

¿Por qué posponer el lanzamiento de GPT-6.1 Astra?

Al ser preguntado sobre la reciente decisión de posponer el lanzamiento de GPT-6.1 Astra por parte de OpenAI, Altman afirmó que esto se debió a que el modelo no cumplió algunos de los estándares de prueba que la empresa emplea para evaluar la seguridad y el alineamiento, y no por ningún incidente grave concreto.

Altman indicó que el modelo "obtuvo resultados ligeramente inferiores en un reducido número de evaluaciones utilizadas por OpenAI", y atribuyó la decisión a una "gran cautela". "En esta ocasión no hubo ningún peligro importante", añadió.

Describió el aplazamiento o la reconceptualización de modelos que no alcanzan los estándares de OpenAI como parte normal del proceso de desarrollo.

En un contexto más amplio, Altman señaló que, a medida que aumentan las capacidades de los modelos, el alineamiento, la seguridad, la supervisión y la protección deben estar siempre "muy por delante de las capacidades del modelo". Denominó este enfoque como una "regulación" del ritmo de desarrollo.

Los desafíos de seguridad de la IA superan el ámbito de la ingeniería

Altman también rebatió la idea de que "los problemas de seguridad de la IA pueden resolverse completamente con métodos de ingeniería". Señaló que los sistemas de seguridad que Nvidia ofrece para la IA no son una "solución completa". Para él, la IA es, sobre todo, un reto científico y no meramente de ingeniería.

"Seguimos explorando cómo alinear estos modelos", considera, y cree que además del trabajo de ingeniería necesario para que los sistemas sean más seguros, la industria también afronta desafíos a nivel científico.

Respecto a la responsabilidad legal, Altman prevé la aparición de un marco de responsabilidad multinivel, dependiendo de si el fallo proviene del propio modelo, del modo en que los desarrolladores lo utilizan o de un uso indebido intencionado por parte de los usuarios finales.

Comparó esta estructura potencial con la industria automovilística: según el punto del proceso en el que se produzca el fallo, la responsabilidad puede recaer en diferentes partes.

Además, Altman expresó un optimismo cauteloso respecto a las discusiones en Washington y a la coordinación internacional, aunque reconoció que las expectativas en materia de políticas no siempre se cumplen.