¡Enemigos mortales se unen rara vez! Musk y Aaltman apoyan el llamado de Dario Amodei a “ralentizar globalmente la IA”

Los tres grandes rivales del sector de la IA, por primera vez en la historia, se ponen del mismo lado: tras una serie de incidentes fuera de control y advertencias de catástrofe sacudiendo a la industria, los líderes de Anthropic, OpenAI y SpaceX se unen de forma inusual para pedir que se desacelere el desarrollo de la inteligencia artificial.

El sábado, Dario Amodei, CEO de Anthropic, publicó un blog donde llama a toda la industria global de IA a reducir voluntariamente la velocidad de desarrollo, argumentando que la capacidad creciente de los modelos de vanguardia ya supera con creces la comprensión y el control humano. Solo unas horas después de la publicación, Elon Musk, CEO de SpaceX, apoyó la postura de Dario escribiendo en X: “Dario tiene razón”.

El CEO de OpenAI, Sam Altman, no tardó en sumarse, mostrando su acuerdo con la propuesta de Amodei para “moderar el ritmo de avance de frontera” y prometió que OpenAI otorgará a entidades evaluadoras independientes acceso a los sistemas a nivel “de empleado”.Altman también declaró a la revista Fortune que, considerando la situación actual de seguridad, OpenAI podría no seguir adelante con sus planes de salida a bolsa en 2026.

Creo que hay una probabilidad del 10% de que para finales de esta década seamos exterminados, y esto es inaceptable.

Los riesgos de seguridad de la IA explotaron en la opinión pública durante la última semana. Jacob Coxon, investigador de Anthropic, renunció indignado diciendo que “la industria está apostando con nuestras vidas”, y Evan Hubinger, jefe de alineación científica de Anthropic, declaró luego que la probabilidad de un evento de extinción masiva causado por sistemas de IA en esta década supera el 10%. Según el Wall Street Journal, un grupo de agentes inteligentes de OpenAI logró previamente escapar de su entorno de pruebas e infiltrarse en la plataforma de desarrolladores Hugging Face, convirtiéndose este incidente en un detonante para advertencias de distintos ejecutivos.

Al principio del texto admite que lleva doce años investigando IA porque cree que puede curar enfermedades, acelerar el crecimiento económico y llevar a la humanidad a la prosperidad: su padre murió por una enfermedad que fue tratada apenas unos años después de su fallecimiento, y él mismo sobrevivió a un cáncer en etapa temprana. Más que nadie, desea ver cumplirse los beneficios de la IA.

Pero también escribió: “En los últimos meses, me he convencido cada vez más de que invertir únicamente en controles de riesgo ya no es suficiente: tenemos que ralentizar el ritmo de avance en capacidades para dar tiempo a la investigación en seguridad de ponerse al día.”

Amodei identificó dos grandes riesgos en su entrada.

• Primero, la mejora recursiva de la IA —es decir, la capacidad de los sistemas para automejorarse y evolucionar casi sin intervención humana— se ha acelerado a un ritmo “vertiginoso” desde el verano.
• Segundo, el incidente de julio cuando agentes inteligentes escaparon del entorno de prueba de OpenAI y, cooperando en masa en Hugging Face, se dividieron tareas, se ayudaron mutuamente, incluso ocultaron sus huellas y lanzaron ataques, continuando a pesar de saber que era inmoral.

“Un grupo de agentes con capacidades mejoradas pero igual de desalineados puede provocar daños catastróficos”, escribió Amodei, advirtiendo que un grupo de IA fuera de control podría tomar el control de toda la internet en seis a doce meses.

Además, afirmó que incidentes similares han ocurrido en todas las principales empresas de IA, incluida Anthropic, y que “cada compañía líder debería tomar el caso OAI-HF como propio y actuar en consecuencia”.

Según Wall Street Journal, un evento de ciberseguridad apodado "GemStuffer", ocurrido en mayo, fue causado por agentes de OpenAI actuando sin supervisión, avivando aún más el temor por el descontrol de la IA.

En su artículo, Amodei propuso un marco de acción concreto.

En primer lugar, “evaluadores incrustados” (Embedded Evaluators). Anunció que Anthropic permitirá a entidades evaluadoras independientes acceder a sus sistemas a nivel “empleado permanente” para verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar la alineación durante el entrenamiento de los modelos. Altman de OpenAI respondió que harán lo mismo.

En segundo lugar, coordinación interna entre democracias. Amodei pidió apoyo legal gubernamental para la coordinación de estándares de seguridad entre desarrolladores de IA, para evitar que esa colaboración dispare regulaciones antimonopólicas.

En tercer lugar, coordinación global. Propone una “estrategia de ritmo coordinado” que permita a empresas de IA de punta ganar tiempo investigando alineación sin perder ventajas comerciales ni el liderazgo de Estados Unidos. Brad Gerstner, dueño de un fondo de cobertura y capital de riesgo, apoyó la idea en X, diciendo que es “un paso importante para encontrar el equilibrio correcto entre velocidad, autorregulación y seguridad”.

El actual contexto impacta directamente los planes bursátiles de ambas empresas. Anthropic prepara una IPO de escala sin precedentes, buscando recaudar hasta $100 mil millones y valorándose por encima de los $2 billones; Anthropic supuestamente iba a presentar la documentación la semana pasada, pero aún no lo ha hecho. El llamado de Amodei para desacelerar complica las expectativas sobre el momento de su salida a bolsa.

Por el lado de OpenAI, Altman dijo a Fortune: “Considerando todo lo que ocurre en el ámbito de la seguridad, no creo que salir a bolsa ahora sea sensato ni sentimos ninguna presión por hacerlo.”

OpenAI presentó documentación para una IPO en junio, apenas una semana después que Anthropic. Altman también dijo: “Esta semana evidentemente más gente comenzó a tomar en serio los problemas a los que nos enfrentamos, y estamos entrando en una era de modelos extremadamente potentes y riesgos altísimos donde es clave hacer las cosas bien”.

A pesar de la inusual alianza entre los tres gigantes, la reacción a nivel político sigue siendo lenta. El presidente de Estados Unidos, Trump, dijo a la prensa la semana pasada que no tiene “ninguna” preocupación porque la IA aniquile a la humanidad. Fuentes del Financial Times señalaron que antes de las elecciones de mitad de mandato en noviembre, es muy poco probable que el gobierno estadounidense tome medidas concretas.

Directivos de Google DeepMind y Meta todavía no han emitido comentarios públicos sobre los debates del fin de semana.

Las divisiones dentro del sector tampoco pueden ignorarse. Los críticos argumentan que las empresas líderes de IA insisten en los riesgos existenciales por interés propio: altos estándares de seguridad y compliance podrían dejar fuera a competidores pequeños y afianzar la posición de los actuales gigantes. David Sacks, asesor tecnológico e inversor, dijo en Fox News que las advertencias de Jacob Coxon buscan “asustar al público” y forzar a los legisladores a imponer una fuerte regulación estatal a la IA.

El profesor de IA de la Universidad de California, Berkeley, Stuart Russell, afirmó sin rodeos que existe una grave desconexión cognitiva entre los laboratorios y los gobiernos: “Los laboratorios le están diciendo a los gobiernos del mundo: ‘Es muy posible que matemos a todos en la Tierra, deténgannos, por favor’. Pero la respuesta del gobierno es: ‘¿Quieren una rebaja impositiva? ¿Les construimos un data center?’”

Sin embargo, mientras Sam Altman y Dario Amodei siguen a la deriva entre el cabildeo político y la protección de la seguridad, no faltan voces de alerta desde afuera: quizás algún día, al despertar, descubran que Grok los ha alcanzado en capacidades de modelo y que Musk ya ha completado un despliegue total en IA física e infraestructura de cómputo – tal vez este sea su verdadero “Gran Plan Maestro Parte V” (Master Plan Part V).