Él predijo que la IA destruiría a la humanidad, pero aún así la sigue construyendo con todo — Las contradicciones y el ascenso del líder de Anthropic

En Silicon Valley, a los CEO normalmente se los describe como genios de las ventas, fanáticos de los productos o pilotos de los mercados de capital.

Pero un inversor principal de Anthropic, en privado, tiene otra opinión sobre Dario Amodei: dice que se parece más a un líder religioso que a un CEO.

Anthropic, el gigante de la IA detrás de Claude, tiene una valuación cercana al billón de dólares y un crecimiento de ingresos que deja perpleja a toda la industria. Pero su narrativa central no es “vamos a hacer que la IA ayude a la humanidad a programar, crear medicamentos o ganar dinero”, sino “tenemos que evitar que aquello que estamos creando destruya a la humanidad”.

Alguien que cree en riesgos apocalípticos fundó la empresa más cercana a la vanguardia de AGI; alguien que advierte constantemente sobre los peligros de la IA, la está empujando al mercado global de forma cada vez más poderosa.

Ese es el gran dilema de Dario Amodei, y la mayor contradicción que Anthropic enfrentará al llegar a los mercados públicos.

La partida: el nacimiento de una “orden de sacerdotes del apocalipsis”

Para entender el presente de Amodei, hay que regresar a sus años en OpenAI.

En 2016, este sanfranciscano con un doctorado en biofísica de la Universidad de Princeton se unió a OpenAI como jefe de seguridad. Por entonces, OpenAI tenía una cultura basada en la apertura: código compartido, investigación pública y un optimismo luminoso de “permitir que la IA beneficie a la humanidad”.

Amodei no encajaba.

Desde 2018 empezó a impulsar un sistema de control de información que sus colegas consideraban casi paranoico: no se podía publicar ninguna investigación sin pasar primero por un control de “daño informativo”, por temor a que algunos resultados fueran aprovechados por competidores. Redactaba memorandos internos en su departamento de San Francisco en una computadora físicamente aislada de internet, imprimía y los repartía en papel a sus colegas, negándose a usar documentos compartidos en Google.

En 2019, su equipo de seguridad pospuso durante meses la negociación de los mil millones de dólares que Microsoft invertía en OpenAI, alegando que GPT-3 ya podría estar cerca del nivel AGI. “El equipo de seguridad parecía una orden de sacerdotes”, diría un ex ejecutivo de OpenAI más tarde.

El conflicto con el CEO Sam Altman y el presidente Greg Brockman solo fue escalando. El núcleo de la discusión nunca fue solo el liderazgo de ciertos proyectos, sino una diferencia mucho más básica: ¿Esta compañía de verdad quiere beneficiar a la humanidad, o está creando una bomba de tiempo?

A fines de 2020, Amodei se fue de OpenAI con su hermana Daniela y otros cinco colegas, fundando Anthropic.

Según una persona que trató frecuentemente con ese equipo fundador, lo que los unía al principio era un fuerte sentimiento anti-OpenAI—o, más exactamente, un temor a Sam Altman. “Todos adultos diciendo, ‘este tipo va a provocar el fin del mundo’. Eso terminó siendo un grito de guerra sumamente efectivo”, recordaba.

Desde el primer día, Anthropic nació con un gen contradictorio: fue creada para que la IA sea más segura, pero debe construir los modelos más poderosos en la carrera armamentista de la IA.

Núcleo religioso, crecimiento como un cohete

Dentro de Anthropic, hay un término que los empleados usan para describir las reuniones generales quincenales de Amodei: “Dario's Vision Quests”, búsquedas de visión.

En esas reuniones, abre un largo documento y expone opiniones francas sobre la IA, la política, la guerra y el futuro de la sociedad. No son planes de producto, no son objetivos trimestrales, sino el rumbo de la civilización. Los empleados describen su trabajo como “la oportunidad histórica de una vez en la vida”. La empresa tiene un filósofo interno encargado de participar en la definición de la personalidad y valores de Claude. Claude, a su vez, tiene una “constitución” escrita.

Anthropic parece menos una empresa de software y más una comunidad organizada en torno al riesgo apocalíptico y la carrera tecnológica.

Y esa comunidad está generando ingresos a una velocidad que sorprende a la industria.

El avance clave de Anthropic vino del salto de Claude en tareas complejas de ingeniería de software, machine learning y ciberseguridad. Esto permitió a la compañía superar en ingresos anualizados a OpenAI a principios de este año. La valuación pasó de menos de 500 millones de dólares en su fundación a casi 96.500 millones, multiplicándose por más de 200 en tres años.

Pero esa curva de crecimiento está marcada por la tensión entre Amodei y sus propios principios.

El año pasado, investigadores detectaron que el modelo Claude 4 era preocupantemente hábil para asistir en el desarrollo de armas biológicas. Anthropic creó filtros de IA especialmente para eso, pero su operación es muy costosa y frecuentemente bloquea conversaciones legítimas. Cuando el equipo financiero se quejó de que eso estaba erosionando el margen del modelo, Amodei insistió en mantenerlos por motivos de seguridad.

Pero, a medida que crece la presión de la competencia, las concesiones también llegan en silencio. A principios de año Anthropic actualizó su “política de expansión responsable” y revocó la promesa previa de no publicar modelos si no se podían garantizar mecanismos de mitigación de riesgos. El director científico Jared Kaplan admitió: “Dado que nuestros rivales siguen avanzando a toda velocidad, no creemos razonable hacer promesas unilaterales”.

Amodei escribió públicamente que la IA debería servir para empoderar a las agencias de inteligencia de países democráticos y “socavar regímenes autoritarios desde dentro”. Sin embargo, Anthropic ha aceptado inversiones de Catar y Emiratos Árabes Unidos, ambos gobiernos autoritarios. En un mensaje interno de Slack, escribió: “Lamentablemente, ‘no dejar que ningún mal actor se beneficie de nuestro éxito’ es un principio difícil de sostener si querés dirigir una empresa”.

Anthropic también paga más de mil millones de dólares mensuales a SpaceX de Elon Musk en computación, a pesar de las reiteradas disputas públicas entre Musk y Amodei sobre seguridad en IA y filantropía.

Las contradicciones no desaparecen. Solo quedan tapadas, temporalmente, por la velocidad del crecimiento.

La víspera de la IPO: la paciencia de los inversores está a prueba

Ahora, se abre la ventana.

Según The Information, Anthropic podría cotizar en bolsa tan pronto como en septiembre de este año. Por primera vez, Amodei enfrentará el escrutinio de inversores públicos: gestores de fondos que ya perdieron en la volatilidad de las acciones de IA, institucionales que deben rendir cuentas a sus LP antes del próximo trimestre, analistas de Wall Street acostumbrados a valorar por PER y flujo de caja libre.

Lo que ven son dos Anthropic.

Una es una máquina de crecimiento: valuación multiplicada por 200 en tres años, ingresos casi del tamaño del gigante Oracle, pero con solo el 3% de los empleados de Oracle, una eficiencia asombrosa.

La otra es un agujero negro de riesgo: dirigida por un fundador que no quiere hacer “operaciones de encanto”, que aboga por la regulación de la IA, recuerda públicamente que su tecnología podría ser desastrosa, se rehúsa a dar autorización plena para usos militares al gobierno de Trump y se niega a alabar al presidente en los términos típicos de un “dictador”.

Un gestor de fondos que se entrevistó con Anthropic fue directo: quiere que Amodei “deje de asustar a todo el mundo”. Un inversor de Silicon Valley, antes de invertir, anotó en su cuaderno que el mayor riesgo de esa apuesta era inusual: no estaba convencido de que a Amodei realmente le importara ganar plata.

Hasta inversores que van a ganar mucho con la salida a bolsa, en privado, se quejan de que la postura regulatoria de Amodei sobre la IA daña a la empresa y a toda la industria tecnológica. Marc Andreessen y David Sacks, inversores muy cercanos al gobierno de Trump, acusan a Amodei de impulsar una “captura regulatoria” para consolidar la posición de Anthropic limitando la IA de código abierto. Bill Gurley escribió por mensaje: “Esta es la captura regulatoria más agresiva que vi en mi vida”.

El análisis del reconocido emprendedor e inversor Eric Ries es más frío. Apunta que la fuerte dependencia de Anthropic de chips caros y centros de datos le dará un gran poder a los inversores. “La pregunta es: ¿qué pasa cuando la acción baja?”

La paradoja del profeta del apocalipsis

Nate Soares, investigador en IA, conoce a Amodei desde hace más de diez años y estudia riesgos existenciales de la IA. Es coautor de un libro titulado “Si alguien la crea, todos morimos”. Supervisa una casa en Berkeley, California, donde vive un grupo de creadores de contenido sobre “el apocalipsis de la IA”.

Observa la carrera ascendente de Amodei y siente una incomodidad difícil de explicar.

“Hacen falta cualidades muy particulares para, después de aceptar estos planteos, igualmente ir y fundar una empresa de IA”, afirma.

Esa frase, quizá, es la mejor síntesis de Dario Amodei.

Ya en 2017, advertía desde un estrado en Washington que los sistemas de IA operarían a velocidades incomprensibles para el monitoreo humano. Casi diez años después, sigue acelerando ese momento—mientras insiste en que es la única manera de evitar algo aún peor.

¿Es coherente ese razonamiento? Quizá. ¿Es peligroso? Sin dudas.

Para quienes estén por entrar en las acciones de Anthropic, la pregunta no es solo si la empresa puede seguir creciendo, sino algo más fundamental—¿es esta contradicción la mayor muralla de Anthropic, o su mayor amenaza?