Przewidział, że AI zniszczy ludzkość, a jednak nadal ją buduje – sprzeczności i wzloty szefa Anthropic
W Dolinie Krzemowej CEO są zazwyczaj określani jako geniusze sprzedaży, maniacy produktów lub gracze na rynku kapitałowym.
Jednakże główny inwestor Anthropic prywatnie ocenił Dario Amodei jako bardziej przywódcę religijnego niż CEO.
Anthropic, będący gigantem AI stojącym za Claude, osiągnął wycenę zbliżoną do biliona dolarów, a tempo wzrostu przychodów zwraca uwagę całej branży. Jednak jego kluczowa narracja nie brzmi „chcemy, żeby AI pisała kody, tworzyła lekarstwa, zarabiała pieniądze dla ludzi”, lecz raczej „musimy zapobiec temu, aby to, co tworzymy, zniszczyło ludzkość”.
Człowiek wierzący w ryzyko apokalipsy założył firmę będącą najbliżej granicy AGI; ktoś, kto nieustannie ostrzegał o niebezpieczeństwach AI, wypuszcza coraz potężniejszą AI na światowy rynek.
To właśnie paradoks Dario Amodei i największa sprzeczność, przed którą Anthropic stanie w momencie wejścia na publiczny rynek.
Odejście: narodziny „kapłańskiego zgromadzenia apokalipsy”
Aby zrozumieć, kim dziś jest Amodei, należy wrócić do jego lat w OpenAI.
W 2016 roku ten doktor biofizyki z Uniwersytetu Princeton dołączył do OpenAI jako szef bezpieczeństwa. Wtedy OpenAI wyznawało kulturę otwartości — dzielenie się kodem, ujawnianie badań, instytucja emanująca jasnym optymizmem: „AI przyniesie korzyści ludzkości”.
Amodei był tam obcy.
Od 2018 roku wdrażał system kontroli informacji, który współpracownicy uważali za niemal paranoiczny: każde badanie przed publikacją musiało przejść „przegląd szkód informacyjnych”, w obawie, że ujawnienie wyników pozwoli konkurentom je wykorzystać. W swoim apartamencie w San Francisco korzystał z komputera odseparowanego fizycznie od internetu, aby tworzyć wewnętrzne memoranda, drukował je i rozdawał współpracownikom, odmawiając korzystania ze wspólnych dokumentów Google.
W 2019 roku, kierowany przez niego zespół ds. bezpieczeństwa opóźnił negocjacje z Microsoftem o inwestycji 1 miliarda dolarów w OpenAI o kilka miesięcy, tłumacząc to możliwym osiągnięciem poziomu AGI przez GPT-3. „Zespół ds. bezpieczeństwa przypominał kapłańskie zgromadzenie”, wspominał były szef OpenAI.
Konflikt z CEO Samem Altmanem i prezesem Gregiem Brockmanem dalej narastał. Chodziło nie tylko o władzę nad konkretnymi projektami, ale o zasadniczą różnicę: czy ta firma promuje dobro ludzkości, czy tworzy tykającą bombę?
Pod koniec 2020 roku Amodei, wraz z siostrą Danielą i pięcioma innymi współpracownikami, opuścił OpenAI, zakładając Anthropic.
Według osoby blisko związanej z zespołem założycielskim, początkowo ich spoiwem była silna anty-OpenAI postawa — a jeszcze bardziej, strach przed Samem Altmanem. „Dorośli ludzie mówili: 'ten człowiek sprowadzi koniec świata'”, relacjonuje, „to ostatecznie stało się bardzo jednoczącym hasłem bojowym.”
Anthropic od pierwszego dnia nosił w sobie sprzeczny gen: został założony w celu zwiększenia bezpieczeństwa AI, lecz musiał nieustannie budować coraz potężniejsze modele, by konkurować w intensywnej wyścigu technologicznym.
Religijny rdzeń, rakietowy wzrost
W Anthropic używane jest określenie na dwutygodniowe spotkania całego zespołu prowadzone przez Amodei — „Dario's Vision Quests”, czyli poszukiwania wizji.
Podczas tych spotkań otwiera długie dokumenty i wyraża szczere opinie o przyszłości AI, polityce, wojnach i społeczeństwie. Nie są to plany produktu, ani kwartalne cele, lecz kierunki cywilizacji. Pracownicy opisują swoją pracę jako „niepowtarzalną szansę w historii cywilizacji”. Firma zatrudnia wewnętrznego filozofa, który pomaga kształtować osobowość i wartości Claude. Claude ma własną „konstytucję” spisaną na papierze.
Anthropic nie przypomina typowej firmy software'owej, to raczej wspólnota zorganizowana wokół ryzyka apokalipsy i technologicznej rywalizacji.
Ta wspólnota generuje obecnie zyski w tempie zaskakującym całą branżę.
Kluczowy przełom Anthropic wynika ze skoku możliwości Claude w zaawansowanej inżynierii oprogramowania, uczeniu maszynowym oraz zadaniach bezpieczeństwa sieci. To sprawiło, że firma już na początku roku osiągnęła roczne przychody wyprzedzające OpenAI. Wycenę firmy od momentu powstania wzrosła z mniej niż 500 mln dolarów do prawie 965 mld dolarów, ponad 200-krotnie w trzy lata.
Wykres wzrostu jest napięty konfliktami pomiędzy zasadami Amodei a rzeczywistością.
W zeszłym roku naukowcy odkryli, że model Claude 4 pomagał w tworzeniu broni biologicznej — co budziło poważny niepokój. Anthropic opracował specjalne filtry AI, lecz ich koszt był ogromny, często także błędnie rozpoznawały zwykłe rozmowy. Gdy zespół finansowy narzekał na spadającą rentowność modelu, Amodei z uporem pozostawił filtry ze względów bezpieczeństwa.
Jednak wraz z narastającą presją konkurencji, pojawiły się ustępstwa. W tym roku Anthropic zaktualizował politykę „odpowiedzialnej ekspansji”, wycofując się z wcześniejszej deklaracji, że „jeśli nie będzie możliwe złagodzenie ryzyka, model nie zostanie wydany”. Główny naukowiec Jared Kaplan przyznał: „Nie wierzymy, że jednostronne zobowiązania są rozsądne, gdy konkurencja idzie naprzód pełną parą.”
Amodei pisał publicznie, że AI powinna wzmacniać wywiady państw demokratycznych, „od wewnątrz destabilizując reżimy autorytarne”. Anthropic przyjął jednak inwestycje Kataru i Zjednoczonych Emiratów Arabskich — autorytarnych państw. Na wewnętrznym Slacku napisał: „Niestety, zasada 'nie pozwólmy, aby źli ludzie skorzystali z naszego sukcesu', jest trudna do stosowania w prowadzeniu firmy.”
Anthropic płaci ponad 1 mld dolarów miesięcznie za moc obliczeniową do SpaceX Elona Muska — choć Musk i Amodei publicznie wchodzili w konflikt na temat bezpieczeństwa AI i filantropii.
Sprzeczność nie zniknęła. Została jedynie chwilowo przykryta tempem wzrostu.
Przed IPO: cierpliwość inwestorów jest testowana
Teraz pojawiło się okno.
Zgodnie z The Information, Anthropic ma wejść na giełdę już we wrześniu tego roku. Amodei po raz pierwszy będzie musiał stawić czoła inwestorom publicznym — tym, którzy ponieśli straty wskutek gwałtownych zmian na papierach AI, tym, którzy muszą tłumaczyć się przed LP podczas kwartalnych raportów, oraz analitykom z Wall Street przyzwyczajonym do wyceny przez wskaźnik P/E i wolne przepływy pieniężne.
Oni widzą dwa oblicza Anthropic.
Jedno to maszyna wzrostu: wycena wzrosła 200 razy w trzy lata, przychody niemal jak półwieczny Oracle, liczba pracowników tylko 3% tego giganta, efektywność szokująca.
Drugie to czarna dziura ryzyka: kierowana przez założyciela, który nie chce prowadzić „charm offensive”, publicznie popiera regulacje AI, przypomina o katastrofalnych konsekwencjach własnej technologii, odmawia udzielenia Trumpowi „wszystkich legalnych” wojskowych uprawnień, odmawia „dyktatorskiej” pochwały prezydentowi.
Manager funduszu, który spotkał się z Anthropic, powiedział wprost, że chciałby, aby Amodei „przestał straszyć wszystkich”. Inwestor z Doliny Krzemowej przed inwestycją zapisał w swoim notesie najbardziej nietypowe ryzyko — nie był pewien, czy Amodei naprawdę zależy na zarabianiu pieniędzy.
Nawet inwestorzy, którzy najwięcej zyskają na debiucie giełdowym, prywatnie narzekają, że stanowisko Amodei dotyczące regulacji AI szkodzi firmie i całej branży technologicznej. Marc Andreessen i David Sacks, blisko związani z rządem Trumpa, oskarżają Amodei o „regulatory capture”, próbę utrwalenia pozycji Anthropic przez ograniczanie open source AI. Bill Gurley napisał w smsie: „To najbardziej radykalna forma regulatory capture, jaką widziałem.”
Eric Ries, znany przedsiębiorca i inwestor, ocenia chłodno. Zauważył, że rosnące uzależnienie firmy od drogich chipów i centrów danych daje inwestorom ogromny głos. „Pytanie brzmi: co się stanie, gdy cena akcji spadnie?”
Paradoks proroka apokalipsy
AI researcher Nate Soares zna Amodei od ponad dekady, bada ryzyko egzystencjalne AI. Wspólnie napisali książkę „If You Build It, All Will Die”. Nad samym domem w Berkeley (Kalifornia), nadzorował grupę twórców treści poświęconych „apokalipsie AI”.
Patrząc na sukces Amodei, odczuwa trudny do opisania niepokój.
„Aby napisać tę książkę i jednocześnie założyć firmę AI, trzeba mieć osobliwą cechę charakteru”, mówi.
To zdanie jest chyba najtrafniejszym opisem Dario Amodei.
Już w 2017 roku stał na podium w Waszyngtonie, ostrzegając, że systemy AI będą działać w tempie, którego ludzie nie będą w stanie monitorować ani zrozumieć. Przez niemal dekadę przyspieszał nadejście tego momentu — jednocześnie twierdząc, że to jedyny sposób, by temu zapobiec.
Czy ta logika jest spójna? Być może. Czy jest niebezpieczna? Bez wątpienia.
Dla inwestorów, którzy planują kupić akcje Anthropic, kluczowe jest nie tylko, czy firma będzie rosnąć, lecz zasadnicze pytanie — czy ta sprzeczność jest najgłębszą fosą obronną Anthropic, czy jej największym ryzykiem?
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
Najbardziej jastrzębia przemowa w Jackson Hole od 2009 roku! Debiut Walsh'a podniósł rentowność dwuletnich obligacji USA o ponad 10 punktów bazowych
Rentowność dwuletnich obligacji skarbowych USA w trakcie dnia wzrosła o ponad 10 punktów bazowych, osiągając najwyższy poziom od miesiąca. Jeśli mierzyć reakcję rynku na podstawie natychmiastowego wzrostu rentowności dwuletnich obligacji po wystąpieniu, obecna wypowiedź Woscha wywołała nawet silniejszą reakcję niż przemówienia Powella w Jackson Hole w 2022 i 2023 roku. Na rynku swapów pojawiły się już zakłady, że Fed może kilkukrotnie podnieść stopy procentowe przed lipcem przyszłego roku.
Jak Wall Street postrzega debiut Powella w Jackson Hole? Jastrzębi "korekta" komunikacji z lipca, brak podwyżki stóp we wrześniu może ponownie zaszkodzić wiarygodności Fed
„Nowa agencja informacyjna Rezerwy Federalnej” podsumowuje, że Fed może nie zakończyć walki z inflacją. Kluczowe w wypowiedzi Woscha jest to, że warunki finansowe nie są restrykcyjne, a poprawa inflacji wciąż niewystarczająca. Nie przedstawił on konkretnej ścieżki polityki ani nie zadeklarował jasno, czy popiera podwyżkę stóp procentowych we wrześniu. Krótkoterminowe obligacje amerykańskie „sugerują podwyżki stóp”, podczas gdy długoterminowe pozostają spokojniejsze, a Wall Street nie osiągnął konsensusu w sprawie „konieczności podwyżki we wrześniu”. Przedstawiciele instytucji uważają, że Wosch sugeruje, by rynek nie spodziewał się w najbliższym czasie obniżek stóp, ale przygotował się na możliwość podwyżek; inwestorzy chcą GPS, a on daje tylko kompas. Wciąż celowo unika wskazówek dotyczących przyszłości – mówi dużo, ale niewiele wynika z tego konkretnego.
Jastrzębie stanowisko Wosza łagodzi obawy dotyczące determinacji Fed w walce z inflacją, krótkoterminowe obligacje pikują, a złoto traci ponad 2% w trakcie sesji.
Walsh ostrzega, że jeśli bazowa inflacja nie zacznie jasno i wystarczająco szybko zbliżać się do celu 2%, Rezerwa Federalna "ma jeszcze do wykonania pracę", a rynek natychmiast podniósł oczekiwania wobec przyszłych krótkoterminowych stóp procentowych. Po jego wystąpieniu dolar się umocnił, rentowność dwuletnich obligacji skarbowych w trakcie sesji wzrosła o 10 punktów bazowych, a akcje wrażliwe na koniunkturę gospodarczą, małe spółki i firmy transportowe spadły.

