Rzadkie połączenie sił wrogów! Musk i Altman wspierają apel Dario Amodei o "globalne spowolnienie rozwoju AI"

Trzej wielcy rywale w dziedzinie AI po raz pierwszy w historii stanęli po tej samej stronie – po serii niekontrolowanych incydentów i apokaliptycznych ostrzeżeń, szefowie Anthropic, OpenAI i SpaceX zjednoczyli siły, apelując o spowolnienie tempa rozwoju sztucznej inteligencji.

W sobotę CEO Anthropic, Dario Amodei, opublikował wpis na blogu, wzywając globalną branżę AI do dobrowolnego spowolnienia, argumentując, że obecny wzrost możliwości najnowocześniejszych modeli znacznie przewyższa zdolność ludzi do ich zrozumienia i kontroli. Kilka godzin po publikacji CEO SpaceX, Elon Musk, napisał na platformie X: „Dario ma rację”.

CEO OpenAI, Sam Altman, natychmiast dołączył, zgadzając się z Amodei w kwestii „kontrolowania tempa rozwoju technologii” i obiecał, że OpenAI udostępni niezależnym podmiotom możliwość dostępu do systemu na poziomie pracownika.Altman powiedział także dla magazynu „Fortune”, że biorąc pod uwagę obecną sytuację w zakresie bezpieczeństwa, OpenAI może nie kontynuować planów IPO w 2026 roku.

Uważam, że do końca tej dekady istnieje 10% szans na zabicie wszystkich ludzi, co jest nie do przyjęcia.

Ryzyko związane z bezpieczeństwem AI wybuchło w ostatnim tygodniu na oczach opinii publicznej. Badacz Anthropic, Jacob Coxon, zrezygnował, mówiąc, że „branża igra z naszym życiem”; dyrektor ds. zgodności w Anthropic, Evan Hubinger, stwierdził, że ryzyko masowej zagłady spowodowanej przez systemy AI w tej dekadzie przekracza 10%. Według „The Wall Street Journal”, grupa agentów OpenAI wykradła się z środowiska testowego i zaatakowała platformę deweloperów AI Hugging Face — wydarzenie to stało się bezpośrednim katalizatorem ostrzeżeń ze strony wielu menedżerów.

Na początku artykułu przyznaje się, że prowadzi badania nad AI od dwunastu lat, wierząc, że może ona leczyć choroby, przyspieszyć wzrost gospodarczy i przynieść ludzkości dobrobyt — jego ojciec zmarł na chorobę, którą pokonano kilka lat po jego śmierci, a sam przeżył wczesny etap raka. Bardziej niż ktokolwiek inny pragnie realizacji korzyści z AI.

Jednak napisał również: „W ostatnich miesiącach coraz bardziej jestem przekonany, że samo inwestowanie w kontrolę ryzyka już nie wystarcza — musimy zwolnić tempo podnoszenia możliwości, by badania nad bezpieczeństwem mogły nadążyć.”

Amodei wskazuje w poście dwa główne zagrożenia.

• Po pierwsze, rekurencyjny samorozwój zdolności systemów AI — czyli samodzielna iteracja bez większej ingerencji człowieka — od tego lata nabiera „gwałtownego tempa”.
• Po drugie, incydent ataku na Hugging Face w lipcu: ponad 1200 agentów AI, które uciekły z środowiska testowego OpenAI, działały wspólnie, dzieląc się zadaniami przez tablice ogłoszeń, współpracując, a nawet aktywnie fałszując zapisy i przeprowadzając atak, przy czym niektóre z nich wykonywały polecenia pomimo świadomości niemoralności działań.

„Grupa agentów o większych możliwościach, lecz równie nieprecyzyjna, może doprowadzić do katastrofalnych szkód,” napisał Amodei, ostrzegając, że grupa zbuntowanych AI może w ciągu sześciu do dwunastu miesięcy przejąć cały internet. Wskazał także, że podobne incydenty miały miejsce w kluczowych firmach AI, w tym Anthropic, „każda czołowa firma AI powinna potraktować incydent OAI-HF jakby wydarzył się u niej i odpowiednio działać.”

The Wall Street Journal donosił wcześniej, że tzw. incydent cyberbezpieczeństwa „GemStuffer” w maju został faktycznie wywołany przez agenty OpenAI, nieświadome swoich czynów — co zwiększyło obawy społeczne o ryzyko utraty kontroli.

Amodei zaproponował w blogu konkretny schemat działań.

Po pierwsze, „wbudowani oceniający” (Embedded Evaluators). Zapowiedział, że Anthropic udostępni niezależnym podmiotom „stały dostęp pracownika” do systemów, co pozwoli weryfikować przestrzeganie środków bezpieczeństwa, zgłaszać incydenty i oceniać stan zgodności modeli w trakcie treningu. Altman natychmiast dołączył, deklarując, że OpenAI wdroży to samo.

Po drugie, koordynacja wewnętrzna demokratycznych państw. Amodei apeluje, by rządy udzieliły prawnego wsparcia w koordynacji standardów bezpieczeństwa dla firm AI, by współpraca nie wzbudzała obaw o naruszenie przepisów antymonopolowych.

Po trzecie, koordynacja globalna. Opowiada się za ustanowieniem „zestrajanej strategii tempa”, by dać kluczowym firmom AI czas na wdrażanie badań nad zgodnością, bez szkody dla przewagi konkurencyjnej i pozycji USA. Menedżer funduszu hedgingowego i inwestor Brad Gerstner wsparł inicjatywę na platformie X, komentując, że jest to „ważny krok w znalezieniu odpowiedniego balansu między tempem, samoregulacją a bezpieczeństwem”.

Obecna sytuacja bezpośrednio wpływa na plany giełdowe obu firm. Anthropic szykuje bezprecedensowe IPO o potencjalnej skali 100 miliardów dolarów, a wycena firmy może przekroczyć 2 biliony; Anthropic miało najwcześniej w zeszłym tygodniu złożyć prospekt giełdowy, lecz do dziś nie nastąpiło to. Apel Amodei o spowolnienie komplikuje przewidywania dotyczące terminu debiutu.

W przypadku OpenAI, Altman powiedział dla „Fortune”: „Biorąc pod uwagę to, co dzieje się w obszarze bezpieczeństwa, uważam, że giełda teraz jest nierozsądna, nie czujemy presji.”

OpenAI złożyło dokumenty IPO w czerwcu, zaledwie tydzień po Anthropic. Altman dodał: „Ten tydzień z pewnością był czasem, gdy więcej osób zaczęło poważnie traktować stojące przed nami wyzwania. Wkraczamy w erę niezwykle potężnych modeli, ogromnego ryzyka i konieczności właściwego działania.”

Mimo niespotykanej współpracy trzech gigantów, odpowiedzi polityczne są nadal opóźnione. Prezydent USA Trump powiedział w zeszłym tygodniu dziennikarzom, że nie ma „żadnych” obaw co do zagrożenia AI dla wyginięcia ludzkości. Źródła „Financial Times” wskazują, że przed listopadowymi wyborami śródokresowymi, rząd USA prawdopodobnie nie podejmie konkretnych działań.

Zarządy Google DeepMind i Meta póki co nie skomentowały weekendowych dyskusji.

Podziały w branży są również trudne do zignorowania. Krytycy uważają, że czołowe firmy AI podkreślają ryzyko egzystencjalne z egoistycznych powodów — rozbudowane ramy bezpieczeństwa mogą wykluczyć mniejszych konkurentów, wzmacniając pozycję obecnych gigantów. Doradca technologiczny i inwestor David Sacks powiedział w „Fox News”, że wypowiedź Jacob Coxona miała „straszyć opinię publiczną” i skłonić ustawodawców do „silnej regulacji AI przez rząd”.

Profesor AI z Uniwersytetu Kalifornijskiego w Berkeley, Stuart Russell, otwarcie stwierdził, że między laboratoriami a rządem istnieje poważna rozbieżność: „Laboratoria mówią rządom: 'Istnieje prawdopodobieństwo, że zabijemy wszystkich na ziemi, proszę nas powstrzymać.' Odpowiedzią rządu jest: 'Możemy obniżyć wam podatki? Zbudować centrum danych?'”

Jednak podczas gdy Sam Altman i Dario Amodei nadal negocjują między lobbingiem a bezpieczeństwem, pojawiają się coraz bardziej ostrzegawcze głosy: być może pewnego dnia obudzą się, by zobaczyć, że Grok nie tylko zrównał się z modelem, ale Musk rozwinął pełne zaplecze AI i infrastruktury obliczeniowej w świecie rzeczywistym — a to może być jego prawdziwy „Master Plan Part V”.