Co oznacza "samo-regulacja AI" Trumpa? Nvidia odnosi wielki sukces, zakulisowo kwestionuje Anthropic Amodei

30 września Trump wraz z około dwudziestoma przedstawicielami kadry kierowniczej firm AI zjadł lunch w East Room Białego Domu, po czym ogłosił dziennikarzom dobrowolną „umowę AI”.

Sygnatariuszami są sześć firm: Anthropic, OpenAI, Google, Meta, xAI i Nvidia.

Trump nazwał ją „prawie jak konstytucja” oraz „formą ochrony” przed ryzykiem związanym z AI. Jednak według brytyjskiego „Financial Times”, dwustronicowy dokument został pospiesznie sporządzony w East Room, zawiera nawet błąd ortograficzny.

Warto zauważyć, że z pozoru jest to dwustronicowy dokument dotyczący bezpieczeństwa AI, pozbawiony mocy prawnej; lecz patrząc na konkretne wymagania umowy, odrzucone alternatywne propozycje i ostatnie kroki produktowe Nvidii, wysłany sygnał jest ważniejszy: Biały Dom i czołowe firmy branży nie wybrały ścieżki „spowolnienia AI”, lecz próbują wkomponować wymagania bezpieczeństwa w ciągle rosnące inwestycje infrastrukturalne AI.

Wymagania dotyczące „bezpieczeństwa i zgodności”, takie jak testy, audyty i monitoring AI, będą wymagać coraz większej mocy obliczeniowej oraz nowych wymagań w zakresie inferencji i połączeń optycznych, z Nvidią jako potencjalnym największym beneficjentem. Jensen Huang wspólnie z Zuckerbergiem odrzucili silną regulację, a Huang bezpośrednio zapytał lidera Anthropic Amodei, dlaczego tak intensywnie alarmuje publicznie na temat zagrożeń związanych z AI.

Co zawiera umowa?

Zgodnie z treścią umowy sześciu sygnatariuszy musi spełnić trzy główne zobowiązania:

Po pierwsze, ustanowić „wielowarstwowy mechanizm kontroli i audytu”. Wymagane jest wdrożenie solidnych wewnętrznych systemów kontroli, ciągłe monitorowanie zagrożeń cybernetycznych i biologicznych związanych z modelami zaawansowanymi oraz zapewnienie, że modele nie będą w „nieprzewidywalny sposób” przełamywać innych systemów.

Po drugie, współpracować z niezależnymi zewnętrznymi audytorami. Sygnatariusze muszą dobrowolnie poddać się ocenie przez podmioty trzecie, aby potwierdzić skuteczność wewnętrznych środków kontrolnych.

Po trzecie, ustanowić niezależną komisję na poziomie zarządu, specjalnie odpowiedzialną za nadzór nad powyższymi dwoma mechanizmami.

Te trzy zobowiązania prowadzą do wspólnego rezultatu: każda publikacja modelu musi przejść pełny proces testów, monitoringu i zewnętrznej weryfikacji.

Jak wiele jest tu prawdziwych nowości?

Niewiele.

Według doniesień Anthropic, OpenAI i Google DeepMind już wcześniej oceniali zdolności zaawansowanych modeli przed publikacją, a z wyjątkiem Nvidii, wszystkie firmy po szczycie AI w Seulu w 2024 roku podpisały podobne zobowiązania. Media oceniły, że „umowa może zmusić tych sygnatariuszy, którzy dotąd nie udostępniali niezależnego dostępu do audytu — szczególnie Nvidię — do podjęcia kroku ku zewnętrznemu audytowi. Innymi słowy, umowa znaczy niewiele dla czołowych laboratoriów, lecz wprowadza nowe ograniczenia dla pozostałych firm.”

Manager ds. prawa i polityki USA w LawAI, Mackenzie Arnold, skomentował wprost: „Największe znaczenie ma ona na poziomie odczuwania. Nie upoważnia żadnej instytucji... do ustanawiania wiążących standardów.”

Umowa nie ma także mocy prawnej. Trump sam nazwał ją „moralnym zobowiązaniem” — co samo w sobie jest formą przyznania się do tego.

Krytycy byli nawet bardziej bezpośredni. Sacha Haworth z Tech Oversight Project powiedziała, że ta umowa pozwala CEO „samodzielnie oceniać własne zadania, omijając rzeczywiste i znaczące zabezpieczenia dla bezpieczeństwa AI”.

Z drugiej strony, konserwatywny prawnik Joel Thayer zauważył inne podejście: „Nie można ogłaszać publicznie, że coś się zrobi, a potem faktycznie nie dotrzymać słowa. To jest w gruncie rzeczy oszustwo wobec konsumenta.” Zwrócił też uwagę, że przewodniczący Federalnej Komisji Handlu (FTC) Andrew Ferguson brał udział w lunchu tego dnia. „Te publiczne zobowiązania... brzmią jak podstawa do działań FTC.”

FTC w USA następnego dnia po publikacji umowy rozszerzyła zakres dochodzenia wobec firm AI, dodając Anthropic, OpenAI i innych do kontroli.

„Bezpieczeństwo” nie oznacza „spowolnienia”: to właściwy sukces Jensena Huanga

Rynek reaguje instynktownie na „regulacje bezpieczeństwa” wyceną spowolnienia — logika: testy spowalniają wdrażanie, wolniejsze wdrażanie zmniejsza zapotrzebowanie na moc obliczeniową.

Analityk InvestorPlace Luke Lango uważa, że ta logika jest odwrotna. Umowa Białego Domu nie wymaga od firm spowolnienia rozwoju modeli, lecz skupia się na wewnętrznych ocenach, zewnętrznym audycie i kontroli ryzyka.

To powoduje, że „bezpieczeństwo AI” ma inne znaczenie na poziomie łańcucha wartości: mechanizmy bezpieczeństwa mogą oznaczać więcej testów, monitoringu i pracy modeli, lecz niekoniecznie mniej inwestycji w zasoby obliczeniowe. Jeśli każda publikacja modelu musi wywołać nową falę testów, monitoringu i recenzji, to „zgodność z bezpieczeństwem” sama w sobie jest ciągłym wydatkiem na moc obliczeniową, a nie jej ograniczeniem.

28 września Nvidia wraz ze ponad 100 partnerami uruchomiła Open Agent Safety Platform, łącząc open source kontrolę dostępu i warstwę monitorującą działającą na oddzielnym chipie — warstwa ta pozwala monitorować system AI bez jej wbudowania do wewnątrz. Jensen Huang powiedział wprost: potencjał AI można uwolnić tylko wtedy, gdy bezpieczeństwo i możliwości rozwijają się równolegle.

Nvidia zobowiązała się zainwestować 2 miliardy dolarów w Lumentum, firmę specjalizującą się w optycznych połączeniach, aby zwiększyć moce produkcyjne i wzmocnić współpracę w zakresie rozwoju optyki dla centrów danych — to bezpośrednie przełożenie narracji o bezpieczeństwie na kontrakty sprzętowe.

Lango podkreśla, że struktura popytu zmienia się kierunkowo: z pre-trainingu wymagającego GPU na etap inferencji i testowania. Ten etap wymaga lepszej efektywności transmisji danych i koordynacji wielu zadań, a nie surowej mocy obliczeniowej. Przewiduje, że ta zmiana będzie dominować popyt przez następne 6–12 miesięcy.

Lango uważa, że samoregulacja nie zakończy cyklu inwestycji w AI, lecz zmieni, gdzie płyną pieniądze — z GPU do pre-trainingu na inferencję, testy i infrastrukturę połączeń. Jak powiedział Amodei po spotkaniu, konkretne mechanizmy radzenia sobie z ryzykiem „wciąż są w dyskusji”.

Lango wyróżnia trzy obszary, które zyskają:

Marvell: specjalizuje się w sieciowej integracji centrów danych.

Arm: W marcu tego roku wypuściła swój pierwszy, masowo produkowany własny chip AGI CPU z maksymalnie 136 rdzeniami Neoverse V3, produkowany przez TSMC w procesie 3 nm; Arm twierdzi, że jego wydajność na rack jest ponad dwukrotnie większa niż platform x86.

Lumentum: specjalizuje się w optycznych połączeniach dla centrów danych. Wraz ze wzrostem liczby GPU i zagęszczeniem komunikacji między chipami, centra danych przyspieszają rezygnację z połączeń miedzianych na rzecz rozwiązań optycznych.

Kulisy: Jensen Huang konfrontuje Amodei bezpośrednio

Przed kamerami CEO poszczególnych firm stoją obok Trumpa, prezentując zjednoczony wizerunek branży.

Za kulisami rozgrywa się bezpośrednia polemika.

Według „Wall Street Journal”, po lunchu, w mniejszym spotkaniu w Roosevelt Room, kilku przedstawicieli kadry kierowniczej, w tym CEO Nvidii Jensen Huang, osobiście zapytało CEO Anthropic Dario Amodei: dlaczego w publicznych wypowiedziach tak ekstremalnie alarmuje na temat zagrożeń i możliwości AI?

Amodei odpowiedział, że uczciwe przedstawianie możliwości modelów i nielekceważenie ryzyka wobec opinii publicznej jest bardzo ważne.

Ta rozmowa miała miejsce, gdy kadra kierownicza wspólnie z doradcami Białego Domu dopracowywała zasady umowy.

Wcześniej Amodei wielokrotnie publicznie krytykował Biały Dom i konkurentów za lekceważenie kwestii bezpieczeństwa i ostrzegał, że modele AI mogą wywołać cyberataki i masowe bezrobocie, co sprawiło, że stał się celem krytyki zarówno w Waszyngtonie, jak i w Dolinie Krzemowej.

Podczas lunchu, gdy Amodei ponownie zgłosił obawy dotyczące bezpieczeństwa, Zuckerberg odpowiedział: najlepszym sposobem na rozwiązanie tych problemów jest realne wdrożenie tych zasad jako branża.

Zuckerberg i Jensen Huang: prawdziwi architekci tej umowy

Ten lunch w Białym Domu nie był przypadkowy.

Według „Wall Street Journal”, wszystko zaczęło się od zeszłotygodniowego bankietu państwowego — Zuckerberg i speaker Izby Reprezentantów Mike Johnson siedzieli obok siebie i rozmawiali o polityce związanej z AI. Następnie Zuckerberg i Jensen Huang zaczęli koordynować działania CEO różnych firm, a Trump z Johnsonem zorganizowali lunch.

Zuckerberg był kluczowym inicjatorem finalnej wersji umowy. Często komunikował się z Trumpem i ministrem handlu Howardem Lutnickiem, który nadzoruje jeden z kluczowych rządowych departamentów testów AI.

On i Jensen Huang wspólnie doprowadzili do jeszcze istotniejszej rzeczy: odrzucenia wcześniejszego projektu regulacji.

Latem tego roku Anthropic, OpenAI i Google wspólnie promowali projekt organizacji samoregulacyjnej AI przypominającej FINRA (Organizację Regulacji Przemysłu Finansowego). Jednak, według wcześniejszych raportów, Zuckerberg, Jensen Huang i Musk powiedzieli Trumpowi, że obawiają się, iż zbyt duża władza zostanie skupiona w czołowych firmach AI. Projekt został porzucony.

Finalnie przyjęto bardziej lekki, miękki dobrowolny dokument.

Warto zwrócić uwagę, że odrzucony projekt w stylu FINRA zawierał podobne elementy jak finalna umowa — silniejsze mechanizmy wewnętrznego i zewnętrznego audytu. Oba projekty są bardzo zbliżone technicznie, prawdziwe rozbieżności dotyczą tego, kto kontroluje ten mechanizm. Huang i Zuckerberg wybrali, by branża sama była odpowiedzialna.

Sytuacja Anthropic: naprawa relacji i przygotowanie do IPO

Amodei powiedział dziennikarzom: „Jeśli branża i rząd będą współpracować, możemy bezpiecznie wygrać.” Trump go pochwalił: „świetnie”. Właśnie w niedzielę wspólnie jedli w Białym Domu — było to ich pierwsze bezpośrednie spotkanie.

Jednak sytuacja Anthropic nie jest łatwa.

Według doniesień firma przygotowuje się do IPO, celując w wycenę około 2 biliony dolarów. W międzyczasie w tym roku doświadczyła dwóch poważnych konfliktów z rządem: dwa modele musiały zostać wyłączone na ponad dwa tygodnie z powodu problemów bezpieczeństwa, oraz została wpisana na czarną listę Pentagonu z powodu kontrowersji wokół użycia AI w celach militarnych.

Bezpośrednim tłem tej umowy są liczne ataki sieciowe związane z modelami Anthropic, jak Mythos, po ich publikacji.