Mark Zuckerberg z Meta (META.US) odpowiada na debatę o "spowolnieniu" AI: kontynuujemy rozwijanie możliwości modeli i wzmacniamy bezpieczeństwo.

Według doniesień Jinse Finance, dyrektor generalny Meta Platforms (META.US), Mark Zuckerberg, oraz szef działu AI firmy, Aleksander Wang, zabrali głos w debacie na temat tempa rozwoju AI, opowiadając się za kontynuowaniem rozwijania możliwości modeli, przy jednoczesnym wdrażaniu silniejszych zabezpieczeń dla coraz potężniejszych modeli.

Obaj opublikowali swoje stanowiska na platformie X. Obecnie branża szeroko debatuje nad tym, czy należy spowolnić rozwój możliwości AI, dopóki nie zostaną osiągnięte większe postępy w zakresie bezpieczeństwa. Bezpieczeństwo AI oznacza pewność, że systemy AI niezawodnie realizują ludzkie intencje i wartości.

Cena akcji Meta wzrastała przez trzy kolejne sesje aż do wtorku, notując łącznie wzrost o 4,2%, a na rynku wtórnym odnotowano niewielki wzrost. Na Stocktwits ogólne nastroje inwestorów detalicznych wobec tej akcji były "skrajnie niedźwiedzie" podczas ostatniego sprawdzenia.

Zuckerberg: Laboratoria mają motywację do tworzenia bezpieczniejszej AI

Zuckerberg stwierdził, że firmy AI mają silne motywacje komercyjne i prawne, by zapewnić bezpieczeństwo modeli i ich zgodność z użytkownikami. „Ludzie nie będą chcieli korzystać z agentów, które nie są z nimi zgodne lub nie działają zgodnie z ich oczekiwaniami”, napisał Zuckerberg. „Każde laboratorium, które nie koncentruje się na zgodności, zostanie w tyle.”

Według niego zgodność staje się istotną przewagą konkurencyjną, a nie tylko ograniczeniem rozwoju AI. „Moim zdaniem zaufanie i zgodność szybko stają się najważniejszymi atutami odróżniającymi agentów i modele”, powiedział.

Zuckerberg dodał, że Meta zdecydowała się opóźnić wydanie modelu Muse o kilka miesięcy, by rozwiązać kwestie bezpieczeństwa i ochrony.

Meta popiera zewnętrzny nadzór

Zarówno Zuckerberg, jak i Aleksander Wang wezwali do wprowadzenia większej liczby niezależnych podmiotów oceniających i zewnętrznego nadzoru w miarę wzmacniania się modeli AI.

„Angażowanie niezależnych podmiotów oceniających i doradców to najlepsza praktyka branżowa”, powiedział Zuckerberg, dodając, że większy i bardziej zróżnicowany ekosystem oceniających poprawi działania na rzecz bezpieczeństwa AI.

Aleksander Wang podkreślił również, że laboratoria AI powinny utrzymywać „solidne ramy zarządzania” przez cały proces szkolenia i wdrażania, w tym z udziałem zewnętrznych oceniających oraz niezależnego nadzoru nad standardami bezpieczeństwa przy publikacji modeli.

Dodał: „Każde laboratorium musi działać w ramach systemów demokratycznych państw... to oznacza, że jeśli model wyrządzi szkodę, laboratorium poniesie poważną odpowiedzialność prawną.”

Meta broni strategii alokacji mocy obliczeniowej

Kluczowym elementem stanowiska obu menedżerów jest decyzja Meta, by większość mocy obliczeniowej przeznaczyć na obsługę użytkowników, a nie na przyspieszanie rekurencyjnej samodoskonalącej się AI (RSI).

„Przeznaczenie zdecydowanej większości mocy obliczeniowej na służbę ludziom, a nie na wyścig w kierunku rekurencyjnej samodoskonalącej się AI, to jeden z najlepszych sposobów zapewnienia bezpiecznego rozwoju tej technologii”, powiedział Zuckerberg.

Obawa dotyczy tego, że RSI może pozwolić systemom AI bardzo szybko zwiększyć ich możliwości, potencjalnie wykraczając poza ludzki nadzór i zwiększając ryzyko utraty kontroli nad potężnymi modelami.

Aleksander Wang również określił dążenie do RSI jako „jedną z najniebezpieczniejszych dróg prowadzących do utraty kontroli nad potężnymi modelami”.

Spór o tempo rozwoju AI polaryzuje branżę technologiczną

Spór o tempo rozwoju AI zasadniczo podzielił środowisko: CEO Anthropic, Dario Amodei, nawołuje do spowolnienia prac nad zaawansowanymi AI, by mechanizmy bezpieczeństwa mogły nadążyć; z kolei CEO OpenAI Sam Altman, CEO Microsoftu Satya Nadella oraz Elon Musk ze SpaceX popierają ostrożne i odpowiedzialne tempo rozwoju bez wstrzymywania prac.

Z drugiej strony, prezydent USA Donald Trump sprzeciwia się spowolnieniu wyścigu AI w Stanach Zjednoczonych ze względu na obawy o dominację Chin, a były doradca AI Trumpa David Sacks uważa, że firmy powinny samodzielnie zarządzać ryzykiem zamiast szukać ograniczeń rządowych i kwestionuje ostrzeżenia Anthropic dotyczące bezpieczeństwa.

Inwestor Michael Burry zadaje pytanie, czy apele o spowolnienie rozwoju nie wynikają częściowo z interesu własnego, gdyż mogłyby chronić obecne firmy AI przed konkurencją.