Vitalik: Obawia się AGI i ASI, wspiera budowę narzędzi zwiększających inteligencję dla ludzi zamiast tworzenia superinteligentnego życia

22 grudnia, w odpowiedzi na ostatnie rozwój produktów związanych z AGI w dziedzinie OpenAI i AI, założyciel Ethereum Vitalik Buterin opublikował na platformie X, mówiąc: "Moja definicja AGI (Sztucznej Ogólnej Inteligencji) to: AGI to na tyle potężna sztuczna inteligencja, że gdyby pewnego dnia wszyscy ludzie nagle zniknęli, a ta AI zostałaby załadowana do ciała robota, byłaby w stanie samodzielnie kontynuować cywilizację.

Oczywiście, jest to bardzo trudna definicja do zmierzenia, ale myślę, że to właśnie jest kluczowa intuicyjna różnica między 'AI, do której jesteśmy przyzwyczajeni' a 'AGI' w umysłach wielu ludzi. Oznacza to przejście od narzędzia, które stale polega na ludzkim wkładzie, do samowystarczalnej formy życia. ASI (Sztuczna Super Inteligencja) to zupełnie inna kwestia - moja definicja to moment, w którym ludzie przestają dodawać wartość do produktywności w cyklu (tak jak w grach szachowych, gdzie osiągnęliśmy ten punkt dopiero w ostatniej dekadzie).

Tak, ASI mnie przeraża - nawet moja zdefiniowana AGI mnie przeraża, ponieważ niesie ze sobą oczywiste ryzyko utraty kontroli. Popieram skupienie naszej pracy na budowaniu inteligentnych narzędzi wspomagających dla ludzi, a nie na budowaniu superinteligentnych form życia."