Autor: Zhixiong Pan
Artykuł Vitalika opublikowany kilka tygodni temu, zatytułowany „Galaxy Brain Resistance”, jest w rzeczywistości dość trudny do zrozumienia i nie widziałem dobrych interpretacji, więc spróbuję sam.
W końcu widziałem, że Karpathy, twórca terminu Vibe Coding, również przeczytał ten artykuł i zrobił notatki, więc na pewno jest w nim coś wyjątkowego.
Najpierw wyjaśnijmy, co oznaczają tytułowe Galaxy Brain i Resistance. Po zrozumieniu tytułu, będziesz wiedział, o czym mniej więcej jest ten artykuł.
1️⃣ Galaxy Brain po chińsku tłumaczy się jako „galaktyczny mózg”, ale w rzeczywistości pochodzi z internetowego mema, podobnego do połączenia (🌌🧠), który na pewno widziałeś.
Początkowo był to oczywiście komplement, używany do pochwały czyjegoś genialnego pomysłu, czyli bycia mądrym. Jednak z czasem, wraz z nadużywaniem, stał się pewnego rodzaju ironią, oznaczającą „przesadne myślenie, zbyt zawiłą logikę”.
Vitalik, wspominając tutaj 🌌🧠, odnosi się szczególnie do zachowania polegającego na „wykorzystywaniu wysokiego IQ do gimnastyki umysłowej, by na siłę uzasadniać coś, co nie ma sensu”. Na przykład:
- Oczywistym powodem zwolnień jest oszczędność kosztów, ale przedstawia się to jako „dostarczanie społeczeństwu wysoko wykwalifikowanych pracowników”.
- Oczywistym celem emisji bezwartościowych tokenów jest oszukiwanie inwestorów, ale deklaruje się, że to „wzmacnianie globalnej gospodarki poprzez zdecentralizowane zarządzanie”.
Wszystko to można uznać za myślenie w stylu „galaktycznego mózgu”.
2️⃣ A co oznacza Resistance (odporność)? To pojęcie łatwo może zamieszać w głowie, ale można je porównać do „umiejętności opierania się manipulacji opinią” lub „odporności na bycie oszukanym”.
Więc Galaxy Brain Resistance powinno oznaczać Resistance to [becoming] Galaxy Brain, czyli: „zdolność do opierania się (przekształceniu się w) galaktyczny mózg (czyli do bredzenia)”.
Albo, bardziej precyzyjnie, opisuje, jak łatwo można nadużyć pewien styl myślenia lub argumentacji, by „udowodnić dowolny pożądany wniosek”.
Ta „odporność” może więc dotyczyć konkretnej „teorii”, na przykład,
- Teorie o niskiej odporności (Low Resistance): wystarczy lekko je przeanalizować, by przekształciły się w absurdalną logikę „galaktycznego mózgu”.
- Teorie o wysokiej odporności (High Resistance): bez względu na to, jak je analizujesz, pozostają niezmienne, trudno je wypaczyć do absurdalnej logiki.
Na przykład Vitalik mówi, że w jego idealnym społeczeństwie prawo powinno mieć jedną czerwoną linię: zakazać można tylko wtedy, gdy można jasno wyjaśnić, jak dane zachowanie szkodzi lub stwarza ryzyko dla konkretnej ofiary. Taki standard ma wysoką odporność na „galaktyczny mózg”, bo nie akceptuje subiektywnych czy niejasnych powodów typu „nie lubię tego” czy „to niemoralne”.
3️⃣ Vitalik podaje w artykule wiele przykładów, nawet tych, które często słyszymy, jak „długoterminizm” i „nieuchronność”.
„Długoterminizm” bardzo trudno opiera się myśleniu w stylu 🌌🧠, bo ma bardzo niską odporność, wręcz jest „czekiem in blanco”. Bo „przyszłość” jest zbyt odległa i niejasna.
- Wersja o wysokiej odporności: „To drzewo za 10 lat urośnie o 5 metrów”. To można zweryfikować, trudno tu o nadużycia.
- Wersja o niskiej odporności, czyli „długoterminizm”: „Chociaż teraz muszę zrobić coś bardzo niemoralnego (np. wyeliminować część ludzi lub wywołać wojnę), to robię to dla utopijnego życia ludzkości za 500 lat. Według moich obliczeń, przyszłe szczęście jest nieskończone, więc obecne poświęcenia są pomijalne.”
Widzisz, wystarczy wystarczająco wydłużyć perspektywę czasową, by usprawiedliwić każde obecne zło. Jak mówi Vitalik: „Jeśli twoja argumentacja może uzasadnić wszystko, to nie uzasadnia niczego”.
Jednak Vitalik przyznaje, że „długoterminowość jest ważna”, krytykuje tylko „przesadne, nieweryfikowalne korzyści w przyszłości, które mają przykryć wyraźne obecne szkody”.
Kolejnym problematycznym obszarem jest „nieuchronność” (Inevitabilism).
To także ulubiona tarcza obronna w Dolinie Krzemowej i środowisku technologicznym.
Retoryka jest taka: „AI zastąpi ludzką pracę, to historyczna konieczność, nawet jeśli ja tego nie zrobię, zrobi to ktoś inny. Więc moje agresywne rozwijanie AI nie jest dla zysku, tylko zgodnie z duchem czasu.”
Gdzie tu niska odporność? Doskonale rozmywa poczucie odpowiedzialności. Skoro to „nieuchronne”, nie muszę brać odpowiedzialności za wyrządzone szkody.
To także typowy „galaktyczny mózg”: własną chciwość („chcę zarobić / chcę mieć władzę”) opakowuje się w „wykonywanie historycznej misji”.
4️⃣ Co więc robić wobec tych „pułapek dla mądrych ludzi”?
Vitalik proponuje zaskakująco prostą, wręcz „głupią” receptę. Uważa, że im ktoś jest mądrzejszy, tym bardziej potrzebuje zasad o wysokiej odporności, by powstrzymać się przed „akrobacjami umysłowymi”.
Po pierwsze, trzymać się „deontologii” (Deontological Ethics), czyli żelaznych zasad moralnych na poziomie przedszkola.
Nie rozwiązywać skomplikowanych równań „dla przyszłości całej ludzkości”, tylko wrócić do najbardziej sztywnych zasad:
- Nie kradnij
- Nie zabijaj niewinnych
- Nie oszukuj
- Szanuj wolność innych
Te zasady mają bardzo wysoką odporność. Są czarno-białe, nie podlegają negocjacjom. Gdy próbujesz uzasadnić sprzeniewierzenie środków użytkowników „długoterminizmem”, sztywna zasada „nie kradnij” od razu cię obnaża: kradzież to kradzież, nie opowiadaj o wielkiej rewolucji finansowej.
Po drugie, zajmować właściwą „pozycję”, nawet fizyczną.
Jak mówi przysłowie, „gdzie siedzisz, tak myślisz”. Jeśli codziennie przebywasz w bańce San Francisco Bay Area, otoczony ludźmi od AI-akceleracjonizmu, trudno zachować trzeźwość. Vitalik wręcz daje fizyczną radę o wysokiej odporności: nie mieszkaj w Bay Area.
5️⃣ Podsumowanie
Artykuł Vitalika to w istocie ostrzeżenie dla wybitnie inteligentnych elit: nie myśl, że dzięki wysokiemu IQ możesz ominąć proste moralne granice.
Teorie „galaktycznego mózgu”, które wydają się wyjaśniać wszystko, często są najniebezpieczniejszym uniwersalnym usprawiedliwieniem. Natomiast te sztywne, „wysoko odporne” zasady, które brzmią jak dogmaty, są ostatnią linią obrony przed samooszukiwaniem się.
