Müəllif: Zhixiong Pan
Vitalik-in bir neçə həftə əvvəl dərc etdiyi "Galaxy Brain Resistance" adlı məqaləsi əslində olduqca çətin başa düşüləndir və yaxşı bir şərhinə rast gəlmədim, buna görə özüm izah etməyə çalışacağam.
Axı Vibe Coding terminini yaradan Karpathy də bu məqaləni oxuyub qeydlər aparıbsa, deməli burada xüsusi bir şey var.
Əvvəlcə başlıqda olan Galaxy Brain və Resistance nə deməkdir, bunu izah edim, başlığı başa düşəndə məqalənin əsas ideyasını da anlayacaqsınız.
1️⃣ Galaxy Brain-in Azərbaycan dilində tərcüməsi "Qalaktika Beyni"dir, amma əslində bu internet memindən (Meme) gəlir, (🌌🧠) birləşmiş şəkil kimi, yəqin ki, görmüsünüz.
Əvvəlcə bu ifadə müsbət mənada işlədilirdi, yəni qarşı tərəfin fikrinin çox ağıllı olduğunu tərifləmək üçün. Amma sonradan istifadəsi artdıqca, bir növ ironiyaya çevrildi, yəni "çox düşünürsən, məntiqi həddindən artıq dolaşdırırsan" mənasında.
Vitalik burada 🌌🧠 ifadəsini xüsusi olaraq "yüksək intellektdən istifadə edərək məntiqi akrobatika etmək, əsassız bir şeyi zorla əsaslandırmaq" davranışına işarə edir. Məsələn:
- Əslində pul qazanmaq üçün kütləvi ixtisarlar edilir, amma bunu "cəmiyyətə yüksək keyfiyyətli kadrlar təqdim etmək" kimi təqdim edirlər.
- Əslində havadan token buraxıb insanları aldadırlar, amma bunu "decentralizasiya idarəçiliyi ilə qlobal iqtisadiyyata güc vermək" kimi göstərirlər.
Bunların hamısı "Qalaktika Beyni" tipli düşüncə sayılır.
2️⃣ Bəs Resistance (Müqavimət) nə deməkdir? Bu anlayış asanlıqla dolaşıq ola bilər, populyar dildə desək, "manipulyasiyaya qarşı dayanıqlıq" və ya "aldadılmama qabiliyyəti" kimi başa düşülə bilər.
Ona görə də Galaxy Brain Resistance, yəni Resistance to [becoming] Galaxy Brain, "Qalaktika Beyni (boş danışıq) olmağa qarşı müqavimət" deməkdir.
Və ya daha dəqiq desək, bu, müəyyən bir düşüncə və ya arqumentasiya tərzinin "istədiyin nəticəni sübut etmək üçün" sui-istifadə olunmasının nə qədər asan və ya çətin olduğunu təsvir edir.
Bu "müqavimət" müəyyən bir "nəzəriyyəyə" aid ola bilər, məsələn,
- Aşağı müqavimətli (Low Resistance) nəzəriyyə: Bir az təhlil edəndə dərhal həddindən artıq "Qalaktika Beyni" məntiqinə çevrilə bilər.
- Yüksək müqavimətli (High Resistance) nəzəriyyə: Necə təhlil etsən də, orijinal formasını qoruyur, absurd məntiqə çevrilmək çətindir.
Məsələn, Vitalik deyir ki, onun idealında olan cəmiyyət qanunlarında belə bir qırmızı xətt olmalıdır: yalnız müəyyən bir davranışın konkret zərər və ya risk yaratdığını aydın şəkildə izah etmək mümkün olduqda onu qadağan etmək olar. Bu standart "Qalaktika Beyni"nə qarşı yüksək müqavimətə malikdir, çünki "mən subyektiv olaraq bəyənmirəm", "əxlaqa ziddir" kimi sonsuz dartıla və ya qeyri-müəyyən səbəbləri qəbul etmir.
3️⃣ Vitalik məqalədə bir çox nümunə gətirir, hətta tez-tez eşitdiyimiz nəzəriyyələri də misal çəkir, məsələn, "uzunmüddətçilik" və "qaçılmazlıq".
"Uzunmüddətçilik" 🌌🧠 tipli düşüncənin təsirinə qarşı müqaviməti çox zəifdir, demək olar ki, "boş çek" kimidir. Çünki "gələcək" çox uzaq və qeyri-müəyyəndir.
- Yüksək müqavimətli ifadə: "Bu ağac 10 ildən sonra 5 metr böyüyəcək." Bu yoxlanıla biləndir, boş danışmaq çətindir.
- Aşağı müqavimətli "uzunmüddətçilik": "Baxmayaraq ki, indi çox qeyri-etik bir iş görürəm (məsələn, müəyyən insanları aradan qaldırıram və ya müharibə başlayıram), amma bu, 500 il sonra insanlığın utopik həyat sürməsi üçündür. Hesablamalarıma görə, gələcəkdə xoşbəxtliyin ümumi miqdarı sonsuzdur, ona görə də indiki qurbanlar nəzərə alınmır."
Görürsünüz, vaxtı kifayət qədər uzatsanız, istənilən indiki pis əməlinizi əsaslandıra bilərsiniz. Vitalik-in dediyi kimi: "Əgər arqumentiniz istənilən şeyi əsaslandıra bilirsə, deməli heç nəyi əsaslandıra bilmir."
Amma Vitalik də qəbul edir ki, "uzunmüddət vacibdir", o, tənqid etdiyi şey "həddindən artıq qeyri-müəyyən, yoxlanıla bilməyən gələcək faydalarla, indiki aydın zərərləri ört-basdır etməkdir".
Başqa bir problemli sahə "qaçılmazlıq"dır (Inevitabilism).
Bu, Silikon Vadisi və texnologiya dairələrinin ən sevimli müdafiə üsuludur.
İfadə belədir: "AI insan işlərini əvəz edəcək, bu tarixi qaçılmazlıqdır, mən etməsəm, başqası edəcək. Ona görə də indi AI-ı aqressiv şəkildə inkişaf etdirməyim pul qazanmaq üçün deyil, tarixi axına uyğunlaşmaq üçündür."
Müqavimət harada zəifdir? Bu, insanın məsuliyyət hissini tamamilə aradan qaldırır. Əgər "qaçılmazdırsa", mən yaratdığım dağıntıya görə məsuliyyət daşımıram.
Bu da tipik bir Qalaktika Beyni nümunəsidir: "pul qazanmaq / hakimiyyət əldə etmək" şəxsi istəklərini "mən tarixi vəzifəni yerinə yetirirəm" kimi təqdim etmək.
4️⃣ Bəs bu "ağıllı insanların tələləri" ilə necə mübarizə aparmalı?
Vitalik-in təklif etdiyi həll gözlənilmədən sadədir, hətta bir az "səfeh" görünür. O düşünür ki, nə qədər ağıllı olsanız, bir o qədər yüksək müqavimətli qaydalara ehtiyacınız var ki, özünüzü məntiqi akrobatikadan qoruyasınız.
Birincisi, "vəzifə etikası"na (Deontological Ethics) sadiq qalmaq, yəni uşaq bağçası səviyyəsində olan dəmir əxlaq qaydalarına.
"Bütün insanlığın gələcəyi üçün" mürəkkəb riyazi hesablamalar aparmağa ehtiyac yoxdur, ən sərt prinsiplərə qayıdın:
- Oğurluq etmə
- Günahsız insanları öldürmə
- Fırıldaqçılıq etmə
- Başqalarının azadlığına hörmət et
Bu qaydalar çox yüksək müqavimətə malikdir. Çünki bunlar ağ-qara, danışıqsızdır. "Uzunmüddətçilik" kimi böyük arqumentlərlə istifadəçi vəsaitlərini mənimsəməyinizi izah etməyə çalışanda, "oğurluq etmə" qaydası sizi dərhal ifşa edəcək: oğurluq oğurluqdur, böyük maliyyə inqilabı üçün etdiyini demə.
İkincisi, düzgün "mövqe" tutmaq, hətta fiziki mövqe də daxil olmaqla.
Xalq arasında deyirlər ki, oturduğun yer düşüncəni müəyyən edir. Əgər hər gün San Francisco Bay Area-da, ətrafında yalnız AI sürətləndiriciləri olan insanlarla olsan, ayıq qalmaq çətin olar. Vitalik hətta fiziki səviyyədə yüksək müqavimət üçün belə bir məsləhət verir: San Francisco Bay Area-da yaşamayın.
5️⃣ Yekun
Vitalik-in bu məqaləsi əslində ən ağıllı elitaları xəbərdar edir: Zəka səviyyəniz yüksək olduğu üçün sadə əxlaq prinsiplərini pozmağa haqqınız olduğunu düşünməyin.
Hər şeyi izah edə bilən "Qalaktika Beyni" nəzəriyyələri, adətən ən təhlükəli universal bəhanələrdir. Əksinə, sərt və qaydacı görünən "yüksək müqavimətli" qaydalar, özümüzü aldatmağımızın qarşısını alan sonuncu müdafiə xəttidir.
