Vitalikning uzoq maqolasini tushunish: Nega aqlli odamlar "ahmoqona qoidalar"ga sodiq qolishlari kerak?

Hammasini tushuntirib bera oladigan "galaktik miya" nazariyalari ko‘pincha eng xavfli, hamma narsaga mos keladigan bahonadir. Aksincha, qattiq va dogmatik ko‘rinadigan "yuqori qarshilikka ega" qoidalar o‘zimizni aldashimizning oldini oladigan so‘nggi himoya chizig‘idir.

Muallif: Zhixiong Pan

Vitalik bir necha hafta oldin chiqargan "Galaxy Brain Resistance" maqolasi aslida ancha murakkab va tushunarsiz, yaxshi sharhlar ham ko‘rmadim, shuning uchun o‘zim urinib ko‘raman.

Axir, Vibe Coding atamasining yaratuvchisi Karpathy ham bu maqolani o‘qib, qaydlar yozgan ekan, demak, unda alohida bir narsa bor.

Avvalo, sarlavhadagi Galaxy Brain va Resistance nimani anglatishini tushuntirib o‘tsam, sarlavhani tushunganingizdan so‘ng maqolaning asosiy mazmunini ham tushunasiz.

1️⃣ Galaxy Brain’ning o‘zbekchasi "galaktik miya", lekin aslida bu internet memidan (Meme) olingan, (🌌🧠) birlashgan rasmga o‘xshaydi, albatta ko‘rgan bo‘lsangiz kerak.

Boshida bu so‘z ijobiy ma’noda ishlatilgan, ya’ni kimningdir fikri juda zo‘r, aqlli deb maqtash uchun. Lekin keyinchalik haddan tashqari ishlatilgani sababli, asta-sekin kinoya ma’nosini oldi, ya’ni "haddan tashqari o‘ylab, mantiqni haddan tashqari murakkablashtirish" degan ma’noni anglatadi.

Vitalik bu yerda 🌌🧠 ni, aynan "yuqori intellekt yordamida mantiqsiz narsalarni majburan mantiqli qilib ko‘rsatishga urinish" holatini nazarda tutadi. Masalan:

- Aslida pul tejash uchun ommaviy ishdan bo‘shatish bo‘layotgan bo‘lsa-da, buni "jamiyatga yuqori malakali kadrlar yetkazib berish" deb atash.

- Aslida aircoin chiqarib, odamlarni aldash bo‘lsa-da, buni "decentralizatsiyalashgan boshqaruv orqali global iqtisodiyotga kuch berish" deb atash.

Bularning barchasi "galaktik miya" uslubidagi fikrlashga misol bo‘la oladi.

2️⃣ Endi Resistance (qarshilik) nimani anglatadi? Bu tushuncha oson chalkashib ketishi mumkin, zamonaviy tilda aytganda, "manipulyatsiyaga qarshi immunitet" yoki "aldanishga qarshi immunitet" deb tushunsa bo‘ladi.

Shuning uchun Galaxy Brain Resistance — Resistance to [becoming] Galaxy Brain, ya’ni "(galaktik miya — bema’ni gaplar)ga aylanib ketishga qarshi immunitet" degani.

Yoki aniqroq qilib aytganda, bu qandaydir fikrlash yoki isbotlash uslubining "istalgan xulosani isbotlash uchun haddan tashqari ishlatilishi" qanchalik oson yoki qiyinligini ifodalaydi.

Demak, bu "qarshilik" ma’lum bir "nazariya"ga nisbatan bo‘lishi mumkin, masalan,

- Past qarshilikka ega (Low Resistance) nazariya: Biroz tahlil qilinsa, juda g‘alati "galaktik miya" mantiqiga aylanib ketishi oson.

- Yuqori qarshilikka ega (High Resistance) nazariya: Qanday tahlil qilinmasin, o‘z holatini saqlab qoladi, g‘alati mantiqqa aylanib ketishi juda qiyin.

Masalan, Vitalik aytadi, uning ideal jamiyatidagi qonunlarda bir qizil chiziq bo‘lishi kerak: faqat qandaydir xatti-harakat aniq bir jabrlanuvchiga qanday zarar yoki xavf tug‘dirishini tushuntirib bera olgandagina uni taqiqlash mumkin. Bu mezon juda yuqori Galaxy Brain qarshiligiga ega, chunki "men subyektiv ravishda yoqtirmayman", "axloqqa zid" kabi cheksiz cho‘ziladigan yoki noaniq sabablarni qabul qilmaydi.

3️⃣ Vitalik maqolada ko‘plab misollar keltiradi, hatto biz tez-tez eshitadigan nazariyalarni ham, masalan "uzoq muddatlilik" va "muqarrariylik"ni misol qiladi.

"Uzoq muddatlilik" 🌌🧠 uslubidagi fikrlashning ta’siriga qarshi turishi juda qiyin, chunki uning qarshiligi juda past, deyarli "bo‘sh chek"ga o‘xshaydi. Chunki "kelajak" juda uzoq va noaniq.

- Yuqori qarshilikka ega ifoda: "Bu daraxt 10 yildan keyin 5 metrga o‘sadi". Bu tekshirilishi mumkin, bema’ni gap qilish qiyin.

- Past qarshilikka ega "uzoq muddatlilik": "Garchi men hozir juda axloqsiz ish qilmoqchi bo‘lsam (masalan, bir guruh odamlarni yo‘q qilish yoki urush boshlash), lekin bu 500 yildan keyin insoniyat utopiyaga erishishi uchun. Hisob-kitobimga ko‘ra, kelajakdagi baxt miqdori cheksiz, shuning uchun hozirgi qurbonlik ahamiyatsiz."

Ko‘ryapsizmi, vaqtni yetarlicha uzoqqa cho‘zsangiz, hozirgi yomon ishlarni oqlash mumkin. Vitalik aytganidek: "Agar sizning isbotingiz har qanday narsani oqlay olsa, demak, u aslida hech narsani isbotlamaydi."

Lekin Vitalik "uzoq muddat muhim"ligini ham tan oladi, u tanqid qilayotgani — "haddan tashqari noaniq va tekshirib bo‘lmaydigan uzoq muddatli foyda bilan hozirgi aniq zararlarni yopish"dir.

Yana bir muammoli soha — "muqarrariylik" (Inevitabilism).

Bu ham Silicon Valley va texnologiya sohasida eng ko‘p ishlatiladigan himoya usulidir.

Gap shunday: "AI inson ishini egallashi tarixiy zarurat, men qilmasam, boshqalar qiladi. Shuning uchun men hozir AI’ni jadal rivojlantirishim pul ishlash uchun emas, balki tarixiy jarayonga moslashish uchun."

Qarshiligi qayerda past? Bu insonning javobgarlik hissini butunlay yo‘qotadi. Agar "muqarrar" bo‘lsa, men qilgan zarar uchun javob bermasam ham bo‘ladi.

Bu ham tipik galaktik miya: "men pul ishlamoqchiman / hokimiyatga ega bo‘lmoqchiman" degan shaxsiy istakni "men tarixiy vazifani bajaryapman" deb o‘rab qo‘yish.

4️⃣ Endi bu "aqlli odamlar tuzog‘i"ga duch kelganda nima qilish kerak?

Vitalik taklif qilgan yechim kutilmagan darajada sodda, hatto biroz "ahmoqona". U fikricha, inson qanchalik aqlli bo‘lsa, o‘zini cheklash uchun shunchalik yuqori qarshilikka ega qoidalarga muhtoj, aks holda aqliy akrobatikasi bilan o‘zini yo‘qotib qo‘yadi.

Birinchidan, "burch etikasi"ga (Deontological Ethics), ya’ni bolalar bog‘chasidagi axloqiy qoidalarga sodiq qolish kerak.

"Butun insoniyat kelajagi uchun" murakkab matematik hisob-kitoblarni qilmay, eng qattiq qoidalarga qaytish kerak:

- O‘g‘irlamang

- Aybsiz odamlarni o‘ldirmang

- Firibgarlik qilmang

- Boshqalarning erkinligini hurmat qiling

Bu qoidalar juda yuqori qarshilikka ega. Chunki ular oq-qora, muhokama qilib bo‘lmaydi. Agar siz "uzoq muddatlilik" nazariyasi bilan foydalanuvchi mablag‘ini o‘zlashtirishni oqlashga harakat qilsangiz, "o‘g‘irlamang" degan qattiq qoida sizga to‘g‘ri javob beradi: o‘g‘irlik — o‘g‘irlik, "buyuk moliyaviy inqilob uchun" deb bahona qilmang.

Ikkinchidan, to‘g‘ri "pozitsiya"ni egallash, hatto jismoniy joylashuvni ham o‘z ichiga oladi.

Xalq orasida "o‘tirgan joying — fikringni belgilaydi" deyishadi. Agar siz har kuni San-Fransisko Bay Area’dagi o‘sha "echo chamber"da bo‘lsangiz, atrofingizda faqat AI tezlashtirish tarafdorlari bo‘lsa, hushyor bo‘lish qiyin. Vitalik hatto jismoniy jihatdan yuqori qarshilikka ega bo‘lish uchun maslahat beradi: San-Fransisko Bay Area’da yashamang.

5️⃣ Xulosa

Vitalikning bu maqolasi aslida eng aqlli elitalarni ogohlantirishga qaratilgan: faqat yuqori IQ’ingiz borligi uchun oddiy axloqiy chegaralarni chetlab o‘taman deb o‘ylamang.

Hammasini tushuntirib bera oladigan "galaktik miya" nazariyalari ko‘pincha eng xavfli, hamma narsaga mos keladigan bahonadir. Aksincha, qattiq va dogmatik ko‘rinadigan "yuqori qarshilikka ega" qoidalar o‘zimizni aldashimizning oldini oladigan so‘nggi himoya chizig‘idir.