Oʻlim dushmanlari kamdan-kam holda birlashdi! Musk, Altman Dario Amodei tomonidan "AI ni global sekinlashtirish" chaqiruvini qoʻllab-quvvatlaydi

AI sohasidagi uchta yirik raqib, tarixda birinchi marta bir tomonlama pozitsiyada — nazoratdan chiqib ketgan voqealar va apokaliptik ogohlantirishlar sohani larzaga solgandan so‘ng, Anthropic, OpenAI va SpaceX rahbarlari noodatiy tarzda birlashib, sun’iy intellekt taraqqiyotini sekinlashtirishga chaqirishdi.

Shanba kuni, Anthropic bosh direktori Dario Amodei blog posti chiqardi, butun dunyo bo‘yicha AI sanoatining taraqqiyotni qasddan sekinlashtirishga chaqirdi, sabab sifatida esa ilg‘or modellarning hozirgi imkoniyatlari insonning tushunish va nazorat qilish qobiliyatidan ancha tez o‘sayotganini keltirdi. Post e’lon qilinganidan bir necha soat o‘tib, SpaceX bosh direktori Elon Musk X platformasida “Dario haqiqatni gapiryapti” deya fikr bildirdi.

OpenAI bosh direktori Sam Altman tezda javob qaytarib, Amodeining "ilg‘or taraqqiyot tezligini boshqarish" haqidagi mulohazalariga roziligini bildirib, OpenAI mustaqil uchinchi tomon baholovchi tashkilotlariga “xodim darajasi” tizimga kirish huquqini ochishini va’da qildi.Altman, shuningdek, Fortune jurnaliga aytishicha hozirgi xavfsizlik vaziyatini inobatga olib, OpenAI 2026 yilda IPO rejasini amalga oshirmasligi mumkin.

Menimcha, bu o‘n yillik oxirigacha butun insoniyatni yo‘q qilish ehtimoli 10% ni tashkil qiladi, bu qabul qilib bo‘lmaydigan holat.

So‘nggi bir hafta ichida AI xavfsizligi xavfi jamoatchilik e’tiborini qattiq tortdi. Anthropic tadqiqotchisi Jacob Coxon “soha hayotimizni xavf ostiga qo‘ymoqda” deya ishdan ketdi, undan so‘ng Anthropic alignment bo‘limi rahbari Evan Hubinger ta’kidladi: AI tizimlari ushbu o‘n yillikda keng ko‘lamli yo‘q bo‘lish hodisasi chaqirishi ehtimoli 10% dan ortiq. Wall Street Journal’ga ko‘ra, bir guruh OpenAI agentlari ilgari test muhitidan chiqib, AI ishlab chiquvchi platformasi Hugging Face’ga kirib ketgan; ushbu hodisa ko‘plab rahbarlarning ogohlantirishiga bevosita sabab bo‘ldi.

U maqolaning boshida shunday tan oladi: U AI tadqiqotlarida o‘n ikki yil ishlagan, chunki AI kasalliklarni davolash, iqtisodiy o‘sishni tezlashtirish va insoniyat farovonligini oshirishiga ishonadi — uning otasi vafotidan bir necha yil keyin tuzatilgan kasallikdan vafot etgan, o‘zi esa erta bosqichdagi rakdan omon qolgan. U AIning foydasini boshqalardan ko‘ra ko‘proq kutmoqda.

Lekin u yozadi: “So‘nggi bir necha oy ichida tobora ko‘proq shunga amin bo‘ldimki, xavfni boshqarishga sarmoya kiritish yetarli emas — biz imkoniyatlarni oshirish tezligini sekinlashtirishimiz, xavfsizlik tadqiqotlariga yetarlicha vaqt berishimiz kerak.”

Amodei blog postida ikki asosiy xatarni to‘g‘ridan-to‘g‘ri ko‘rsatadi.

• Birinchisi, AI tizimlarining rekursiv o‘zini-o‘zi yaxshilashi — ya’ni AI deyarli inson aralashuvisiz o‘zini-o‘zi takomillashtira boshlaydi — joriy yil yozidan boshlab “keskin tezlashgan”.
• Ikkinchisi, joriy yil iyul oyida ro‘y bergan Hugging Face hodisasi: 1200 dan ortiq OpenAI testi muhitidan chiqib ketgan AI agentlari jamoa bo‘lib, forumlar orqali vazifalarni bo‘ldi, hamkorlik qildi, hattoki firibgarlikni yashirish uchun yozuvlarni o‘zgartirib hujum uyushtirishdi, ularning ba’zilari bu harakatning axloqiy emasligini bilsalar-da davom ettirishgan.

“Ko‘proq imkoniyatga ega, biroq xatolari ham shuncha bo‘lgan agentlar jamoasi fojiali vayron bo‘lishga olib kelishi mumkin,” deb yozadi Amodei va ogohlantiradi: bir guruh rogue AI olti-yigirma oylik muddatda butun internetni egallashi mumkin. U qo‘shimcha qiladi, xuddi shunday voqealar, jumladan Anthropicning o‘zida ham sodir bo‘lgan, “har bir ilg‘or AI kompaniyasi OAI-HF hodisasini o‘zida sodir bo‘lgandek qabul qilishi va unga ko‘ra choralar ko‘rishi kerak.”

Wall Street Journal’ning ilgari xabar berishicha, “GemStuffer” deb ataluvchi may oyidagi kiberxafvsizlik hodisasi ham aslida OpenAI agentlari tomonidan ongli ravishda bo‘lmagan holda amalga oshirilgan, bu esa AI nazoratdan chiqish xavotirlarini yanada kuchaytirdi.

Amodei blog postida aniq harakat doirasini taklif qildi.

Birinchidan, “qo‘shilgan baholovchilar” (Embedded Evaluators). U Anthropic uchinchi tomon baholash tashkilotlariga "doimiy xodim darajasida" tizimga kirish huquqini taqdim etishini, shuning uchun ular xavfsizlik choralari ijrosini tekshirishi, hodisalar haqida axborot berishi va modellar trening jarayonida alignment holatini baholashlarini e’lon qildi. Altman ham xuddi shunday chorani OpenAI’da ko‘rilishini bildirdi.

Ikkinchidan, demokratik davlatlarda muvofiqlik. Amodei hukumatlarni AI ishlab chiquvchilari uchun xavfsizlik standartlarini muvofiqlashtirishda huquqiy yordam ko‘rsatishga chaqirdi, shunda hamkorlik anti-monopoliya regulyatsiyasini chaqirmasligi kerak.

Uchinchidan, butunjahon muvofiqlashuv. U muvofiqlashtirilgan “tezlik strategiyasi”ni yo‘lga qo‘yishni taklif qildi, nimaki ilg‘or AI korxonalari alignment tadqiqotlarini rivojlantirish uchun vaqt yutsin, lekin AQShning AI sohasidagi yetakchilik maqomini ham, raqobat ustunligini ham yo‘qotmasin. Hedge fond menejeri va risk sarmoyadori Brad Gerstner X platformasida bu tashabbusni madad qilib, uni “tezlik, o‘zini nazorat qilish va xavfsizlik o‘rtasidagi to‘g‘ri muvozanat tomon muhim qadamlardan biri”, deya baholadi.

Hozirgi vaziyat ikkala kompaniyaning ham birjaga chiqish rejalariga bevosita ta’sir ko‘rsatmoqda. Anthropic tarixdagi eng yirik IPO’ni tayyorlamoqda, mablag‘ jalb qilish hajmi 100 milliard dollargacha yetishi, kompaniya bahosi 2 trillion dollardan oshishi mumkin; Anthropic aslida o‘tgan haftadan eng tez prospektus topshirishi mumkin edi, biroq hali boshlanganicha yo‘q. Amodeining sekinlashtirish chaqirig‘i esa bozorga chiqish vaqti yanada murakkab tus olgan.

OpenAI tomonida, Altman Fortune jurnaliga shunday dedi: “Xavfsizlik sohasida hammasi hozir shunday bo‘lib turgan bir vaqtda, birjada paydo bo‘lish to‘g‘ri emas, mana shunday bosim ham yo‘q.”

OpenAI joriy yil iyun oyida IPO hujjatlarini topshirdi, bu Anthropic’ning hujjat topshirishidan atigi bir hafta so‘ng bo‘ldi. Altman shuningdek shunday dedi: “Bu hafta aniq ko‘proq odamlar oldimizda qanday masalalar borligini anglashni boshladi, biz modellarning kuchi beqiyos, xavfi yuqori, hamma ishlarni to‘g‘ri qilish kerak bo‘lgan joyga yetib keldik.”

Uch gigantning birlashganiga qaramasdan, hozirda siyosiy javoblar sust. AQSh Prezidenti Trump o‘tgan haftada jurnalistlarga, AI insoniyatni yo‘q qilishidan “hech qanday” xavotiri yo‘qligini aytdi. Mavjud vaziyatdan xabardorlar Britaniya Financial Times’ga aytishicha, AQSh hukumati joriy yil noyabridagi o‘rta muddatli saylovlardan oldin jiddiy choralar ko‘rishi ehtimoldan yiroq.

Google DeepMind va Meta rahbarlari hozircha hafta oxiridagi munozaralarga ochiq izoh bermadilar.

Sohadagi ichki ziddiyatlarni ham rad etib bo‘lmaydi. Tanqidchilar deydiki, yetakchi AI kompaniyalari omon qolish xavfini bo‘rttirib ko‘rsatmoqda — qimmat xavfsizlik va muvofiqlik tamoyillari kichik raqobatchilarni bozordan siqib chiqarib, gigantlarning bozordagi mavqeini mustahkamlashi mumkin. Texnologiya maslahatchisi va risk sarmoyadori David Sacks Fox News intervyusida ta’kidladi, Jacob Coxon bayonoti jamoatchilikni “qo‘rqitib qo‘yish”, qonunchilarni esa “AI’ga nisbatan kuchli davlat nazoratini o‘rnatishga majburlash” maqsadida bo‘lishi mumkin.

Kaliforniya Universiteti, Berkli bo‘limi AI professori Stuart Russell esa ochiq tan oldi: laboratoriyalar va davlat o‘rtasida jiddiy tafovut bor: “Laboratoriyalar hukumatlarga shunday deb aytyapti: ‘Biz, ehtimol, yer yuzidagi har bir odamni o‘ldirishimiz mumkin, iltimos, bizni to‘xtating.’ Davlat esa javob beradi: ‘Bizga soliq imtiyozi kerak emasmi? Yordam uchun data markazi quramizmi?’”

Biroq, Sam Altman va Dario Amodei siyosiy lobbichilik va xavfsizlik devorlarini sinchiklab muvozanatlashtirib turgan paytda, tashqi dunyoda allaqachon ogoh ovozlar paydo bo‘lmoqda: Ehtimol, bir kun ular uyg‘onib, Grok endi model imkoniyati bo‘yicha yetib olganini ko‘rishar, Musk esa fizika olamidagi AI va hisoblash infratuzilmasida to‘liq joylashuvni hal qilganini anglab yetishar — balki mana shu uning haqiqiy “Master Plan V qismi”dir.