U u insoniyatni yo‘q qiladi deb bashorat qilgan AI-ni barpo etishda davom etmoqda — Anthropic rahbarining ziddiyatlari va yuksalishi

Silicon Valleyda, CEO odatda savdo dahosi, mahsulotga oshiq inson yoki kapital bozorlarining o‘yinchisi sifatida ta’riflanadi.

Lekin Anthropic’ning asosiy sarmoyadorlaridan biri Dario Amodei haqida shunday deydi: u ko‘proq diniy yetakchiga o‘xshaydi, CEO emas.

Anthropic, Claude orqasidagi AI gigant sifatida, bahosi bir trillion dollarga yaqinlashmoqda va daromad o‘sish sur’ati butun sanoatni hayratda qoldirgan. Lekin uning asosiy hikoyasi “Biz AI yordamida insoniyatga kod yozib, dori yaratib, pul ishlaymiz” emas, balki “Biz o‘zimiz yaratadigan narsa insoniyatni yo‘q qilishiga yo‘l qo‘ymasligimiz kerak”.

Qiyomat riskiga ishonadigan odam, AGI eng oldingi liniyasiga eng yaqin kompaniyani asos soladi; AI xavfi haqida doim ogohlantiradigan inson, kuchliroq AI’ni jahon bozoriga olib chiqmoqda.

Bu Dario Amodeining paradoksi va Anthropic ochiq bozor oldida turadigan eng katta ziddiyati.

Ketish: “Qiyomat ruhoniylar guruhi”ning paydo bo‘lishi

Bugungi Amodeini tushunish uchun, uni OpenAI’dagi yillariga qaytish zarur.

2016-yilda, Prinston universiteti biofizika bo‘yicha doktorlik darajasiga ega bo‘lgan, San-Fransiskolik Dario Amodei OpenAI’ga xavfsizlik bo‘yicha mas’ul sifatida qo‘shiladi. O‘sha paytdagi OpenAI madaniyati ochiqlikni qadrlagan – kod almashish, tadqiqotlarni oshkor qilish, butun tashkilotda “AI insoniyat farovonligi uchun” degan yorqin optimizm hukmron edi.

Amodei esa o‘zini begonadek his qilardi.

2018-yildan boshlab u hamkasblariga ozgina manikalik bo‘lib tuyulgan ma’lumot nazorati tizimini joriy qildi: tadqiqotlar chiqarilishidan oldin “ma’lumot xavfi” tekshiruvidan o‘tishi, ayrim natijalarni oshkor qilish raqiblar tomonidan darhol foydalanilishidan qo‘rquv. U San-Fransiskodagi kvartirasida tashqi tarmoqqa ulanmagan kompyuterda maxfiy yozuvlar tayyorlab, hujjatni chop etib tarqatgan, umumiy Google hujjatlaridan foydalanishni qat’iyan rad etgan.

2019-yilda, u boshchilik qilgan xavfsizlik guruhi GPT-3 AGI darajasiga yaqinlashadigan model bo‘lishi mumkinligi sababli, Microsoftning OpenAI’ga 1 milliard dollar sarmoyasini oylar davomida kechiktirgan. “Xavfsizlik jamoasi ruhoniylar guruhi kabi edi,” deydi OpenAI’nin sobiq rahbarlaridan biri.

CEO Sam Altman va prezident Greg Brockman bilan konfliktlar keskinlashib borar edi. Ziddiyatning mohiyati - faqat aniq loyiha boshqaruvi emas, balki asosiy tafovut: ushbu kompaniya insoniyat farovonligi uchun ishlayotganmi yoki vaqt bombasi yasayaptimi?

2020-yil oxirida, Amodei singlisi Daniela va yana besh hamkori bilan OpenAI’dan ketib, Anthropic’ni yaratdi.

O‘sha davrda asoschi jamoa bilan tez-tez aloqada bo‘lgan bir inson so‘zlariga ko‘ra, ularni birlashtirgan kuchli “anti-OpenAI” hissiyot — yoki to‘g‘rirog‘i, Sam Altmandan qo‘rqish edi. “Barchasi balog‘atga yetgan odamlar ‘Bu inson dunyoning oxirini keltiradi’ deyishardi”, – deydi manba, – “Bu, oxir-oqibat, nihoyatda uyg‘unlashgan kurash shiori bo‘lib qoldi.”

Anthropic boshidan bir paradoks bilan tug‘ildi: AI’ni xavfsizroq qilish uchun tashkil etilgan, lekin eng qizg‘in AI poygasida doim kuchli model qurishga majbur.

Diniy yadro, raketa tezligida o‘sish

Anthropic ichida, xodimlar Amodeining har ikki haftada o‘tkazadigan umumiy yig‘ilishlarini “Dario’s Vision Quests” (Dario Vizion izlashlari) deb atashadi.

U bu majlislarda uzun, batafsil hujjatlarni olib chiqib, AI, siyosat, urush va jamiyatning kelajagi haqida samimiy fikr bildiradi. Bu mahsulot yo‘li yoki choraklik reja emas, balki sivilizatsiyaning yo‘nalishini muhokama qilishdir. Xodimlar o‘z ishini “sivilizatsiya tarixida bir marta uchraydigan imkoniyat” deya tasvirlashadi. Kompaniyada ichki faylasuf mavjud, u Claude’ning shaxsiyati va qadriyatlarini shakllantirishda ishtirok etadi. Claude’ning o‘zining yozma “konstitutsiyasi” ham bor.

Anthropic oddiy dasturiy ta’minot kompaniyasidan ko‘ra, qiyomat riski va texnologik poyga atrofida tashkil topgan jamoaga o‘xshaydi.

Ushbu jamoa butun sanoatni hayratga solgan tezlikda real daromadga chiqmoqda.

Anthropic’ning asosiy yutug‘i Claude modeli murakkab dasturiy injiniring, mashinali o‘rganish va kiberxavfsizlik vazifalarida aqliy sakrashga erishgani bo‘ldi. Bu kompaniyani ushbu yil boshlarida OpenAI’dan ancha yuqori yillik daromad ko‘rsatkichiga olib chiqdi. Bahosi tashkil topganida 500 million dollardan past bo‘lgan bo‘lsa, uch yil ichida 965 milliard dollarga yaqinlashdi, ya’ni 200 baravar o‘sdi.

Bu o‘sish chizig‘ida esa, Amodeining o‘z tamoyillari bilan ziddiyatlari aniq ko‘rinadi.

O‘tgan yili tadqiqotchilar Claude 4 modeli biokimyoviy qurollar ishlab chiqishda tashvishlanarli darajada yordam bera olishini aniqladi. Anthropic buning uchun maxsus AI filtrlarini ishlab chiqdi, biroq bu filtrlar juda qimmatga tushadi va ko‘pincha oddiy muloqotlarni xato bloklaydi. Moliyaviy jamoa model rentabelligiga zarar yetayotganini shikoyat qilganda, Amodei xavfsizlik nuqtayi nazaridan ulardan voz kechmadi.

Ammo raqobat kuchayishi bilan murosalar ham boshlangan. Joriy yil boshida Anthropic “mas’uliyatli kengaytirish siyosatini” yangilab, ilgari olg‘a surgan “agar xavfni kamaytirish chorasi kafolatlanmasa model chiqarilmaydi” degan va’dani bekor qildi. Bosh olim Jared Kaplan tan oldi: “Agar raqiblar to‘xtamay oldinga yurayotgan bo‘lsa, biz bir tomonlama va’dada turishni to‘g‘ri deb hisoblamadik.”

Amodei ochiq tarzda AI demokratiya razvedka xizmatlarini kuchaytirishda ishlatilishi kerak va “avtoritar rejimlarni ichkaridan yemirib tashlashi” mumkinligini yozgan. Biroq Anthropic Qatar va BAA kabi avtoritar hukumatlardan sarmoya qabul qildi. U kompaniyaning ichki Slack xabarida: “Afsuski, ‘Bizning muvaffaqiyatimizdan hech qanday yomon odam foyda ko‘rmasin’ – bunday printsip asosida biznes yuritish mushkul,” deb yozgan.

Anthropic, shuningdek, Elon Musk’ning SpaceX kompaniyasiga har oyda 1 milliard dollardan ortiq hisoblash quvvati uchun to‘lov qilmoqda – garchi Musk va Amodei AI xavfsizligi va xayriya masalasida ochiqcha tortishib kelgan bo‘lsa ham.

Ziddiyat yo‘qolgani yo‘q. U faqat o‘sish sur’ati bilan vaqtincha bosilib turibdi.

IPO oldidan: Sarmoyachilarning sabri sinovdan o‘tmoqda

Hozir, imkon derazasi ochildi.

The Information’a ko‘ra, Anthropic eng tez bu yil sentyabrda IPO o‘tkazishi mumkin. Amodei ilk marta ochiq bozor sarmoyadorlari – AI aksiyalari tebranishidan zarar ko‘rgan fond menejerlari, choraklik hisobot oldidan LP‘lariga javob berishga majbur bo‘lgan tashkilot sotuvchilari, narx va erkin pul oqimi bo‘yicha odatlangan Wall Street tahlilchilari oldida chiqadi.

Ular ikki xil Anthropic ko‘rmoqda.

Biri – o‘sish mashinasi: uch yilda 200 marta oshgan baho, daromad ko‘lami Oracle kabi yarim asrlik kompaniyani quvlab, xodimlari esa ularning uch foizi, samaradorlik esa aqlbovar qilmas darajada.

Ikkinchisi – xavfli qora tuynuk: joziba tushunadigan CEO bo’lishni istamaydigan asoschi boshqaruvida, AI tartibga solinishini ochiqchasiga qo‘llab-quvvatlaydi, bozorda qurayotgan texnologiyasini xavfli deb doim ta’kidlaydi, Tramp hukumatiga “har qanday qonuniy maqsad” uchun harbiy ruxsat bermaydi, Prezidentni esa “diktatorona” tarzda maqtab bo‘lmaydi.

Anthropic bilan uchrashuvda bo‘lgan bir fond menejeri ochiq aytdi: u Amodei endi “barchani qo‘rqitishni to‘xtatsa” yaxshi bo‘lar edi. Bir Silicon Valley sarmoyadori sevimli o‘z kundaligiga bu investitsiya bo‘yicha eng noodatiy xavfini yozgan: Amodei haqiqatan ham pul ishlashga ahamiyat beradimi, ishonchi yo‘q.

IPO’dan katta foyda ko‘radigan mavjud sarmoyadorlar ham Amodeining AI tartibga solinishidagi faolligi kompaniya va butun texno-sektor manfaatiga zid ekanidan shikoyat qilishmoqda. Marc Andreessen, David Sacks kabi Tramp hukumati bilan yaqin bo‘lgan venchur investorlar Amodeini “tartibga olish orqali bozorni qo‘lga olish”da ayblashadi, ochiq manba AI’ni cheklab Anthropic bozordagi o‘rnini mustahkamlashga urinyapti, deyishadi. Risk investori Bill Gurley esa shunday SMS yozadi: “Bu men ko‘rgan eng agressiv tartibga olish orqali bozorni nazorat qilishga urinishlaridan biri.”

Taniqli startapchi va sarmoyador Eric Ries esa mulohazali baho beradi – Anthropic qimmat chiplar va ma’lumot markazlaridan doimiy foydalanishi sarmoyadorlarga katta ta’sir beradi. “Savol shunda: agar ulush narxi tushsa, nima bo‘ladi?”

Qiyomat payg‘ambari paradoksi

AI tadqiqotchisi Nate Soares Dario Amodeini o‘n yilcha biladi va AI qiyomat riskini uzoq o‘rgangan. U “Agar kimdir chiqarsa, barchamiz o‘lamiz” kitobining hammuallifi. Kaliforniyada, Berkli shahrida joylashgan uyning nazoratini olib boradi – bu uydagi bir guruh ijtimoiy media yaratuvchilari maxsus ravishda “AI qiyomati” mavzusida kontent tayyorlashadi.

U Amodeining cho‘qqiga chiqishini kuzatar ekan, goh ajib bir xotirjamlik yo‘qligini his qiladi.

“Buning uchun o‘ziga xos fazilat zarur — bu fikrlarni qabul qilgan paytda ham aynan o‘sha AI kompaniyasiga asos solishga jur’at etish uchun,” dedi u.

Bu ibora, ehtimol, Dario Amodeiga eng to‘g‘ri tavsifdir.

U 2017-yildayoq Vashington minbaridan AI tizimlari inson nazoratisiz, hech kim anglay olmaydigan tezlikda ishlay boshlashini ogohlantirgan edi. Devor bo‘lib, deyarli o‘n yil davomida, aynan shu voqelik tezroqlik bilan sodir bo‘lishi uchun jon kuydirdi — hamda bu yomonroq bo‘lishini oldini olishning yagona yo‘li shudir, deb turib oldi.

Bu mantiqqa ko‘ra o‘zaro uyg‘unmi? Balki. Xavflimi? Aniq.

Anthropic aksiyasini sotib olmoqchi bo‘lgan sarmoyadorlar uchun, ular hal qilishi lozim bo‘lgan savol kompaniya o‘sishda davom etadimi yoki yo‘qmi emas – ya’ni eng asosiy savol — Bu paradoks, Anthropic’ning eng kuchli himoya devorimi yoki uning eng katta xavfimi?