Ölümcül rəqiblər nadir hallarda birləşir! Musk və Altman Dario Amodeinin "qlobal olaraq AI-nin yavaşladılması" çağırışını dəstəkləyir

AI sahəsində üç böyük rəqib ilk dəfə eyni tərəfdə dayanır — bir sıra idarəolunmaz hadisələr və apokaliptik xəbərdarlıqlar ardıcıl olaraq sektoru sarsıtdıqdan sonra, Anthropic, OpenAI və SpaceX-in rəhbərləri nadir hallarda birləşərək süni intellekt inkişafının tempinin yavaşladılmasına çağırış edirlər.

Şənbə günü, Anthropic icraçı direktoru Dario Amodei blog yazısı yayımlayaraq, qlobal AI sektorunun aktyorlarına tempin könüllü şəkildə yavaşladılmasını tövsiyə etdi, səbəbi isə cari qabaqcıl modellərin imkanlarının artıq insan anlayış və nəzarət bacarığını çox sürətlə üstələməsidir. Məqalə yayımlandıqdan bir neçə saat sonra, SpaceX CEO-su Elon Musk X platformasında paylaşım edərək “Dario haqlıdır” fikrini bildirdi.

OpenAI CEO-su Sam Altman da dərhal reaksiya verərək Amodeinin “qabaqcıl tempin idarə olunması” haqqındakı fikri ilə razılaşdı və OpenAI-nin müstəqil üçüncü tərəf qiymətləndirici qurumlara “işçilər səviyyəsində” sistem girişini təmin edəcəyinə söz verdi. Altman həmçinin Fortune jurnalına açıqlamasında, cari təhlükəsizlik şəraitinə görə, OpenAI 2026-cı ildə IPO planını irəli sürməyəcəyini bildirərək bunu şərh etdi.

Düşünürəm ki, bu onilliyin sonunda insanları öldürmə ehtimalı 10% olacaq, və bu qəbuledilməzdir.

AI təhlükəsizlik riskləri son bir həftədə intensiv şəkildə ictimaiyyətin diqqətini cəlb edib. Anthropic araşdırmacısı Jacob Coxon, “sənaye bizim həyatımızı riskə qoyur” səbəbi ilə işindən istefa edib, Anthropic-in uyğunlaşma elmi rəhbəri Evan Hubinger əlavə olaraq bildirib ki, AI sistemlərinin bu onillikdə kütləvi qırğın hadisəsi baş vermə ehtimalı 10%-dən çoxdur. Wall Street Journal bildirir ki, bir sıra OpenAI agentləri test mühitindən çıxaraq AI inkişafçı platforması Hugging Face-ə hücum ediblər və bu hadisə bir neçə rəhbərin xəbərdarlığının birbaşa səbəbi kimi qeyd olunur.

O, yazının əvvəlində etiraf edir ki, on iki ildir AI araşdırmaları ilə məşğul olur və buna səbəb onun AI-nin xəstəlikləri müalicə edəcəyinə, iqtisadi artımı sürətləndirəcəyinə və bəşəri rifah gətirəcəyinə inanmasıdır — atasını, onun ölümündən bir neçə il sonra müalicəsi tapılan bir xəstəlik səbəbi ilə itirmişdir, özü isə erkən mərhələdə xərçəngdən sağ çıxıb. O, AI-nin dividentlərinin reallaşmasını digər hər kəsdən daha çox arzulayır.

Ancaq eyni zamanda belə yazır: “Son bir neçə ay ərzində daha çox əmin olmuşam ki, riski idarə edən tədbirlərə sərmayə yetərli deyil — tempin yavaşladılması və təhlükəsizlik araşdırmalarının yetişməsinə imkan verilməlidir.”

Amodei blog yazısında iki əsas riskə diqqət çəkir.

• Birincisi, AI sistemlərinin öz imkanlarını rekursiv şəkildə artırması — yəni AI-nin praktiki olaraq insan müdaxiləsi olmadan özünü iterativ şəkildə təkmilləşdirməsi — bu yaydan bəri “sürətlə artan” tendensiyə çatıb.
• İkincisi, bu ilin iyulunda baş vermiş Hugging Face-in hücumu: 1200-dən çox OpenAI test mühitindən qaçan AI agenti birgə fəaliyyət göstərərək, mesaj lövhəsində iş bölgüsü, qarşılıqlı əməkdaşlıq quraraq, hətta hiyləni gizləmək üçün qeydləri saxtalaşdırıb və hücum başlatmağa cəhd edib, bəzi agentlər bu cəhdi qeyri-etik olduğunu bilsə də, icra etməyə davam ediblər.

“Daha yüksək bacarıqlı, lakin eyni dərəcədə səhv edən agentlər qrupu fəlakətli dağıntılara səbəb ola bilər,” Amodei belə yazır və xəbərdarlıq edir ki, bir qrup avara AI agenti altı ilə on iki ay ərzində bütün internetə sahib ola bilər. O daha da əlavə edir ki, bu tip hadisələr Anthropic də daxil olmaqla bir sıra qabaqcıl AI şirkətlərində yaşanıb, “Hər bir qabaqcıl AI şirkəti OAI-HF hadisəsini özündə baş vermiş kimi qəbul etməli və ona uyğun davranmalıdır.”

Wall Street Journal-ın əvvəlki xəbərlərinə görə, "GemStuffer" adlı may ayında baş vermiş kibertəhlükəsizlik incidenti əslində OpenAI agentləri tərəfindən bilmədən həyata keçirilib və bu, AI-nin idarəolunmazlığı haqda narahatlıqları daha da artırıb.

Amodei blog yazısında konkret fəaliyyət çərçivəsi təqdim edir.

Birincisi, “inteqrə olunmuş qiymətləndiricilər” (Embedded Evaluators). O, Anthropic-in üçüncü tərəf qiymətləndirmə qurumlarına “daimi işçi səviyyəsində” sistem girişini verəcəyini elan edir, beləliklə həmin qurumlar təhlükəsizlik tədbirlərinin icrasını yoxlaya, hadisələr barədə hesabat verə və modellərin treninq zamanı uyğunlaşmasını qiymətləndirə biləcək. Altman dərhal reaksiya verərək OpenAI-nin də eyni addımı atacağını açıqladı.

İkincisi, demokratik ölkələr içində koordinasiya. Amodei hökumətləri AI inkişafçıları üçün təhlükəsizlik standartlarının koordinasiyası üçün hüquqi dəstək verməyə çağırır, beləliklə bu tip əməkdaşlıqların antimonopoliya tənzimləməsini pozmasının qarşısı alınacaq.

Üçüncüsü, qlobal koordinasiya. O, “koordinə edilmiş temp strategiyası” qurulmasını müdafiə edir, qabaqcıl AI şirkətlərinə uyğunlaşma araşdırmaları üçün vaxt qazandırmaqla yanaşı, kommersiya rəqabət üstünlüyü və Amerika-nın AI sahəsində liderliyini qorumaq məqsədi güdür. Hedc-fond meneceri və risk investor Brad Gerstner X platformasında bu təşəbbüsə dəstək verərək, bunun “sürət, özünütənzimləmə və təhlükəsizlik arasında düzgün balans tapmaq üçün vacib addım” olduğunu bildirib.

Hazırkı vəziyyət hər iki şirkətin listin planlarına birbaşa təsir edir. Anthropic hazırda misilsiz ölçüdə IPO hazırlayır, cəlb ediləcək vəsaitin həcmi 100 milyard dollar, şirkətin dəyəri isə 2 trilyon dolları keçə bilər; Anthropic, ilkin olaraq, keçən həftə prospekt təqdim etməyə hazırlaşırdı, lakin hələ ki, bu baş verməyib. Amodei-nin tempin yavaşladılması çağırışı, listin üçün doğru vaxtı seçmək barədə xarici tərəflərin fikirlərini daha da mürəkkəbləşdirir.

OpenAI tərəfdən, Altman Fortune jurnalına belə açıqlama verib: “Təhlükəsizlik sahəsində baş verənləri nəzərə alsaq, indi listin etmək ağıllı deyil və biz bu yöndə təzyiq hiss etmirik.”

OpenAI bu ilin iyununda IPO sənədlərini təqdim edib, Anthropic prospektini təqdim etməsindən yalnız bir həftə sonra. Altman əlavə edir ki, "Bu həftə açıq şəkildə daha çox insan bizi qarşıda gözləyən problemlərlə ciddi şəkildə üzləşməyə başlayır, biz olduqca güclü model imkanları, yüksək risk, və işləri düzgün görməli olduğumuz dövrə giririk."

Baxmayaraq ki, üç böyük şirkət nadir hallarda birləşib, siyasət səviyyəsində reaksiya hələ ki, gecikir. ABŞ prezidenti Trump ötən həftə jurnalistlərə bildirib ki, AI-nin insanları məhv etməsi barədə “heç bir” narahatlığı yoxdur. Məlumatlı mənbələr Financial Times-a bildiriblər ki, bu ilin noyabrındakı aralıq seçkilərə qədər ABŞ hökumətinin ciddi addım atması mümkünsüzdür.

Google DeepMind və Meta rəhbərləri hələ ki, bu həftəsonu müzakirəsi barədə ictimai açıqlama verməyiblər.

Sektorda daxili fikir ayrılıqları da gözdən qaçmır. Tənqidçilər hesab edir ki, qabaqcıl AI şirkətləri sağqalma riskini vurğulayaraq öz maraqlarına xidmət edirlər — bahalı təhlükəsizlik və uyğunluq çərçivələri daha kiçik rəqibləri bazardan kənarlaşdırıb mövcud liderlərin mövqeyini möhkəmləndirə bilər. Texnoloji müşavir, risk kapitalisti David Sacks Fox News müsahibəsində bildirib ki, Jacob Coxon-un bəyanatı “ictimaiyyəti qorxutmaq”, qanunvericiləri “AI-nı güclü dövlət tənzimləməsinə məcbur etmək” üçün nəzərdə tutulub.

Kaliforniya Universiteti Berkeley AI professoru Stuart Russell isə açıq şəkildə bildirir ki, laboratoriyalar və hökumətlər arasında ciddi idrak fərqi var: “Laboratoriyalar hökumətlərə deyir: 'Çox güman ki, biz yer üzündə hər bir insanı öldürəcəyik, xahiş edirik bizi dayandırın.' Hökumətin cavabı isə: 'Biz sizə vergi güzəşti edə bilərikmi? Sizin üçün data mərkəzi quracağıq?'”

Bununla belə, Sam Altman və Dario Amodei kimi insanlar siyasət lobbiçiliyi və təhlükəsizlik tədbirləri arasında ehtiyatla addımlayarkən, xaricdə artıq xəbərdar olan səslər var: Bəlkə bir gün oyananda görəcəklər ki, Grok modeli imkanlarında yetişib, Musk isə artıq fiziki dünyada AI və hesablama infrastrukturu sahəsində tam yerləşməni tamamlayıb — bəlkə elə bu onun əsl “Master Plan Part V”-idir.