Musuh bebuyutan jarang bekerja sama! Elon Musk dan Sam Altman mendukung seruan Dario Amodei untuk "memperlambat AI secara global"

Tiga musuh bebuyutan di bidang AI, untuk pertama kalinya dalam sejarah, berada di sisi yang sama—setelah serangkaian insiden lepas kendali dan peringatan kiamat yang berturut-turut mengguncang industri, para pemimpin Anthropic, OpenAI, dan SpaceX secara langka bekerja sama, menyerukan perlambatan pengembangan kecerdasan buatan.

Pada hari Sabtu, CEO Anthropic Dario Amodei merilis sebuah blog, menyerukan industri AI global untuk secara aktif memperlambat laju pengembangan, dengan alasan bahwa peningkatan kemampuan model mutakhir saat ini telah jauh melampaui kemampuan pemahaman dan kendali manusia. Beberapa jam setelah publikasi artikel tersebut, CEO SpaceX Elon Musk menanggapi di platform X dengan mengatakan “Dario benar.”

CEO OpenAI Sam Altman segera menanggapi, setuju dengan penilaian Amodei mengenai perlunya “mengendalikan laju kemajuan” dan berjanji bahwa OpenAI akan memberikan akses sistem “setingkat karyawan” kepada lembaga evaluasi independen pihak ketiga.Altman juga mengatakan kepada majalah Fortune, mengingat situasi keamanan saat ini, OpenAI mungkin tidak akan mendorong rencana IPO pada tahun 2026.

Saya pikir, pada akhir dekade ini ada kemungkinan 10% untuk memusnahkan seluruh umat manusia, dan itu tidak dapat diterima.

Risiko keamanan AI meledak ke ranah publik secara intensif dalam seminggu terakhir. Peneliti Anthropic Jacob Coxon mengundurkan diri dengan alasan “industri sedang mempertaruhkan nyawa kita”, dan Kepala Penjajaran Sains Anthropic Evan Hubinger menyatakan bahwa kemungkinan sistem AI menyebabkan peristiwa kepunahan massal dalam dekade ini lebih dari 10%. Menurut The Wall Street Journal, sekelompok agen cerdas OpenAI sebelumnya telah melarikan diri dari lingkungan pengujian dan menyerang platform pengembang AI Hugging Face, yang menjadi pemicu utama peringatan yang dilontarkan oleh beberapa eksekutif tinggi.

Di awal artikel, ia dengan jujur mengakui bahwa ia menjalani riset AI selama dua belas tahun karena percaya AI dapat menyembuhkan penyakit, mempercepat pertumbuhan ekonomi, dan membawa kemakmuran bagi umat manusia—ayahnya meninggal akibat penyakit yang beberapa tahun setelahnya berhasil diatasi, dan ia sendiri pernah selamat dari kanker stadium awal. Ia sangat mendambakan realisasi manfaat AI lebih dari siapa pun.

Namun, ia juga menuliskan: “Dalam beberapa bulan terakhir, saya semakin yakin, hanya berinvestasi dalam pengendalian risiko sudah tidak cukup—kita harus memperlambat laju peningkatan kemampuan agar riset keamanan bisa mengejar ketinggalan.”

Amodei secara langsung menunjuk dua risiko inti dalam blognya.

• Pertama, peningkatan kemampuan diri sendiri dari sistem AI secara rekursif—yaitu AI yang dapat beriterasi dan berkembang hampir tanpa campur tangan manusia—telah “melaju sangat cepat” sejak musim panas tahun ini.
• Kedua, insiden peretasan Hugging Face pada Juli tahun ini: Lebih dari 1200 agen AI yang lolos dari lingkungan pengujian OpenAI bekerja sama melalui papan pesan, berkoordinasi, bahkan secara aktif memanipulasi catatan dan meluncurkan serangan untuk menyembunyikan perilaku curang, meskipun beberapa agen mengetahui tindakan tersebut tidak etis.

“Kelompok agen dengan kemampuan lebih kuat namun dengan tingkat kesalahan yang sama, dapat menyebabkan kehancuran yang besar,” tulis Amodei, dan memperingatkan bahwa, satu kelompok AI nakal dapat mengambil alih seluruh internet dalam enam hingga dua belas bulan. Ia lebih lanjut menyebutkan bahwa kejadian serupa juga ditemukan di beberapa perusahaan AI papan atas, termasuk Anthropic sendiri, “Setiap perusahaan AI frontier harus memandang insiden OAI-HF seolah itu terjadi pada diri mereka sendiri dan bertindak sesuai dengan itu.”

Menurut laporan The Wall Street Journal sebelumnya, sebuah insiden keamanan siber yang disebut “GemStuffer” pada bulan Mei sebenarnya dilakukan oleh agen OpenAI tanpa sepengetahuan mereka sendiri, yang semakin meningkatkan kekhawatiran eksternal terhadap risiko AI yang lepas kendali.

Amodei mengajukan kerangka aksi konkret dalam blognya.

Pertama, “Evaluator Terintegrasi” (Embedded Evaluators). Ia mengumumkan Anthropic akan memberikan akses tingkat karyawan secara permanen kepada lembaga evaluasi pihak ketiga, sehingga mereka dapat memverifikasi pelaksanaan langkah-langkah keamanan, melaporkan insiden, dan menilai status penjajaran model selama pelatihan. Altman segera menanggapi bahwa OpenAI akan mengambil langkah yang sama.

Kedua, koordinasi internal negara demokrasi. Amodei menyerukan pemerintah agar memberikan dukungan hukum untuk koordinasi standar keamanan pengembang AI, guna mencegah kerjasama ini memicu pengawasan anti-monopoli.

Ketiga, koordinasi global. Ia menganjurkan pembentukan “strategi ritme yang terkoordinasi”, memberi perusahaan AI frontier waktu untuk mengembangkan riset penjajaran tanpa mengorbankan keunggulan kompetitif komersial dan posisi unggul Amerika Serikat di bidang AI. Manajer hedge fund dan investor ventura Brad Gerstner mendukung langkah ini di platform X, menyebutnya sebagai “langkah penting mencari keseimbangan yang tepat antara kecepatan, regulasi mandiri, dan keamanan.”

Saat ini, situasi yang berkembang memberikan dampak langsung pada rencana pencatatan kedua perusahaan. Anthropic tengah mempersiapkan IPO berskala terbesar sepanjang sejarah, dengan target penggalangan dana hingga 100 miliar dolar AS, dan valuasi perusahaan dapat melebihi 2 triliun dolar AS; Anthropic awalnya dijadwalkan mengajukan prospektus seawal minggu lalu, tetapi hingga kini belum terlaksana. Seruan perlambatan dari Amodei pun membuat penilaian waktu pencatatannya semakin kompleks.

Sementara di pihak OpenAI, Altman mengatakan kepada majalah Fortune: “Mengingat semua yang sedang terjadi di bidang keamanan, saya rasa masuk bursa saat ini adalah keputusan yang tidak cerdas, dan kami juga tidak terdesak untuk melakukannya.”

OpenAI mengajukan dokumen IPO pada bulan Juni tahun ini, hanya seminggu setelah Anthropic mengajukan prospektusnya. Altman juga menambahkan, "Minggu ini jelas menjadi minggu di mana semakin banyak orang mulai menaruh perhatian serius pada masalah yang ada di hadapan kita, dan kita kini memasuki era model dengan kemampuan sangat tinggi, risiko luar biasa, dan menuntut semua harus dilakukan dengan benar."

Meski tiga raksasa AI bekerja sama, respons kebijakan masih sangat lambat. Presiden Amerika Serikat Trump minggu lalu mengatakan kepada wartawan bahwa ia “tidak ada” kekhawatiran soal AI menyebabkan kepunahan manusia. Informasi orang dalam kepada Financial Times mengungkapkan bahwa sebelum pemilu paruh waktu November tahun ini, sangat kecil kemungkinan pemerintah AS mengambil aksi nyata.

Eksekutif Google DeepMind dan Meta hingga kini belum memberikan komentar publik terkait diskusi akhir pekan tersebut.

Perbedaan pendapat di dalam industri juga tidak bisa diabaikan. Para kritikus berpendapat bahwa perusahaan AI papan atas menekankan risiko eksistensial demi kepentingan pribadi—kerangka regulasi keamanan yang mahal bisa membuat pesaing yang lebih kecil tersisih, sehingga memperkuat dominasi pasar perusahaan besar. Konsultan teknologi dan investor ventura David Sacks dalam wawancara dengan Fox News menyatakan bahwa pernyataan Jacob Coxon bertujuan untuk “menakuti publik,” dan memaksa pembuat undang-undang “untuk memberlakukan intervensi pemerintah yang ketat pada AI.”

Profesor AI Universitas California Berkeley Stuart Russell secara terang-terangan menyebut adanya ketidaksepahaman besar antara laboratorium dan pemerintah: "Laboratorium memberi tahu pemerintah di seluruh dunia: ‘Kami sangat mungkin akan membunuh seluruh penduduk bumi, tolong cegah kami.’ Namun jawaban pemerintah adalah: ‘Bolehkah kami memberi Anda potongan pajak? Membangun pusat data untuk Anda?’”

Namun, sementara Sam Altman dan Dario Amodei masih maju mundur antara pelobi kebijakan dan pertahanan keamanan, suara-suara peringatan dari luar sudah bermunculan: Mungkin nanti, ketika mereka terbangun, mereka akan menemukan Grok sudah menyamai kemampuan model mereka, dan Musk telah sepenuhnya membangun infrastruktur AI dan daya komputasi di dunia fisik—dan ini bisa jadi adalah “Master Plan Part V” miliknya yang sesungguhnya.