Meta (META.US) Zuckerberg menanggapi perdebatan tentang “perlambatan” AI: tetap mendorong kemampuan model dan memperkuat perlindungan keamanan

Aplikasi Zhihong Finance APP melaporkan bahwa CEO Meta Platforms (META.US), Mark Zuckerberg, bersama Kepala AI perusahaan, Alexander Wang, menyampaikan pendapat mengenai perdebatan tentang kecepatan perkembangan AI. Mereka mengusulkan agar laboratorium AI tetap melanjutkan peningkatan kemampuan model, sembari membangun langkah-langkah perlindungan yang lebih kuat seiring semakin kuatnya model-model tersebut.

Pernyataan mereka dipublikasikan di platform X. Saat ini industri tengah berdebat luas mengenai apakah pengembangan kemampuan AI perlu dilambatkan hingga tercapai kemajuan yang lebih baik dalam keamanan AI. Keamanan AI berarti memastikan sistem AI secara andal mengikuti niat dan nilai-nilai manusia.

Harga saham Meta terus naik selama tiga hari perdagangan berturut-turut hingga Selasa, dengan kenaikan total 4,2%, dan sedikit naik di perdagangan malam. Di Stocktwits, hingga pantauan terakhir, sentimen investor retail terhadap saham ini adalah "sangat bearish."

Zuckerberg: Laboratorium terdorong menciptakan AI yang lebih aman

Zuckerberg menyatakan bahwa perusahaan AI sudah memiliki insentif bisnis dan hukum yang kuat untuk mendorong keamanan model dan keselarasan dengan pengguna. "Orang tidak akan mau menggunakan agen cerdas yang tidak selaras atau tidak bertindak sesuai keinginan mereka," tulis Zuckerberg. "Laboratorium yang tidak berfokus pada keselarasan akan tertinggal."

Ia menilai bahwa keselarasan kini menjadi keunggulan kompetitif penting, bukan sekadar kendala dalam pengembangan AI. "Pandangan saya, kepercayaan dan keselarasan dengan cepat menjadi kemampuan terpenting yang membedakan agen dan model," ujarnya.

Zuckerberg juga menyebut bahwa Meta pernah memutuskan untuk menunda rilis model Muse selama beberapa bulan guna menangani isu keamanan dan perlindungan.

Meta mendukung pengawasan eksternal

Zuckerberg dan Alexander Wang sama-sama menyerukan agar dengan model AI yang semakin kuat, lebih banyak pihak independen dan pengawasan eksternal dilibatkan.

"Melibatkan pihak penilai independen dan konsultan adalah praktik terbaik industri," kata Zuckerberg, dan percaya bahwa ekosistem evaluasi yang lebih besar dan beragam akan meningkatkan upaya keamanan AI.

Alexander Wang juga menyatakan bahwa laboratorium AI harus mempertahankan kerangka tata kelola yang kuat di seluruh proses pelatihan dan penerapan, termasuk evaluator eksternal dan pengawasan independen atas standar keamanan dalam peluncuran model.

Ia menambahkan: "Setiap laboratorium harus beroperasi dalam perlindungan institusi negara demokratis... artinya, jika model menyebabkan kerugian, laboratorium harus menghadapi tanggung jawab hukum yang signifikan."

Meta membela strategi alokasi daya komputasi

Salah satu bagian penting dari argumen kedua pimpinan tersebut adalah keputusan Meta untuk mengalokasikan sebagian besar daya komputasi untuk melayani pengguna, bukan mempercepat Recursive Self-Improvement (RSI).

"Menggunakan hampir seluruh daya komputasi untuk melayani manusia, bukan berlomba dalam recursive self-improvement, merupakan salah satu cara terbaik memastikan pengembangan teknologi ini tetap aman," kata Zuckerberg.

Kekhawatiran yang muncul adalah, RSI dapat membuat sistem AI cepat meningkatkan kemampuannya sendiri, berpotensi melampaui pengawasan manusia, dan meningkatkan risiko model kuat yang lepas kendali.

Alexander Wang juga menggambarkan perlombaan RSI sebagai “salah satu jalur paling berbahaya yang bisa menyebabkan model kuat lepas kendali.”

Perdebatan ritme perkembangan AI membelah industri teknologi

Perdebatan mengenai ritme perkembangan AI secara garis besar terbagi dua: CEO Anthropic, Dario Amodei, menyerukan pelambatan pengembangan AI frontier agar mekanisme keamanan bisa mengikuti; CEO OpenAI, Sam Altman, CEO Microsoft, Satya Nadella, dan Elon Musk dari SpaceX malah mendukung terus maju dengan lebih hati-hati dan berfokus pada keamanan, tanpa menghentikan pengembangan.

Di sisi lain, Presiden AS Donald Trump menolak pelambatan kompetisi AI Amerika, karena khawatir China akan memimpin; mantan penasihat AI Trump, David Sacks, menyatakan perusahaan sebaiknya mengendalikan risiko sendiri dan tidak bergantung pada batasan pemerintah, serta meragukan peringatan keamanan yang disampaikan Anthropic.

Investor Michael Burry mempertanyakan apakah seruan pelambatan pengembangan juga didasari kepentingan pribadi, sebab dapat melindungi perusahaan AI yang ada dari guncangan persaingan.