Buterin Mendesak Info Finance untuk Menghentikan Eksploitasi dalam Tata Kelola AI
- Vitalik memperingatkan bahwa tata kelola AI yang naif rentan terhadap manipulasi dan eksploitasi.
- Info finance menciptakan keragaman model dan koreksi cepat, membuat tata kelola AI lebih aman.
- Prediction markets dan spot checks membantu mengamankan pengambilan keputusan dan pendanaan AI.
Co-founder Ethereum, Vitalik Buterin, telah memperingatkan bahwa model tata kelola AI yang naif membawa risiko serius dan menegaskan bahwa kerangka kerja yang mengandalkan AI untuk pendanaan atau pengambilan keputusan tetap rentan terhadap manipulasi dan eksploitasi. Menurutnya, sistem semacam itu memungkinkan aktor jahat untuk mengalihkan sumber daya, namun ia menganjurkan pendekatan yang disebut “info finance”, yang dirancang untuk membangun akuntabilitas dan mencegah penyalahgunaan melalui pasar, pengawasan manusia, dan pemeriksaan.
Kasus Melawan Tata Kelola AI yang Naif
Buterin menekankan bahwa tata kelola AI yang naif berisiko dan menambahkan bahwa jika AI digunakan untuk mengalokasikan dana, orang dapat memanipulasinya dengan prompt pilihan mereka dan mendapatkan uang secara berlebihan. Ia juga menjelaskan bahwa jika model bekerja tanpa batasan atau pedoman apa pun, model tersebut dapat disalahgunakan, sehingga mendorong peretas untuk menggunakan prompt dan menipu AI agar melepaskan sumber daya yang salah.
Kerentanan semacam itu menempatkan AI dalam lingkaran berbahaya yang potensial. Lebih lanjut, Buterin mengungkapkan kelemahan sistemik yang, jika tidak diawasi, dapat dimanipulasi. Serangan tak terlihat, prompt injections adalah contoh bagaimana penyerang dapat dengan mudah mengambil keuntungan.
Info Finance sebagai Alternatif
Buterin memilih information finance sebagai pengganti tata kelola naif, menggambarkannya sebagai pendekatan “institution design”, yang memadukan persaingan pasar terbuka dengan verifikasi manusia. Ia mengatakan,
Sebagai alternatif, saya mendukung pendekatan info finance, di mana Anda memiliki pasar terbuka di mana siapa pun dapat berkontribusi dengan model mereka, yang tunduk pada mekanisme spot-check yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia.
Ia menjelaskan bahwa Info Finance memungkinkan kontributor eksternal untuk mengintegrasikan large language models (LLMs) tanpa harus mengkodekan satu sistem saja. Ini akan memungkinkan keragaman model, sehingga mengurangi kemungkinan kegagalan secara luas. Ini juga menciptakan insentif bagi pengembang dan spekulan untuk mengawasi dengan cermat adanya cacat dan bertindak cepat ketika masalah terjadi.
Salah satu mekanisme yang diusulkan melibatkan prediction markets atau decision markets. Beberapa model akan bersaing, dan peserta dapat mempertaruhkan hasil, menandakan model mana yang tampak paling andal. Juri manusia atau auditor akan secara berkala melakukan spot-check pada hasil, terutama dalam kasus berisiko tinggi.
Terkait: ETH Treasuries Melonjak ke $12B saat Vitalik Memperingatkan Risiko Leverage
Dampak bagi Crypto dan Pasar
Info finance bergantung pada akuntabilitas berlapis, dan ini menonjol dalam persaingan terbuka, yang memungkinkan model cacat untuk ditantang atau diganti. Pengawasan manusia ditambahkan melalui juri dan audit. Insentif ekonomi mencegah manipulasi, sementara transparansi membuat perilaku jahat menjadi terlihat.
Dengan menghubungkan tata kelola AI ke blockchain dan perdagangan, Buterin menyarankan bahwa cacat pada AI terpusat dapat meningkatkan minat pada solusi terdesentralisasi, yang sebagian besar dibangun di atas Ethereum. Selain itu, token seperti RNDR dari Render Network dan GRT dari The Graph menyediakan infrastruktur untuk komputasi AI, sehingga mendapatkan manfaat dari perkembangan tersebut. Lebih lanjut, para trader juga dapat menggunakan ETH dan token tersebut untuk arbitrase di tengah volatilitas pasar.
Data on-chain menunjukkan bahwa terdapat lebih banyak transaksi ETH yang terkait dengan smart contract berbasis AI dan masalah tata kelola AI juga dapat berdampak pada saham teknologi, dengan perusahaan seperti NVIDIA dan Microsoft terlibat dalam investasi AI. Secara keseluruhan, Buterin menunjukkan bahwa Info Finance memungkinkan koreksi yang lebih cepat, sehingga menggantikan model cacat dan menghukum pelaku kejahatan. Ia juga menambahkan bahwa pemeriksaan juri dan spot check akan mencegah eksploitasi menyebar.
Artikel ini pertama kali muncul di Cryptotale dengan judul Buterin Pushes Info Finance to Stop Exploits in AI Governance.
Disclaimer: Konten pada artikel ini hanya merefleksikan opini penulis dan tidak mewakili platform ini dengan kapasitas apa pun. Artikel ini tidak dimaksudkan sebagai referensi untuk membuat keputusan investasi.
Kamu mungkin juga menyukai
Dampak ketegangan Selat Hormuz antara AS dan Iran berlanjut, Iran mengklaim militer AS menembakkan rudal ke kapal tanker minyak dekat Pulau Khark.
Setelah berita serangan terhadap kapal tanker, harga minyak AS harian kembali naik lebih dari 2%. Pulau Khark adalah pusat utama ekspor minyak Iran, sebelumnya sekitar 90% minyak mentah Iran diekspor melalui pulau Khark. Pada hari Selasa pagi, militer Iran menyatakan bahwa mereka telah menangkap sebuah kapal selam tanpa awak canggih milik Amerika Serikat.
Tindakan balasan Kanada senilai 20 miliar terhadap tarif Amerika Serikat mulai berlaku, Carney menyatakan tidak mencari eskalasi perang dagang tetapi ingin mempercepat mengurangi ketergantungan pada AS
Perdana Menteri Kanada, Carney, menyatakan bahwa eskalasi konflik tidak konstruktif, namun tarif diperlukan untuk melindungi Kanada. Dalam enam bulan ke depan, jumlah penduduk yang tercakup dalam perdagangan bebas tanpa tarif akan dilipatgandakan menjadi 3 miliar orang, sekaligus mempercepat proyek infrastruktur besar dan memperluas hubungan perdagangan bebas dengan negara lain. Menurut media Kanada, Menteri Perdagangan Kanada dan Perwakilan Perdagangan Amerika Serikat telah melakukan beberapa komunikasi informal akhir pekan lalu, namun pada hari Selasa mendatang mereka akan membahas tanggapan dari AS, bukan menyelesaikan perbedaan inti dalam perdagangan.
Kenaikan bobot SpaceX memicu pembelian pasif senilai 12,4 miliar dolar AS, apakah tantangan dari pembebasan 2,3 miliar saham masih menanti di depan?
Menurut perkiraan JPMorgan, rebalancing Nasdaq 100 pada 21 September akan menaikkan bobot SpaceX dari 1,25% menjadi sekitar 1,51%, sehingga memicu pembelian bersih pasif sekitar $12,4 miliar. Pendorong kenaikan bobot ini adalah pembebasan saham terbatas, dan skala pembebasan akan terus meningkat di masa mendatang: hingga pertengahan November, lebih dari 2,3 miliar saham secara bertahap akan tersedia untuk diperdagangkan. Persaingan antara pembebasan saham terbatas dan pembelian pasif diperkirakan akan mendominasi penentuan harga SpaceX pada kuartal keempat.
Amerika Serikat mempercepat dorongan "revolusi komputasi generasi berikutnya"! GlobalFoundries (GFS.US) memastikan subsidi komputasi kuantum sebesar 375 juta dolar AS, kekuatan baru dalam bidang kuantum mendapat pendanaan secara bersamaan
GlobalFoundries pada hari Selasa mengumumkan bahwa mereka telah mencapai kesepakatan final dengan Kantor R&D CHIPS Act Departemen Perdagangan AS untuk menerima dana penelitian sebesar 375 juta dolar AS, guna mempercepat perkembangan bisnis Solusi Teknologi Kuantum (QTS) mereka.
Harga kripto
Lainnya
