Model OpenAI "kehilangan kendali" membunyikan alarm, Microsoft (MSFT.US) dengan cepat meluncurkan model keamanan siber berbiaya rendah

Indonesian Finance APP mengetahui bahwa saat peristiwa "model tidak terkendali" OpenAI memicu banyak perbincangan, Microsoft (MSFT.US) pada hari Senin meluncurkan sebuah model kecerdasan buatan (AI) baru untuk menemukan kerentanan keamanan siber. Ini adalah produk penting pertama yang diluncurkan Microsoft untuk menghidupkan kembali bisnis keamanan siber setelah Haite Gallot, mantan eksekutif Google, kembali memimpin departemen keamanan.

Microsoft menyatakan, ketika model MAI-Cyber-1-Flash dipasangkan dengan model umum GPT-5.4 dari OpenAI, performanya dalam tes benchmark CyberGym lebih baik daripada Anthropic Mythos 5, Google 3.5 Flash Cyber, dan OpenAI GPT-5.5 Cyber.

Mustafa Suleyman, CEO divisi AI Microsoft, mengatakan dalam acara perusahaan di San Francisco: “Performa model kami berada di tingkat global terdepan, sementara biayanya hanya setengah dari kompetitor.”

Model generatif tersebut adalah model pertama yang diluncurkan Microsoft untuk skenario keamanan siber. Dalam sebuah posting blog, Gallot mengenalkan bahwa model ini akan bergabung dengan Rencana Persepsi Microsoft (Project Perception). Rencana ini mengintegrasikan berbagai agen AI cerdas yang dapat mengenali dan memperbaiki kerentanan sistem, dan akan dibuka untuk pratinjau publik mulai 3 Agustus.

Dia kembali ke Microsoft pada Februari sebagai Wakil Presiden Eksekutif untuk bisnis keamanan, sementara Charlie Bell, mantan eksekutif layanan cloud Amazon yang sebelumnya bertanggung jawab atas bisnis ini, beralih menjadi peneliti teknologi independen.

AI generatif secara signifikan menurunkan batasan bagi hacker untuk memanfaatkan kerentanan terbaru yang dipublikasikan dalam melakukan serangan. Untuk itu, Anthropic dan OpenAI telah meluncurkan model AI defensif bagi praktisi keamanan siber.

Tahun ini, harga saham Microsoft telah turun 19%. Tim analis UBS yang dipimpin oleh Karl Kearstead menulis dalam laporan pada hari Minggu: “Karena pasar secara umum menganggap model AI open-source akan merebut pangsa pasar laboratorium terdepan, investor kini meninjau ulang strategi Microsoft yang sangat terikat dengan OpenAI dan menganggapnya sebagai risiko potensial.” Namun Kearstead tetap mempertahankan peringkat “Beli” untuk Microsoft.

Tahun ini, Microsoft secara beruntun memperkenalkan berbagai model besar hasil riset mandiri: Awalnya meluncurkan model untuk menghasilkan kode di alat GitHub Copilot, kemudian baru-baru ini mengintegrasikan model AI asli ke dalam perangkat lunak Excel. CEO Microsoft, Satya Nadella, terus menjalin hubungan kerja sama dengan OpenAI, tapi dia juga menginvestasikan sumber daya komputasi untuk melatih model sendiri guna meningkatkan efisiensi operasional.

Nadella memperbarui status di platform sosial X pada hari Senin: “Dengan menggabungkan model khusus, data industri, agen yang sesuai, alat, lingkungan keamanan, dan sistem, kita dapat meningkatkan efisiensi biaya.”

Sejak 2023, Microsoft belum mengungkapkan skala pendapatan bisnis keamanan siber, pada saat itu pendapatan tahunan dari segmen ini telah melampaui $20 miliar.

Pada 2023, Microsoft meluncurkan "Security Copilot" untuk praktisi keamanan siber, asisten ini mengintegrasikan OpenAI GPT-4. Saat ini layanan tersebut telah dipasang di dua suite perangkat lunak kantor kelas atas dari Microsoft. Project Perception setelah mendapat otorisasi dapat menyarankan dan menerapkan perubahan kode, serta dapat terhubung dengan produk non-Microsoft.

Gallot mengatakan dalam wawancara bahwa para eksekutif industri keamanan siber menganggap alat ini sebagai kunci terobosan: Alat ini dapat menurunkan batasan bagi talenta operasi keamanan, sehingga pusat operasi keamanan (SOC) dapat menarik lebih banyak tenaga kerja, karena saat ini talenta di bidang tersebut sangat terbatas. Perusahaan biasanya memiliki SOC yang dilengkapi banyak personel untuk memonitor ancaman terhadap sistem teknologi informasi.

Serangan model OpenAI yang tidak terkendali memaparkan kelemahan industri, pembangunan pagar pengaman AI menjadi perhatian utama

Minggu lalu, OpenAI menyatakan modelnya memanfaatkan kerentanan untuk menyerang infrastruktur startup AI Hugging Face. Peristiwa ini memaparkan risiko potensial dari model besar terdepan dalam mengambil keputusan secara otonom, serta memicu perhatian besar industri pada pagar pengaman AI.

Anggota parlemen bipartisan Amerika Serikat mengajukan Rancangan Undang-Undang AI Kill Switch, bertujuan memberi kewenangan kepada lembaga federal untuk menghentikan operasi model AI ketika dibutuhkan, saat ini masih dalam tahap usulan di Kongres dan belum resmi berlaku.

Selain itu, menurut laporan, CEO OpenAI Sam Altman dan CEO Nvidia, Huang Renxun, minggu ini akan bertemu dengan Mark Warner, anggota senior Demokrat Komite Intelijen Senat AS, untuk membahas perkembangan dan isu keamanan AI.

Kepala AI Microsoft, Suleyman, menggambarkan peristiwa serangan cyber OpenAI sebagai "alarm" bagi industri keamanan siber. Suleyman menggarisbawahi bahwa ini adalah sinyal penting kebangkitan serangan cyber AI. "Seiring model menjadi makin kuat, prinsip pencegahan menjadi sangat penting."

Gallot juga mengomentari: “Kasus ini membuktikan bahwa menghadapi penyerang cyber yang dibekali alat AI, kita harus membangun sistem pertahanan berbasis teknologi AI.”

Model baru keamanan siber Microsoft masih memiliki ruang besar untuk peningkatan performa.

Suleyman mengungkapkan dalam wawancara: “Kami memiliki kumpulan data keamanan eksklusif yang sangat besar, sementara saat ini pelatihan model baru memanfaatkan kurang dari 1% dari cadangan data tersebut.”