Arus kerentanan yang "diciptakan" oleh AI membebani rantai audit, Apple (AAPL.US) menetapkan batas untuk menghadapi lonjakan laporan palsu, alarm biaya keamanan siber mulai berbunyi.

Aplikasi Zhihu Finance APP melaporkan bahwa Apple (AAPL.US) sedang membatasi jumlah laporan kerentanan keamanan yang dapat diajukan sekaligus oleh peneliti eksternal, setelah lonjakan laporan yang dihasilkan AI membuat proses peninjauan Apple kewalahan. Fenomena ini menyoroti tantangan baru yang dihadapi industri perangkat lunak saat AI mempercepat pertahanan dan serangan siber secara bersamaan.

Raksasa teknologi tersebut menyatakan bahwa setelah tim keamanannya dibanjiri banyak laporan yang diklaim dihasilkan oleh AI—laporan-laporan ini sering kali mengidentifikasi kerentanan yang sebenarnya tidak ada—Apple telah menerapkan pembatasan baru sejak Juni. Kini, para peneliti hanya dapat mengajukan jumlah laporan terbuka yang terbatas sebelum dapat mengajukan permohonan kuota lebih tinggi, sementara Apple menggunakan AI secara internal untuk membantu memprioritaskan laporan yang diterima.

Bagi investor, perubahan ini menyoroti peran AI yang semakin besar di bidang keamanan siber. AI saat ini membantu peneliti menemukan bug perangkat lunak yang sebenarnya jauh lebih cepat dari sebelumnya, namun juga menghasilkan banyak laporan yang tidak akurat atau berkualitas rendah. Hasilnya, perusahaan seperti Apple menghadapi kenaikan biaya dan kompleksitas dalam membedakan ancaman nyata dari "kebisingan" yang dihasilkan oleh AI.

Masalah ini terungkap setelah perusahaan rintisan keamanan siber asal Italia, Bynario, mengungkap bahwa mereka menggunakan ChatGPT dari OpenAI untuk mengidentifikasi lebih dari 50 potensi kerentanan pada versi terbaru macOS hanya dalam tiga minggu. Perusahaan itu menyatakan bahwa salah satu temuan mereka adalah kerentanan eskalasi hak akses yang serius, yang berpotensi memungkinkan penyerang mengendalikan Mac secara luas. Namun, Bynario menyebut mereka untuk sementara tidak bisa mengirimkan laporan tambahan karena telah mencapai batas pengiriman laporan Apple.

Apple menyatakan saat ini tengah meninjau temuan dari Bynario dan menegaskan bahwa para peneliti dapat mengajukan permohonan kenaikan batasan pengiriman agar kerentanan kritis tetap dapat sampai ke tim keamanan mereka.

Apple semakin banyak menggunakan AI baik sebagai alat pertahanan maupun serangan. Pembaruan perangkat lunak minggu ini berterima kasih kepada model AI dari OpenAI dan Anthropic yang membantu mengidentifikasi sejumlah kerentanan, serta merilis versi terbaru dengan lebih banyak pembaruan keamanan dibandingkan siklus sebelumnya.

Pakar keamanan menyatakan tren ini tidak hanya terjadi di Apple. AI sangat meningkatkan jumlah kerentanan yang dapat ditemukan oleh para peneliti, namun juga memudahkan pengguna kurang berpengalaman membanjiri program bug bounty dengan temuan spekulatif. Tantangan industri pun bergeser dari menemukan kerentanan menjadi secepat mungkin memverifikasi celah mana yang benar-benar penting.

Pengalaman Apple menggambarkan bagaimana AI generatif membentuk ulang keamanan siber. Teknologi ini mempermudah penemuan kelemahan perangkat lunak yang nyata, namun juga memaksa perusahaan membangun sistem baru agar dapat menyaring lonjakan peringatan yang dihasilkan mesin sebelum penyerang memanfaatkan kerentanan yang sesungguhnya.