Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

Sebuah studi baru-baru ini yang dilakukan oleh CDW yang melibatkan 951 pengambil keputusan TI menyoroti pergeseran menuju ancaman siber berbasis AI yang saat ini tidak mampu ditangani oleh banyak organisasi. Menurut laporan tersebut, 43% perusahaan telah menangani skema phishing yang dilengkapi AI, sementara 37% telah menghadapi malware yang dilengkapi AI. Seperti yang sering dicatat oleh para pakar keamanan, pelanggaran semakin dipandang sebagai suatu hal yang tidak dapat dihindari dan bukan suatu kemungkinan. Sifat ancaman-ancaman ini berubah dengan cepat; Alih-alih upaya deepfake yang terisolasi, yang hanya 8% responden sebut sebagai risiko utama, pelaku kejahatan justru menerapkan sistem agen yang otonom dan dapat menemukan dan mengeksploitasi kerentanan dalam skala besar. Sebagai tanggapannya, sekitar 41% perusahaan ingin menerapkan sistem deteksi ancaman berbasis AI untuk melawan gelombang baru eksploitasi otomatis berkecepatan tinggi ini.

Kerentanan strategi pertahanan saat ini baru-baru ini terlihat ketika startup AI Hugging Face diserang oleh model agen. Selama insiden tersebut, perusahaan tersebut menemukan bahwa model AI perbatasan AS standar tidak efektif karena pagar pengamannya menghalangi mereka untuk mengidentifikasi dan memblokir penyerang. Akibatnya, Hugging Face harus bergantung pada model Tiongkok yang dihosting sendiri dan berbobot terbuka untuk melakukan analisis forensik. Acara ini menjadi katalis bagi pembentukan Open Secure AI Alliance, yang dipelopori oleh Nvidia. Aliansi ini berpendapat bahwa agar para pembela keamanan siber dapat bertindak dengan kecepatan yang diperlukan, mereka harus memiliki kemampuan untuk memeriksa, mengadaptasi, dan mengoperasikan sistem AI yang canggih pada infrastruktur mereka sendiri, daripada terikat pada platform yang tertutup dan berpemilik.

Pembentukan Open Secure AI Alliance bertepatan dengan meningkatnya perdebatan geopolitik mengenai model AI Tiongkok. Meskipun raksasa teknologi seperti Microsoft, Meta, dan Nvidia mendukung ekosistem sumber terbuka, beberapa pembuat kebijakan dan regulator mengkhawatirkan 'distilasi', sebuah proses di mana model Tiongkok mengekstrak pengetahuan eksklusif dari sistem perbatasan AS yang lebih unggul. Menteri Keuangan AS Scott Bessent telah mengisyaratkan potensi sanksi terhadap perusahaan yang terlibat dalam kegiatan tersebut. Para pemimpin industri sekarang berada dalam situasi yang sulit, mendesak Washington untuk menghindari pembatasan dini yang dapat menghambat inovasi. Mereka berpendapat bahwa komunitas sumber terbuka memberikan transparansi yang diperlukan untuk keamanan, sedangkan penutupan model ini secara ketat akan memaksa perusahaan untuk bergantung pada infrastruktur yang tidak dapat mereka kendalikan atau audit sepenuhnya selama krisis keamanan saat ini.

Dalam pengembangan paralel, Microsoft telah memperkenalkan model kecerdasan buatan baru, MAI-Cyber-1-Flash, yang khusus dibuat untuk mendeteksi kerentanan keamanan siber. Model ini mewakili upaya strategis untuk merevitalisasi bisnis keamanan Microsoft di bawah kepemimpinan eksekutif Hayete Gallot. Menurut Microsoft, ketika dipasangkan dengan GPT-5.4 OpenAI, model ini mengungguli solusi pesaing dari Anthropic dan Google pada benchmark CyberGym. Di luar model itu sendiri, Microsoft juga meluncurkan 'Project Perception,' serangkaian agen AI yang dirancang untuk menemukan dan memperbaiki kelemahan sistem, dengan pratinjau publik dijadwalkan pada tanggal 3 Agustus. CEO Mustafa Suleyman menekankan efisiensi biaya dari alat ini, dengan mencatat bahwa alat ini memberikan kinerja tinggi dengan setengah biaya dari opsi yang ada, sehingga berpotensi memungkinkan perusahaan untuk mengelola pusat operasi keamanan (SOC) mereka dengan lebih baik dengan menurunkan hambatan teknis untuk masuk.