Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

Kajian baru-baru ini oleh CDW yang melibatkan 951 pembuat keputusan IT menonjolkan peralihan ke arah ancaman siber dipacu AI yang kini banyak organisasi tidak lengkap untuk mengurusnya. Menurut laporan itu, 43% firma telah berurusan dengan skim pancingan data yang dipertingkatkan AI, manakala 37% telah menghadapi perisian hasad yang ditambah AI. Seperti yang sering diperhatikan oleh pakar keselamatan, pelanggaran semakin dilihat sebagai sesuatu yang tidak dapat dielakkan dan bukannya kemungkinan. Sifat ancaman ini berubah dengan cepat; dan bukannya percubaan palsu terpencil, yang hanya 8% daripada responden disebut sebagai risiko utama, aktor berniat jahat menggunakan sistem autonomi, agenik yang boleh menemui dan mengeksploitasi kelemahan pada skala. Sebagai tindak balas, kira-kira 41% syarikat sedang mencari untuk melaksanakan sistem pengesanan ancaman berasaskan AI untuk menentang gelombang baharu eksploitasi automatik berkelajuan tinggi ini.

Kerentanan strategi pertahanan semasa baru-baru ini digariskan apabila pemula AI Hugging Face diserang oleh model agenik. Semasa kejadian itu, syarikat mendapati bahawa model AI sempadan AS standard tidak berkesan kerana pagar keselamatan mereka menghalang mereka daripada mengenal pasti dan menyekat penceroboh. Akibatnya, Hugging Face terpaksa bergantung pada model Cina yang dihoskan sendiri dan terbuka untuk menjalankan analisis forensiknya. Acara ini menjadi pemangkin kepada pembentukan Open Secure AI Alliance, yang diterajui oleh Nvidia. Perikatan itu berhujah bahawa bagi pembela keselamatan siber bertindak dengan kelajuan yang diperlukan, mereka mesti mempunyai keupayaan untuk memeriksa, menyesuaikan diri dan mengendalikan sistem AI lanjutan pada infrastruktur mereka sendiri, dan bukannya bergantung kepada platform proprietari yang tertutup.

Penciptaan Open Secure AI Alliance bertepatan dengan perdebatan geopolitik yang semakin berkembang mengenai model AI Cina. Walaupun gergasi teknologi seperti Microsoft, Meta dan Nvidia menyokong ekosistem sumber terbuka, sesetengah penggubal dasar dan pengawal selia mengambil berat tentang 'penyulingan', satu proses di mana model China mengekstrak pengetahuan proprietari daripada sistem sempadan A.S. yang unggul. Setiausaha Perbendaharaan A.S. Scott Bessent telah pun membayangkan kemungkinan sekatan terhadap syarikat yang terlibat dalam aktiviti tersebut. Pemimpin industri kini berjalan di atas tali, menggesa Washington untuk mengelakkan sekatan pramatang yang boleh menghalang inovasi. Mereka berpendapat bahawa komuniti sumber terbuka menyediakan ketelusan yang diperlukan untuk keselamatan, manakala menutup model ini dengan ketat akan memaksa syarikat bergantung pada infrastruktur yang mereka tidak dapat mengawal atau mengaudit sepenuhnya semasa krisis keselamatan secara langsung.

Dalam perkembangan selari, Microsoft telah memperkenalkan model kecerdasan buatan baharu, MAI-Cyber-1-Flash, yang dibina khusus untuk mengesan kelemahan keselamatan siber. Model ini mewakili usaha strategik untuk menghidupkan semula perniagaan keselamatan Microsoft di bawah eksekutif Hayete Galot. Menurut Microsoft, apabila dipasangkan dengan GPT-5.4 OpenAI, model itu mengatasi penyelesaian bersaing daripada Anthropic dan Google pada penanda aras CyberGym. Di luar model itu sendiri, Microsoft melancarkan 'Persepsi Projek', satu set ejen AI yang direka untuk menemui dan membaiki kelemahan sistem, dengan pratonton awam dijadualkan pada 3 Ogos. Ketua Pegawai Eksekutif Mustafa Suleyman menekankan kecekapan kos alat tersebut, dengan menyatakan bahawa ia memberikan prestasi tinggi pada separuh daripada kos pilihan sedia ada, yang berpotensi membolehkan syarikat menambah baik kakitangan pusat operasi keselamatan mereka) dengan (memasuki pusat operasi keselamatan SOC dengan lebih baik).