Nvidia dan gabungan 27 firma teknologi telah membentuk Open Secure AI Alliance untuk memajukan alat keselamatan siber pertahanan sumber terbuka. Kumpulan itu berusaha untuk melindungi perniagaan daripada insiden masa depan yang serupa dengan serangan penyangak baru-baru ini ke atas Hugging Face, di mana model komersial tertutup gagal membantu dalam pertahanan syarikat.
Pelancaran Open Secure AI Alliance
Dalam langkah strategik untuk membentuk semula keselamatan siber pada zaman kecerdasan buatan, Nvidia telah menerajui penciptaan Open Secure AI Alliance. Gabungan ini menghimpunkan 27 organisasi teknologi yang berpengaruh, termasuk pemain utama seperti Microsoft, Dell, SpaceX, The Linux Foundation dan IBM. Perikatan itu distrukturkan untuk memanfaatkan rangka kerja sumber terbuka sedia ada, membina secara langsung atas usaha asas inisiatif Akrites Yayasan Linux dan komuniti OpenSSF. Objektif utama pakatan adalah untuk mewujudkan kaedah kolaboratif yang lebih berkesan untuk mendedahkan dan memperbaiki kelemahan perisian. Dengan mengumpulkan sumber dan kepakaran, kumpulan itu menyasarkan untuk menyediakan organisasi dengan alat pertahanan yang diperlukan untuk mengemudi landskap ancaman digital yang semakin kompleks di mana langkah keselamatan tradisional, sumber tertutup mungkin terbukti tidak mencukupi atau terlalu ketat semasa usaha tindak balas kritikal.
Insiden Muka Berpeluk dan Kekangan Model
Pembentukan pakatan ini secara langsung dimangkin oleh insiden keselamatan penting yang melibatkan pemula Hugging Face, yang menghadapi serangan siber penyangak. Apabila Hugging Face cuba menggunakan model AI sempadan sumber tertutup komersil terkemuka untuk mengesan dan menangkis aktiviti yang tidak dibenarkan, ia mendapati bahawa pagar keselamatan model menyebabkannya tidak berkesan. Oleh kerana sistem ini tidak dapat membezakan antara penyerang dan pembela, permintaan analisis forensik platform telah berulang kali ditolak. Ini memaksa pasukan kejuruteraan untuk beralih kepada model yang dihoskan sendiri, berat terbuka, khususnya sistem GLM 5.2. Dengan menjalankan alternatif terbuka ini pada infrastrukturnya sendiri, Hugging Face berjaya menganalisis lebih 17,000 tindakan berbeza dan membendung pencerobohan itu. Pengalaman ini menyerlahkan perkara yang disifatkan oleh ahli perikatan sebagai kebenaran praktikal: apabila pembela tidak mempunyai keupayaan untuk memeriksa dan menyesuaikan perisian AI mengikut syarat mereka sendiri, kapasiti mereka untuk bertindak balas semasa kecemasan berisiko tinggi akan terjejas teruk.
Sumbangan dan Matlamat Kerjasama
Ahli pengasas perikatan telah komited untuk menyumbang aset khusus untuk memperkukuh ekosistem. Nvidia menyediakan model terbuka, pemberat komprehensif, set data dan abah-abah ejen baharu yang direka untuk mempercepatkan penciptaan alatan keselamatan siber termaju. Hewlett Packard Enterprise (HPE) ditugaskan untuk membangunkan piawaian untuk memudahkan pengesahan kriptografi ejen dan perkhidmatan AI, memastikan kepercayaan dan akauntabiliti yang lebih tinggi dalam sistem automatik. Tambahan pula, Hugging Face menyumbang Safetensors, format selamat yang direka khusus untuk menyimpan berat model AI. Perikatan itu secara aktif menyeru kerajaan untuk menganggap infrastruktur AI terbuka sebagai aset pertahanan negara dan bukannya liabiliti. Mereka berhujah bahawa mengenakan sekatan menyeluruh pada model sempadan berat terbuka akan menjadi tidak produktif, dengan berkesan mengehadkan keupayaan pertahanan sambil menumpukan kuasa yang ketara dalam sekumpulan kecil penyedia AI proprietari yang mungkin tidak memenuhi keperluan keselamatan industri yang lebih luas.
Ketegangan Kawal Selia dan Model AI Cina
Inisiatif itu tiba di tengah-tengah perdebatan yang lebih meluas dan semakin sengit di Washington mengenai peranan model AI yang dibangunkan oleh China. Pada masa ini, pentadbiran Trump dan pelbagai penggubal undang-undang sedang mempertimbangkan larangan atau pengehadan ketat ke atas model ini, yang selalunya berwajaran terbuka dan lebih murah daripada rakan sejawatan mereka di Amerika. Walaupun pengkritik menyatakan kebimbangan mengenai kecurian harta intelek dan serangan 'penyulingan'—di mana model digunakan untuk mengekstrak pengetahuan sensitif daripada sistem yang lebih canggih—ahli perikatan baharu bimbang bahawa langkah sedemikian boleh menyekat inovasi domestik. Surat baru-baru ini yang ditandatangani oleh Nvidia, Microsoft, Meta, dan lain-lain memberi amaran bahawa sekatan pramatang pada sistem berat terbuka berisiko memacu pembangunan di luar negara. Pakar seperti Chris McGuire dari Majlis Perhubungan Luar Negeri menyatakan bahawa perdebatan sedang beralih ke arah fokus keselamatan negara, tertumpu pada pencegahan kecurian IP Cina dan bukannya pertempuran ideologi yang wujud antara sistem terbuka dan tertutup. Pakatan tetap bimbang, bagaimanapun, bahawa kejatuhan peraturan boleh secara tidak sengaja merosakkan komuniti sumber terbuka global.
⚖ The Balanced View
Supporting view
Penyokong, termasuk Nvidia dan Microsoft, berpendapat bahawa model terbuka adalah aset pertahanan yang penting, kerana ia membenarkan organisasi memeriksa, mengubah suai dan mengehos sistem secara tempatan untuk bertindak balas terhadap ancaman tanpa disekat oleh pagar pihak ketiga.
Concerns & criticism
Penggubal dasar dan pakar keselamatan negara menyatakan kebimbangan terhadap peningkatan model sumber terbuka buatan China, bimbang ia boleh digunakan untuk kecurian harta intelek atau menyediakan kenderaan untuk aktor asing untuk mengekstrak risikan daripada teknologi A.S. canggih.
→What's next
Open Secure AI Alliance berhasrat untuk menyelaraskan dengan kerajaan untuk memupuk pelaburan dalam infrastruktur AI terbuka yang dikongsi. Pada masa yang sama, kumpulan itu akan terus melobi penggubal dasar untuk menghalang undang-undang yang boleh menyekat ketersediaan dan pembangunan model sempadan terbuka.