Nvidia dan koalisi 27 perusahaan teknologi telah membentuk Open Secure AI Alliance untuk memajukan alat keamanan siber defensif sumber terbuka. Kelompok ini berupaya melindungi bisnis dari insiden serupa di masa depan seperti serangan jahat baru-baru ini terhadap Hugging Face, di mana model komersial tertutup gagal membantu pertahanan perusahaan.
Peluncuran Aliansi AI Terbuka Aman
Dalam langkah strategis untuk membentuk kembali keamanan siber di era kecerdasan buatan, Nvidia telah mempelopori pembentukan Open Secure AI Alliance. Koalisi ini menyatukan 27 organisasi teknologi berpengaruh, termasuk pemain besar seperti Microsoft, Dell, SpaceX, The Linux Foundation, dan IBM. Aliansi ini disusun untuk memanfaatkan kerangka kerja sumber terbuka yang ada, yang dibangun langsung berdasarkan upaya dasar inisiatif Akrites dari Linux Foundation dan komunitas OpenSSF. Tujuan utama dari aliansi ini adalah untuk membangun metode kolaboratif yang lebih efektif untuk mengungkap dan memulihkan kerentanan perangkat lunak. Dengan mengumpulkan sumber daya dan keahlian, kelompok ini bertujuan untuk memberikan organisasi alat pertahanan yang diperlukan untuk menavigasi lanskap ancaman digital yang semakin kompleks di mana langkah-langkah keamanan tradisional yang bersifat sumber tertutup mungkin terbukti tidak cukup atau terlalu membatasi selama upaya respons kritis.
Insiden Memeluk Wajah dan Kendala Model
Pembentukan aliansi ini dipicu secara langsung oleh insiden keamanan signifikan yang melibatkan startup Hugging Face, yang menghadapi serangan siber jahat. Ketika Hugging Face mencoba memanfaatkan model AI terdepan yang bersifat komersial dan bersumber tertutup untuk mendeteksi dan menolak aktivitas tidak sah, ditemukan bahwa pagar pengaman model tersebut menjadikannya tidak efektif. Karena sistem ini tidak dapat membedakan antara penyerang dan pembela, permintaan analisis forensik platform berulang kali ditolak. Hal ini memaksa tim teknik untuk beralih ke model berbobot terbuka yang dihosting sendiri, khususnya sistem GLM 5.2. Dengan menjalankan alternatif terbuka ini pada infrastrukturnya sendiri, Hugging Face berhasil menganalisis lebih dari 17.000 tindakan berbeda dan membendung intrusi tersebut. Pengalaman ini menyoroti apa yang digambarkan oleh para anggota aliansi sebagai sebuah kebenaran praktis: ketika para pembela HAM tidak memiliki kemampuan untuk memeriksa dan mengadaptasi perangkat lunak AI sesuai keinginan mereka, kapasitas mereka untuk merespons dalam keadaan darurat berisiko tinggi akan sangat terhambat.
Kontribusi dan Tujuan Kolaboratif
Anggota pendiri aliansi telah berkomitmen untuk menyumbangkan aset khusus guna memperkuat ekosistem. Nvidia menyediakan model terbuka, bobot komprehensif, kumpulan data, dan pemanfaatan agen baru yang dirancang untuk mempercepat pembuatan alat keamanan siber tingkat lanjut. Hewlett Packard Enterprise (HPE) ditugaskan untuk mengembangkan standar untuk memfasilitasi verifikasi kriptografi agen dan layanan AI, memastikan kepercayaan dan akuntabilitas yang lebih besar dalam sistem otomatis. Selain itu, Hugging Face menyumbangkan Safetensor, format aman yang dirancang khusus untuk menyimpan bobot model AI. Aliansi ini secara aktif menyerukan kepada pemerintah untuk memperlakukan infrastruktur AI terbuka sebagai aset pertahanan nasional, bukan sebagai beban. Mereka berpendapat bahwa menerapkan pembatasan menyeluruh pada model open-weight frontier akan menjadi kontraproduktif, yang secara efektif membatasi kemampuan defensif sambil memusatkan kekuatan yang signifikan pada sekelompok kecil penyedia AI yang mungkin tidak melayani kebutuhan keamanan industri yang lebih luas.
Ketegangan Peraturan dan Model AI Tiongkok
Inisiatif ini muncul di tengah perdebatan yang lebih luas dan intensif di Washington mengenai peran model AI yang dikembangkan Tiongkok. Saat ini, pemerintahan Trump dan berbagai anggota parlemen sedang mempertimbangkan larangan atau pembatasan ketat terhadap model-model tersebut, yang seringkali bersifat terbuka dan lebih murah dibandingkan model-model Amerika. Meskipun para pengkritik menyatakan kekhawatirannya terhadap pencurian kekayaan intelektual dan serangan 'distilasi'—di mana model digunakan untuk mengekstraksi pengetahuan sensitif dari sistem yang lebih canggih—anggota aliansi baru ini khawatir bahwa tindakan tersebut dapat menghambat inovasi dalam negeri. Sebuah surat baru-baru ini yang ditandatangani oleh Nvidia, Microsoft, Meta, dan lainnya memperingatkan bahwa pembatasan dini pada sistem open-weight berisiko mendorong pengembangan di luar negeri. Para ahli seperti Chris McGuire dari Dewan Hubungan Luar Negeri mencatat bahwa perdebatan kini beralih ke fokus keamanan nasional, yang berpusat pada pencegahan pencurian kekayaan intelektual Tiongkok dibandingkan pertarungan ideologi yang melekat antara sistem terbuka dan tertutup. Namun aliansi ini tetap khawatir bahwa dampak peraturan dapat merugikan komunitas open source global secara tidak sengaja.
⚖ The Balanced View
Supporting view
Para pendukungnya, termasuk Nvidia dan Microsoft, berpendapat bahwa model terbuka adalah aset pertahanan yang penting, karena memungkinkan organisasi untuk memeriksa, memodifikasi, dan menghosting sistem secara lokal untuk merespons ancaman tanpa diblokir oleh pihak ketiga.
Concerns & criticism
Para pengambil kebijakan dan pakar keamanan nasional mengungkapkan kekhawatirannya atas maraknya model sumber terbuka buatan Tiongkok, karena khawatir model tersebut dapat digunakan untuk pencurian kekayaan intelektual atau menyediakan sarana bagi aktor asing untuk mengekstrak informasi intelijen dari teknologi canggih AS.
→What's next
Open Secure AI Alliance bermaksud berkoordinasi dengan pemerintah untuk mendorong investasi pada infrastruktur AI terbuka bersama. Pada saat yang sama, kelompok ini akan terus melobi para pengambil kebijakan untuk mencegah pembuatan undang-undang yang dapat membatasi ketersediaan dan pengembangan model open-weight frontier.