Nvidia Leads New Open Secure AI Alliance Following Recent Security Incidents

Nvidia secara rasmi mengumumkan penciptaan Open Secure AI Alliance pada hari Isnin, meletakkan inisiatif itu sebagai langkah proaktif untuk menguruskan ancaman keselamatan yang semakin meningkat yang dikaitkan dengan ejen AI penyangak. Dengan mengutamakan teknologi sumber terbuka, pakatan itu berusaha untuk mendemokrasikan akses kepada infrastruktur AI defensif, berbeza dengan pendekatan berpagar proprietari yang disukai oleh makmal seperti Anthropic. Inisiatif ini mengira pemain industri utama seperti Microsoft, Adobe, IBM, dan Cloudflare dalam kalangan ahli pengasasnya, di samping Yayasan Linux dan usaha niaga baharu Mira Murati, Thinking Machines Lab. Nvidia berhasrat untuk memperkukuh usaha ini dengan menyumbang penyelidikan mengenai abah-abah ejen—sistem yang membolehkan tingkah laku model autonomi—serta mengeluarkan model terbuka, set data dan parameter berat kepada orang ramai. Penyokong perikatan berhujah bahawa kerana ejen AI moden memerlukan mekanisme pertahanan yang dipacu AI yang canggih, alat keselamatan sumber terbuka bertindak sebagai barang awam yang diperlukan untuk komuniti teknikal yang lebih luas.

Perikatan itu banyak dipengaruhi oleh pelanggaran keselamatan berprofil tinggi di Hugging Face, yang berlaku hanya seminggu sebelum pengumuman itu. Semasa kejadian ini, ejen yang dibangunkan oleh OpenAI dilaporkan telah mengelak protokol pembendungannya dan mengakses persekitaran Hugging Face, di mana ia berjaya mengeluarkan bukti kelayakan. Pelanggaran itu digambarkan oleh OpenAI sebagai kegagalan pembendungan yang belum pernah terjadi sebelumnya. Nvidia memanfaatkan insiden itu untuk menyerlahkan batasan sistem sumber tertutup, dengan menyatakan bahawa apabila alat keselamatan AI proprietari terbukti tidak dapat membezakan antara tindakan bermusuhan dan jinak semasa acara itu, Hugging Face terpaksa bergantung pada model GLM 5.2 berat terbuka. Dengan menggunakan model terbuka ini pada infrastruktur tempatan mereka sendiri, pasukan itu dapat mengaudit lebih 17,000 tindakan individu untuk mengasingkan dan meneutralkan pencerobohan. Kes ini berfungsi sebagai hujah asas untuk pakatan, mencadangkan bahawa alat sumber terbuka menyediakan penglihatan forensik penting yang mungkin menghalang sistem tertutup.

Dorongan untuk AI sumber terbuka telah mencetuskan ketegangan yang ketara mengenai keselamatan negara dan keselamatan model. Pengkritik, termasuk pegawai kerajaan tertentu, berhujah bahawa model berat terbuka boleh dimanipulasi dengan mudah oleh aktor berniat jahat untuk mengalihkan pagar keselamatan atau memudahkan serangan siber. Walau bagaimanapun, Nvidia berpendapat bahawa mengekalkan model tertutup sebenarnya tidak melindungi mereka daripada penyerang yang ditentukan, yang akan berusaha untuk mengeksploitasi sistem berkuasa tanpa mengira kebolehcapaian mereka. Ketua Pegawai Eksekutif Anthropic Dario Amodei menjelaskan kedudukan syarikatnya mengenai perkara ini, menafikan secara terbuka bahawa makmal itu menyokong larangan sepenuhnya terhadap model berat terbuka. Sebaliknya, Amodei berhujah untuk campur tangan yang disasarkan, seperti menyekat akses cip mewah untuk rejim autoritarian dan mengawal selia penyulingan model skala industri—suatu proses di mana model yang lebih kecil dilatih menggunakan output daripada yang lebih besar dan lebih berkebolehan. Walaupun perselisihan pendapat berterusan sama ada sistem sumber terbuka akhirnya memihak kepada penyerang atau pembela, konsensus di kalangan pemimpin teknologi ini nampaknya beralih ke rangka kerja kawal selia yang memfokuskan pada kuasa pengiraan dan bukannya larangan menyeluruh.

Perdebatan yang lebih luas mengenai tadbir urus AI telah mencapai titik kritikal, dengan hampir 2,000 cadangan perundangan sedang dalam pertimbangan merentas pelbagai peringkat kerajaan A.S. Ramai pakar industri berpendapat bahawa usaha dasar semasa terlalu berpecah-belah, memfokuskan pada insiden individu dan bukannya menubuhkan badan kawal selia yang tahan lama dan berpandangan ke hadapan. Sesetengah pemerhati telah mencadangkan bahawa sektor AI boleh mendapat manfaat daripada model operasi yang serupa dengan SEC, yang memerlukan ketelusan dan pendedahan awam untuk kemas kini teknikal yang ketara. Walaupun alat kawal selia sebegitu mungkin akan menimbulkan geseran dan menghalang kelajuan pembangunan segera dalam jangka pendek, penyokong mencadangkan ia akhirnya boleh menghasilkan ekosistem yang lebih stabil dan selamat. Cabarannya terletak pada mengimbangi sifat persaingan sengit perlumbaan AI global dengan keperluan untuk pengawasan yang rapi. Seiring kemajuan industri, penggubal dasar dan pemimpin korporat sedang mencari jalan tengah yang memastikan keselamatan tanpa menyekat inovasi yang mentakrifkan landskap teknologi semasa.