Ang Nvidia at isang koalisyon ng 27 tech na kumpanya ay bumuo ng Open Secure AI Alliance para isulong ang open-source na mga tool sa pagtatanggol sa cybersecurity. Ang grupo ay naglalayong protektahan ang mga negosyo mula sa mga insidente sa hinaharap na katulad ng kamakailang rogue na pag-atake sa Hugging Face, kung saan ang mga saradong komersyal na modelo ay nabigong tumulong sa pagtatanggol ng kumpanya.
Ang Paglunsad ng Open Secure AI Alliance
Sa isang madiskarteng hakbang upang muling hubugin ang cybersecurity sa edad ng artificial intelligence, pinangunahan ni Nvidia ang paglikha ng Open Secure AI Alliance. Pinagsasama-sama ng koalisyon na ito ang 27 maimpluwensyang organisasyon ng teknolohiya, kabilang ang mga pangunahing manlalaro tulad ng Microsoft, Dell, SpaceX, The Linux Foundation, at IBM. Ang alyansa ay nakabalangkas upang magamit ang mga umiiral nang open-source na frameworks, na direktang binuo batay sa mga pangunahing pagsisikap ng inisyatiba ng Akrites ng Linux Foundation at ng komunidad ng OpenSSF. Ang pangunahing layunin ng alyansa ay ang magtatag ng mas epektibo, magkakatuwang na pamamaraan para sa pagsisiwalat at pag-aayos ng mga kahinaan sa software. Sa pamamagitan ng pagsasama-sama ng mga mapagkukunan at kadalubhasaan, nilalayon ng grupo na magbigay sa mga organisasyon ng mga tool sa pagtatanggol na kinakailangan upang mag-navigate sa mga mas kumplikadong digital threat landscape kung saan ang tradisyonal, closed-source na mga hakbang sa seguridad ay maaaring patunayan na hindi sapat o labis na mahigpit sa panahon ng mga kritikal na pagsisikap sa pagtugon.
Ang Hugging Face Incident at Model Constraints
Ang pagbuo ng alyansang ito ay direktang na-catalyze ng isang makabuluhang insidente sa seguridad na kinasasangkutan ng startup na Hugging Face, na nahaharap sa isang rogue cyberattack. Nang sinubukan ng Hugging Face na gumamit ng nangungunang komersyal, closed-source na mga modelo ng frontier AI para matukoy at maitaboy ang hindi awtorisadong aktibidad, nalaman nitong hindi epektibo ang mga guardrail ng mga modelo. Dahil hindi matukoy ng mga system na ito ang pagkakaiba ng attacker at defender, paulit-ulit na tinanggihan ang mga kahilingan sa forensic analysis ng platform. Pinilit nito ang engineering team na mag-pivot sa self-hosted, open-weight na mga modelo, partikular sa GLM 5.2 system. Sa pamamagitan ng pagpapatakbo ng bukas na alternatibong ito sa sarili nitong imprastraktura, matagumpay na nasuri ng Hugging Face ang mahigit 17,000 natatanging aksyon at naglalaman ng panghihimasok. Itinampok ng karanasang ito kung ano ang inilalarawan ng mga miyembro ng alyansa bilang isang praktikal na katotohanan: kapag ang mga tagapagtanggol ay walang kakayahan na siyasatin at iakma ang AI software sa kanilang sariling mga termino, ang kanilang kapasidad na tumugon sa panahon ng mga emerhensya na may mataas na stake ay lubhang nahahadlangan.
Mga Kontribusyon at Collaborative na Layunin
Ang mga founding member ng alyansa ay nangakong mag-ambag ng mga espesyal na asset upang palakasin ang ecosystem. Ang Nvidia ay nagbibigay ng mga bukas na modelo, komprehensibong timbang, dataset, at mga bagong ahenteng harness na idinisenyo upang mapabilis ang paggawa ng mga advanced na tool sa cybersecurity. Ang Hewlett Packard Enterprise (HPE) ay may tungkulin sa pagbuo ng mga pamantayan upang mapadali ang cryptographic na pag-verify ng mga ahente at serbisyo ng AI, na tinitiyak ang higit na tiwala at pananagutan sa mga automated system. Higit pa rito, ang Hugging Face ay nag-aambag ng Safetensors, isang secure na format na partikular na ginawa para sa pag-imbak ng mga timbang ng modelo ng AI. Ang alyansa ay aktibong nananawagan sa mga pamahalaan na ituring ang bukas na imprastraktura ng AI bilang isang pambansang depensibong asset sa halip na isang pananagutan. Nagtatalo sila na ang pagpapataw ng mga blanket na paghihigpit sa mga modelo ng open-weight frontier ay magiging kontraproduktibo, na epektibong nililimitahan ang mga kakayahan sa pagtatanggol habang nakatuon ang makabuluhang kapangyarihan sa loob ng isang maliit na grupo ng mga proprietary na tagapagbigay ng AI na maaaring hindi nagsisilbi sa mas malawak na mga pangangailangan sa seguridad ng industriya.
Mga Regulatory Tension at Chinese AI Models
Dumating ang inisyatiba sa gitna ng mas malawak, tumitinding debate sa Washington tungkol sa papel ng mga modelo ng AI na binuo ng China. Sa kasalukuyan, isinasaalang-alang ng administrasyong Trump at iba't ibang mga mambabatas ang mahigpit na pagbabawal o limitasyon sa mga modelong ito, na kadalasang bukas ang timbang at mas mura kaysa sa kanilang mga katapat na Amerikano. Bagama't ang mga kritiko ay nagpapahayag ng mga alalahanin tungkol sa pagnanakaw ng intelektwal na ari-arian at pag-atake ng 'distillation'—kung saan ginagamit ang mga modelo upang kunin ang sensitibong kaalaman mula sa mas sopistikadong mga sistema—nababahala ang mga miyembro ng bagong alyansa na maaaring pigilan ng mga naturang hakbang ang domestic innovation. Ang isang kamakailang liham na nilagdaan ng Nvidia, Microsoft, Meta, at iba pa ay nagbabala na ang mga maagang paghihigpit sa mga open-weight system ay nanganganib sa pag-unlad sa ibang bansa. Ang mga eksperto tulad ni Chris McGuire mula sa Council on Foreign Relations ay nagpapansin na ang debate ay lumilipat patungo sa isang pambansang pokus sa seguridad, na nakasentro sa pagpigil sa Chinese IP theft sa halip na isang likas na ideolohikal na labanan sa pagitan ng bukas at saradong mga sistema. Ang alyansa ay nananatiling nababahala, gayunpaman, na ang pagbagsak ng regulasyon ay maaaring hindi sinasadyang makapinsala sa pandaigdigang open-source na komunidad.
⚖ The Balanced View
Supporting view
Ang mga tagasuporta, kabilang ang Nvidia at Microsoft, ay nangangatwiran na ang mga bukas na modelo ay mahalagang mga asset ng pagtatanggol, dahil pinapayagan nila ang mga organisasyon na mag-inspeksyon, magbago, at mag-host ng mga system nang lokal na tumugon sa mga pagbabanta nang hindi hinaharangan ng mga third-party na guardrail.
Concerns & criticism
Ang mga policymakers at mga eksperto sa pambansang seguridad ay nagpahayag ng pagkabahala sa pagtaas ng mga modelong open-source na binuo ng China, sa takot na maaaring magamit ang mga ito para sa pagnanakaw ng intelektwal na ari-arian o magbigay ng sasakyan para sa mga dayuhang aktor na kumuha ng katalinuhan mula sa mga advanced na teknolohiya ng U.S.
→What's next
Ang Open Secure AI Alliance ay naglalayon na makipag-ugnayan sa mga pamahalaan upang itaguyod ang mga pamumuhunan sa nakabahaging bukas na imprastraktura ng AI. Kasabay nito, patuloy na maglo-lobby ang grupo sa mga gumagawa ng patakaran upang maiwasan ang batas na maaaring maghigpit sa pagkakaroon at pagbuo ng mga modelo ng open-weight frontier.