Kasunod ng cyberattack sa Hugging Face na nagsiwalat ng mga limitasyon sa mga pinaghihigpitang modelo ng AI, isang koalisyon ng mga tech giant ang bumuo ng Open Secure AI Alliance upang i-promote ang mga open-weight na tool para sa cyber defense. Kasabay nito, inihayag ng Microsoft ang sarili nitong cost-effective na modelo ng AI na idinisenyo upang tukuyin at ayusin ang mga kahinaan sa cybersecurity.
Ang Pagtaas ng Ahensyang Mga Banta sa AI
Ang isang kamakailang pag-aaral ng CDW na kinasasangkutan ng 951 IT decision-makers ay nagha-highlight ng pagbabago tungo sa AI-driven na cyber threats na maraming organisasyon ay kasalukuyang hindi sapat na pangasiwaan. Ayon sa ulat, 43% ng mga kumpanya ay nakaharap na sa AI-enhanced phishing scheme, habang 37% ay nahaharap sa AI-augmented malware. Tulad ng madalas na tandaan ng mga eksperto sa seguridad, ang isang paglabag ay lalong tinitingnan bilang isang hindi maiiwasan sa halip na isang posibilidad. Ang likas na katangian ng mga banta na ito ay mabilis na nagbabago; sa halip na mga nakahiwalay na deepfake na pagtatangka, na 8% lang ng mga respondent ang binanggit bilang pinakamataas na panganib, ang mga malisyosong aktor ay nagde-deploy ng mga autonomous, ahenteng sistema na maaaring tumuklas at mapakinabangan ang mga kahinaan sa sukat. Bilang tugon, humigit-kumulang 41% ng mga kumpanya ay naghahanap upang ipatupad ang mga sistema ng pagtuklas ng pagbabanta na nakabatay sa AI upang labanan ang bagong alon na ito ng high-speed, automated na pagsasamantala.
Ang Hugging Face Incident at Open Models
Ang kahinaan ng kasalukuyang mga diskarte sa pagtatanggol ay binigyang-diin kamakailan nang ang AI startup Hugging Face ay inatake ng mga ahenteng modelo. Sa panahon ng insidente, natuklasan ng kumpanya na ang mga karaniwang modelo ng AI sa hangganan ng U.S. ay hindi epektibo dahil ang kanilang mga guardrail sa kaligtasan ay humadlang sa kanila na kilalanin at harangan ang aggressor. Dahil dito, ang Hugging Face ay kailangang umasa sa isang self-hosted, open-weight na Chinese model para magsagawa ng forensic analysis nito. Ang kaganapang ito ay nagsilbing isang katalista para sa pagbuo ng Open Secure AI Alliance, na pinangunahan ng Nvidia. Naninindigan ang alyansa na para kumilos ang mga tagapagtanggol ng cybersecurity nang may kinakailangang bilis, dapat silang magkaroon ng kakayahang mag-inspeksyon, mag-adapt, at magpatakbo ng mga advanced na AI system sa kanilang sariling imprastraktura, sa halip na masilayan sa sarado, pagmamay-ari na mga platform.
Ang Tulak para sa Soberanya at Seguridad
Ang paglikha ng Open Secure AI Alliance ay kasabay ng lumalaking geopolitical debate tungkol sa mga modelo ng Chinese AI. Habang ang mga tech giant tulad ng Microsoft, Meta, at Nvidia ay nagsusulong para sa open-source na ecosystem, ang ilang mga policymakers at regulator ay nababahala tungkol sa 'distillation,' isang proseso kung saan kinukuha ng mga Chinese na modelo ang pagmamay-ari na kaalaman mula sa superior U.S. frontier system. Nagpahiwatig na ang Kalihim ng Treasury ng U.S. na si Scott Bessent sa mga potensyal na parusa laban sa mga kumpanyang sangkot sa naturang mga aktibidad. Ang mga pinuno ng industriya ay naglalakad na ngayon sa isang mahigpit na lubid, na hinihimok ang Washington na iwasan ang napaaga na mga paghihigpit na maaaring makahadlang sa pagbabago. Ipinapangatuwiran nila na ang open-source na komunidad ay nagbibigay ng transparency na kinakailangan para sa seguridad, samantalang ang mahigpit na pagsasara sa mga modelong ito ay pipilitin ang mga kumpanya na umasa sa imprastraktura na hindi nila ganap na makokontrol o ma-audit sa panahon ng isang live na krisis sa seguridad.
Ang Bagong Cybersecurity Initiative ng Microsoft
Sa isang parallel na pag-unlad, ipinakilala ng Microsoft ang isang bagong modelo ng artificial intelligence, MAI-Cyber-1-Flash, na partikular na binuo upang makita ang mga kahinaan sa cybersecurity. Ang modelong ito ay kumakatawan sa isang madiskarteng pagsisikap na pasiglahin ang negosyo ng seguridad ng Microsoft sa ilalim ng executive na si Hayete Galot. Ayon sa Microsoft, kapag ipinares sa OpenAI's GPT-5.4, ang modelo ay higit na gumaganap sa mga nakikipagkumpitensyang solusyon mula sa Anthropic at Google sa benchmark ng CyberGym. Higit pa sa modelo mismo, inilunsad ng Microsoft ang 'Project Perception,' isang hanay ng mga ahente ng AI na idinisenyo upang tuklasin at ayusin ang mga kahinaan ng system, na may pampublikong preview na naka-iskedyul para sa Agosto 3. Binigyang-diin ng CEO na si Mustafa Suleyman ang cost-efficiency ng tool, at binanggit na naghahatid ito ng mataas na performance sa kalahati ng halaga ng mga umiiral na opsyon, na posibleng magpapahintulot sa mga kumpanya na mas mahusay na makapasok sa mga operating barrier ng mga teknikal na hadlang sa SOC sa pamamagitan ng (pagpapababa sa mga kawani ng SOC sa kanilang mga technical barrier).
⚖ The Balanced View
Supporting view
Ang mga tagapagtaguyod ng open-weight na mga modelo, kabilang ang Nvidia at Microsoft, ay nangangatuwiran na ang mga ito ay mahalaga para sa pagtatanggol dahil pinapayagan nila ang mga kumpanya na mag-inspeksyon at mag-host ng mga sistema nang walang panghihimasok ng mga mahigpit na guardrail na humahadlang sa mga oras ng pagtugon sa panahon ng aktibong pag-atake.
Concerns & criticism
May malaking pag-aalala mula sa mga opisyal ng gobyerno at mga analyst ng patakaran hinggil sa potensyal para sa mga kumpanyang Tsino na gumamit ng mga bukas na modelo para sa 'distillation'—pagnanakaw ng IP mula sa mga modelo ng hangganan ng U.S.—na humahantong sa mga potensyal na parusa o pagbabawal sa mga partikular na transaksyong nauugnay sa AI.
→What's next
Ang Open Secure AI Alliance ay inaasahang magsisimulang magtrabaho sa pagsisiwalat at remediation ng mga kahinaan gamit ang mga bukas na teknolohiya. Samantala, mahigpit na susubaybayan ng industriya kung nagpapatupad ang gobyerno ng US ng mga pormal na paghihigpit sa paggamit o pagho-host ng mga modelo ng AI na binuo ng China.