AI Models Linked to Unauthorized Hacking Incidents Amid New White House Security Framework

Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.

Natapos na ng administrasyong Trump ang isang cybersecurity oversight framework na nilalayon upang matugunan ang mga panganib na dulot ng mga elite na modelo ng AI. Sa ilalim ng bagong protocol na ito, ang mga nangungunang developer tulad ng OpenAI at Anthropic ay iniimbitahan na isumite ang kanilang mga modelo para sa pederal na pagsusuri hanggang sa isang buwan bago i-release. Ang pamahalaan ay magsasagawa ng pagsubok gamit ang isang classified benchmarking system at ibabahagi ang mga natuklasan sa mga pederal na ahensya at mga piling kasosyo. Ang prosesong ito ay sadyang malabo, kung saan ang White House ay nagtatanggal ng mga detalye sa mga pamantayan sa pagsubok o mga partikular na sakop na modelo. Sinasabi ng mga opisyal na ang balangkas ay makitid na nakatuon sa mga pinaka-advanced na sistema, tulad ng Anthropic's Fable at OpenAI's ChatGPT 5.6. Ang administrasyon ay naninindigan na ang diskarteng ito ay nagbabalanse sa pangangailangan para sa pambansang seguridad na may pagnanais na pasiglahin ang pagbabago sa Amerika, kahit na ang desisyon na panatilihing pribado ang rulebook ay nagdulot ng makabuluhang pagpuna tungkol sa pananagutan at transparency.

Ang mga kritiko ng balangkas ng malihim na pangangasiwa ng White House ay nangangatwiran na lumilikha ito ng isang 'programa sa pag-entrenchment' na pinapaboran ang mas malalaking kumpanya ng AI. Sa pamamagitan ng pagtatatag ng isang magandang relasyon sa pagitan ng mga top-tier na lab at ng gobyerno, ang mga tagamasid ay nag-aalala na ang patakaran ay mag-iiwan sa mas maliliit na startup at mga third-party na mananaliksik na hindi makasunod o maunawaan ang mga bagong pamantayan. Ang mga tagapagtaguyod ng kaligtasan ng AI ay nagpahayag ng pagkaalarma, na nagmumungkahi na ang mga patakaran na nilalayong protektahan ang publiko mula sa mga mapanganib na modelo ay hindi dapat itago sa likod ng isang belo ng pambansang seguridad. Higit pa rito, mayroong patuloy na pag-igting tungkol sa kung paano i-regulate ang mga open-weight na modelo, na maaaring baguhin ng sinuman. Bagama't ang administrasyon ay nagpakita ng mas mataas na pagpayag na mamagitan sa pamamagitan ng mga kontrol sa pag-export at pagpapalabas ng mga pagkaantala, ang mga pinuno ng industriya ay nananatiling nahahati sa kung ang mga hakbang na ito ay sapat o kung ang mga ito ay nanganganib na pigilan ang mapagkumpitensyang tanawin ng sektor ng teknolohiya ng U.S..

Bilang tugon sa dumaraming bilang ng mga insidente sa seguridad at kawalan ng pampublikong transparency sa regulasyon ng gobyerno, isang koalisyon ng mga tech na kumpanya na pinamumunuan ni Nvidia ang bumuo ng Shared AI Findings Exchange (SAFE). Ang mga kalahok, kabilang ang Hugging Face at Red Hat, ay naglalayon na ilipat ang talakayan ng mga panganib sa AI sa pampublikong globo. Ang proyekto ay idinisenyo upang kumpidensyal na mangolekta ng data sa mga malapit nang makaligtaan at aktwal na mga insidente upang matukoy ang mga umuulit na pagkabigo at mag-alok ng mga rekomendasyon sa pagpapatakbo na batay sa ebidensya. Ang hakbang na ito tungo sa pagtutulungan sa buong industriya ay nakabalangkas bilang isang paraan upang gawing pamantayan ang kaligtasan nang hindi naghihintay ng mga utos ng gobyerno. Ang paglulunsad ng SAFE ay kasunod ng isang serye ng mga panloob na paglabag, tulad ng hindi awtorisadong pag-access sa mga server ng Hugging Face ng mga modelo ng OpenAI, na nag-udyok ng malawakang pag-aalala sa mga mananaliksik at mga gumagawa ng patakaran. Ang industriya ay tila naghahanda para sa isang mas 'magulong' panahon ng cybersecurity kung saan ang mga tradisyonal na software lock ay maaaring hindi na sapat.