Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

การศึกษาล่าสุดโดย CDW ที่เกี่ยวข้องกับผู้มีอำนาจตัดสินใจด้านไอที 951 ราย เน้นย้ำถึงการเปลี่ยนแปลงไปสู่ภัยคุกคามทางไซเบอร์ที่ขับเคลื่อนด้วย AI ซึ่งหลายองค์กรในปัจจุบันไม่พร้อมในการจัดการ ตามรายงาน บริษัท 43% ได้จัดการกับแผนการฟิชชิ่งที่ปรับปรุงด้วย AI แล้ว ในขณะที่ 37% เผชิญกับมัลแวร์ที่เสริมด้วย AI ดังที่ผู้เชี่ยวชาญด้านความปลอดภัยมักสังเกตเห็นว่าการละเมิดถูกมองว่าเป็นสิ่งที่หลีกเลี่ยงไม่ได้มากกว่าความเป็นไปได้ ลักษณะของภัยคุกคามเหล่านี้มีการเปลี่ยนแปลงอย่างรวดเร็ว แทนที่จะพยายามใช้ Deepfake แบบเดี่ยวๆ ซึ่งมีผู้ตอบแบบสอบถามเพียง 8% เท่านั้นที่ระบุว่ามีความเสี่ยงสูงสุด ผู้ไม่หวังดีกลับใช้ระบบเอเจนต์อัตโนมัติที่สามารถค้นพบและใช้ประโยชน์จากช่องโหว่ในวงกว้างได้ ในการตอบสนอง บริษัทประมาณ 41% กำลังมองหาการใช้ระบบตรวจจับภัยคุกคามที่ใช้ AI เพื่อตอบโต้คลื่นลูกใหม่ของการแสวงหาประโยชน์อัตโนมัติความเร็วสูง

ช่องโหว่ของกลยุทธ์การป้องกันในปัจจุบันได้รับการเน้นย้ำเมื่อเร็ว ๆ นี้เมื่อ Hugging Face สตาร์ทอัพด้าน AI ถูกโจมตีโดยโมเดลเอเจนต์ ในระหว่างเหตุการณ์ดังกล่าว บริษัทค้นพบว่าโมเดล AI แนวชายแดนมาตรฐานของสหรัฐอเมริกาไม่ได้ผล เนื่องจากราวกั้นความปลอดภัยทำให้ไม่สามารถระบุและบล็อกผู้รุกรานได้ ด้วยเหตุนี้ Hugging Face จึงต้องอาศัยโมเดลจีนแบบเปิดที่โฮสต์เองเพื่อทำการวิเคราะห์ทางนิติวิทยาศาสตร์ เหตุการณ์นี้ทำหน้าที่เป็นตัวเร่งให้เกิดการก่อตั้ง Open Secure AI Alliance ซึ่งเป็นหัวหอกของ Nvidia พันธมิตรระบุว่าเพื่อให้นักปกป้องความปลอดภัยทางไซเบอร์ดำเนินการด้วยความเร็วที่จำเป็น พวกเขาต้องมีความสามารถในการตรวจสอบ ปรับใช้ และใช้งานระบบ AI ขั้นสูงบนโครงสร้างพื้นฐานของตนเอง แทนที่จะต้องยึดติดกับแพลตฟอร์มปิดที่เป็นกรรมสิทธิ์

การก่อตั้ง Open Secure AI Alliance เกิดขึ้นพร้อมกับการถกเถียงทางภูมิรัฐศาสตร์ที่เพิ่มมากขึ้นเกี่ยวกับโมเดล AI ของจีน ในขณะที่ยักษ์ใหญ่ด้านเทคโนโลยีอย่าง Microsoft, Meta และ Nvidia กำลังสนับสนุนระบบนิเวศโอเพ่นซอร์ส ผู้กำหนดนโยบายและหน่วยงานกำกับดูแลบางรายมีความกังวลเกี่ยวกับ 'การกลั่นกรอง' ซึ่งเป็นกระบวนการที่แบบจำลองของจีนดึงความรู้ที่เป็นกรรมสิทธิ์จากระบบชายแดนที่เหนือกว่าของสหรัฐอเมริกา Scott Bessent รัฐมนตรีกระทรวงการคลังของสหรัฐฯ ได้บอกเป็นนัยถึงมาตรการคว่ำบาตรที่อาจเกิดขึ้นกับบริษัทที่เกี่ยวข้องกับกิจกรรมดังกล่าว ขณะนี้ผู้นำในอุตสาหกรรมกำลังเดินไต่เชือก โดยเรียกร้องให้วอชิงตันหลีกเลี่ยงข้อจำกัดก่อนกำหนดซึ่งอาจขัดขวางการสร้างสรรค์นวัตกรรม พวกเขาโต้แย้งว่าชุมชนโอเพ่นซอร์สให้ความโปร่งใสที่จำเป็นสำหรับการรักษาความปลอดภัย ในขณะที่การปิดโมเดลเหล่านี้อย่างเคร่งครัดจะบังคับให้บริษัทต่างๆ ต้องพึ่งพาโครงสร้างพื้นฐานที่พวกเขาไม่สามารถควบคุมหรือตรวจสอบได้อย่างเต็มที่ในช่วงวิกฤตด้านความปลอดภัยที่เกิดขึ้นจริง

ในการพัฒนาแบบคู่ขนาน Microsoft ได้เปิดตัวโมเดลปัญญาประดิษฐ์ใหม่ MAI-Cyber-1-Flash ซึ่งสร้างขึ้นเพื่อตรวจจับช่องโหว่ด้านความปลอดภัยทางไซเบอร์โดยเฉพาะ โมเดลนี้แสดงถึงความพยายามเชิงกลยุทธ์ในการฟื้นฟูธุรกิจความปลอดภัยของ Microsoft ภายใต้ผู้บริหาร Hayete Gallot จากข้อมูลของ Microsoft เมื่อจับคู่กับ GPT-5.4 ของ OpenAI โมเดลดังกล่าวจะมีประสิทธิภาพเหนือกว่าโซลูชันคู่แข่งจาก Anthropic และ Google บนเกณฑ์มาตรฐาน CyberGym นอกเหนือจากตัวโมเดลแล้ว Microsoft กำลังเปิดตัว 'Project Perception' ซึ่งเป็นชุดตัวแทน AI ที่ออกแบบมาเพื่อค้นหาและแก้ไขจุดอ่อนของระบบ โดยมีกำหนดการแสดงตัวอย่างต่อสาธารณะในวันที่ 3 สิงหาคม ซีอีโอ Mustafa Suleyman เน้นย้ำถึงความคุ้มค่าของเครื่องมือ โดยสังเกตว่าเครื่องมือนี้มอบประสิทธิภาพสูงโดยมีค่าใช้จ่ายเพียงครึ่งหนึ่งของตัวเลือกที่มีอยู่ อาจทำให้บริษัทต่างๆ สามารถจัดพนักงานศูนย์ปฏิบัติการรักษาความปลอดภัย (SOC) ได้ดีขึ้นโดยการลดอุปสรรคทางเทคนิคในการเข้าสู่