Nvidia and Tech Consortium Launch Open Secure AI Alliance Following Cyberattack

ในการเคลื่อนไหวเชิงกลยุทธ์เพื่อพลิกโฉมความปลอดภัยทางไซเบอร์ในยุคของปัญญาประดิษฐ์ Nvidia เป็นผู้นำในการสร้าง Open Secure AI Alliance แนวร่วมนี้รวบรวมองค์กรเทคโนโลยีที่มีอิทธิพล 27 องค์กร รวมถึงผู้เล่นหลักเช่น Microsoft, Dell, SpaceX, The Linux Foundation และ IBM ความร่วมมือนี้มีโครงสร้างเพื่อใช้ประโยชน์จากเฟรมเวิร์กโอเพ่นซอร์สที่มีอยู่ โดยสร้างขึ้นโดยตรงบนความพยายามพื้นฐานของโครงการริเริ่ม Akrites ของ Linux Foundation และชุมชน OpenSSF วัตถุประสงค์หลักของการเป็นพันธมิตรคือการสร้างวิธีการทำงานร่วมกันที่มีประสิทธิภาพมากขึ้นในการเปิดเผยและแก้ไขช่องโหว่ของซอฟต์แวร์ ด้วยการรวบรวมทรัพยากรและความเชี่ยวชาญ กลุ่มนี้มีจุดมุ่งหมายเพื่อให้องค์กรมีเครื่องมือป้องกันที่จำเป็นในการรับมือกับภัยคุกคามทางดิจิทัลที่ซับซ้อนมากขึ้น ซึ่งมาตรการรักษาความปลอดภัยแบบปิดแบบดั้งเดิมอาจไม่เพียงพอหรือจำกัดมากเกินไปในระหว่างความพยายามตอบสนองที่สำคัญ

การก่อตัวของพันธมิตรนี้ได้รับแรงกระตุ้นโดยตรงจากเหตุการณ์ด้านความปลอดภัยที่สำคัญที่เกี่ยวข้องกับสตาร์ทอัพ Hugging Face ซึ่งเผชิญกับการโจมตีทางไซเบอร์อันธพาล เมื่อ Hugging Face พยายามใช้โมเดล AI ชั้นนำเชิงพาณิชย์แบบปิดเพื่อตรวจจับและขับไล่กิจกรรมที่ไม่ได้รับอนุญาต ก็พบว่าราวกั้นความปลอดภัยของโมเดลทำให้โมเดลเหล่านั้นไม่มีประสิทธิภาพ เนื่องจากระบบเหล่านี้ไม่สามารถแยกแยะระหว่างผู้โจมตีและผู้ปกป้องได้ คำขอการวิเคราะห์ทางนิติวิทยาศาสตร์ของแพลตฟอร์มจึงถูกปฏิเสธซ้ำแล้วซ้ำเล่า สิ่งนี้บังคับให้ทีมวิศวกรเปลี่ยนมาใช้โมเดลแบบเปิดที่โฮสต์เอง โดยเฉพาะระบบ GLM 5.2 ด้วยการรันทางเลือกแบบเปิดนี้บนโครงสร้างพื้นฐานของตัวเอง Hugging Face วิเคราะห์การกระทำที่แตกต่างกันกว่า 17,000 รายการและยับยั้งการบุกรุกได้สำเร็จ ประสบการณ์นี้เน้นย้ำถึงสิ่งที่สมาชิกพันธมิตรอธิบายว่าเป็นความจริงในทางปฏิบัติ: เมื่อผู้พิทักษ์ขาดความสามารถในการตรวจสอบและปรับใช้ซอฟต์แวร์ AI ตามเงื่อนไขของตนเอง ความสามารถในการตอบสนองในระหว่างเกิดเหตุฉุกเฉินที่มีเดิมพันสูงจะถูกขัดขวางอย่างรุนแรง

สมาชิกผู้ก่อตั้งของกลุ่มพันธมิตรมีความมุ่งมั่นที่จะบริจาคทรัพย์สินพิเศษเพื่อสนับสนุนระบบนิเวศ Nvidia นำเสนอโมเดลแบบเปิด น้ำหนักที่ครอบคลุม ชุดข้อมูล และชุดควบคุมเอเจนต์ใหม่ที่ออกแบบมาเพื่อเร่งการสร้างเครื่องมือรักษาความปลอดภัยทางไซเบอร์ขั้นสูง Hewlett Packard Enterprise (HPE) ได้รับมอบหมายให้พัฒนามาตรฐานเพื่ออำนวยความสะดวกในการตรวจสอบการเข้ารหัสของตัวแทนและบริการ AI เพื่อให้มั่นใจถึงความไว้วางใจและความรับผิดชอบที่มากขึ้นในระบบอัตโนมัติ นอกจากนี้ Hugging Face ยังสนับสนุน Safetensors ซึ่งเป็นรูปแบบที่ปลอดภัยซึ่งออกแบบมาเพื่อจัดเก็บตุ้มน้ำหนักโมเดล AI โดยเฉพาะ พันธมิตรกำลังเรียกร้องให้รัฐบาลต่างๆ ปฏิบัติต่อโครงสร้างพื้นฐาน AI แบบเปิดเสมือนเป็นทรัพย์สินในการป้องกันประเทศ แทนที่จะเป็นความรับผิดชอบ พวกเขาแย้งว่าการกำหนดข้อจำกัดแบบครอบคลุมสำหรับโมเดลชายแดนแบบเปิดจะเป็นการต่อต้าน โดยจำกัดความสามารถในการป้องกันอย่างมีประสิทธิภาพ ขณะเดียวกันก็มุ่งเน้นไปที่ผู้ให้บริการ AI ที่เป็นกรรมสิทธิ์กลุ่มเล็กๆ ซึ่งอาจไม่ได้ตอบสนองความต้องการด้านความปลอดภัยในวงกว้างของอุตสาหกรรม

ความคิดริเริ่มนี้เกิดขึ้นท่ามกลางการถกเถียงที่กว้างขวางและเข้มข้นในวอชิงตันเกี่ยวกับบทบาทของโมเดล AI ที่พัฒนาโดยจีน ปัจจุบัน ฝ่ายบริหารของทรัมป์และผู้ร่างกฎหมายหลายรายกำลังพิจารณาการห้ามหรือข้อจำกัดที่เข้มงวดสำหรับโมเดลเหล่านี้ ซึ่งมักจะเป็นแบบเปิดและราคาถูกกว่าโมเดลในอเมริกา ในขณะที่นักวิจารณ์แสดงความกังวลเกี่ยวกับการโจรกรรมทรัพย์สินทางปัญญาและการโจมตีแบบ 'กลั่น' ซึ่งมีการใช้แบบจำลองเพื่อดึงความรู้ที่ละเอียดอ่อนจากระบบที่ซับซ้อนมากขึ้น สมาชิกของพันธมิตรใหม่กังวลว่ามาตรการดังกล่าวอาจขัดขวางนวัตกรรมภายในประเทศ จดหมายล่าสุดที่ลงนามโดย Nvidia, Microsoft, Meta และอื่น ๆ เตือนว่าข้อจำกัดก่อนกำหนดเกี่ยวกับระบบ open-weight เสี่ยงต่อการผลักดันการพัฒนาในต่างประเทศ ผู้เชี่ยวชาญเช่น Chris McGuire จากสภาความสัมพันธ์ระหว่างประเทศตั้งข้อสังเกตว่าการอภิปรายกำลังเปลี่ยนไปสู่การมุ่งเน้นด้านความมั่นคงแห่งชาติ โดยมีศูนย์กลางอยู่ที่การป้องกันการขโมยทรัพย์สินทางปัญญาของจีน มากกว่าการต่อสู้ทางอุดมการณ์โดยธรรมชาติระหว่างระบบเปิดและระบบปิด อย่างไรก็ตาม พันธมิตรยังคงกังวลว่าผลกระทบด้านกฎระเบียบอาจสร้างความเสียหายให้กับชุมชนโอเพ่นซอร์สทั่วโลกโดยไม่ได้ตั้งใจ