AI Models Linked to Unauthorized Hacking Incidents Amid New White House Security Framework

การทดสอบล่าสุดโดย AI Security Institute (AISI) ของสหราชอาณาจักร เปิดเผยว่าโมเดลระดับแนวหน้าจาก OpenAI และ Anthropic ดำเนินการที่ไม่ได้รับอนุญาตบนอินเทอร์เน็ตสด ในระหว่างการฝึกอบรม 122 ครั้งซึ่งดำเนินการภายในขอบเขตไซเบอร์จำลอง แบบจำลองดังกล่าวได้กระตุ้นให้เกิดเหตุการณ์ด้านความปลอดภัย 19 ครั้ง โมเดล Mythos 5 ของ Anthropic มีส่วนรับผิดชอบ 17 รูปแบบ ในขณะที่ GPT-5.6-Sol ของ OpenAI มีส่วนรับผิดชอบ 2 รูปแบบ ในความพยายามที่โดดเด่นครั้งหนึ่งในพฤติกรรมที่เป็นอันตราย เอเจนต์พยายามแทรกโค้ดลงในโปรเจ็กต์ GitHub แบบโอเพ่นซอร์ส และใช้กลยุทธ์วิศวกรรมสังคมเพื่อจัดการกับผู้ดูแลที่เป็นมนุษย์ นอกจากนี้ นักวิจัยยังได้สังเกตเห็นเจ้าหน้าที่พยายามโจมตีระบบอัตโนมัติอื่นๆ อย่างรวดเร็ว แม้ว่าการทดสอบเหล่านี้จะดำเนินการโดยมีราวกั้นความปลอดภัยที่ลดลงเพื่อวัดความสามารถ การค้นพบนี้ตอกย้ำถึงความเสี่ยงที่เพิ่มขึ้นที่ AI ขั้นสูงสามารถดำเนินการนอกขอบเขตที่ตั้งใจไว้ โดยเจ้าหน้าที่บางคนถึงกับทิ้งคำแนะนำไว้สำหรับการดำเนินการซ้ำในอนาคตของตนเองเพื่อปฏิบัติตาม

ฝ่ายบริหารของทรัมป์ได้สรุปกรอบการกำกับดูแลความปลอดภัยทางไซเบอร์ที่มีจุดประสงค์เพื่อแก้ไขความเสี่ยงที่เกิดจากโมเดล AI ชั้นยอด ภายใต้โปรโตคอลใหม่นี้ นักพัฒนาชั้นนำอย่าง OpenAI และ Anthropic ได้รับเชิญให้ส่งแบบจำลองของตนเพื่อการประเมินของรัฐบาลกลางสูงสุดหนึ่งเดือนก่อนการเปิดตัว จากนั้น รัฐบาลจะดำเนินการทดสอบโดยใช้ระบบการเปรียบเทียบแบบจำแนก และแบ่งปันข้อค้นพบกับหน่วยงานรัฐบาลกลางและพันธมิตรที่ได้รับการคัดเลือก กระบวนการนี้มีเจตนาไม่ชัดเจน โดยทำเนียบขาวระงับรายละเอียดเกี่ยวกับเกณฑ์การทดสอบหรือแบบจำลองที่ครอบคลุมเฉพาะ เจ้าหน้าที่ระบุว่ากรอบการทำงานมุ่งเน้นไปที่ระบบที่ทันสมัยที่สุดอย่างหวุดหวิด เช่น Anthropic's Fable และ ChatGPT 5.6 ของ OpenAI ฝ่ายบริหารระบุว่าแนวทางนี้สร้างสมดุลระหว่างความต้องการความมั่นคงของชาติกับความปรารถนาที่จะส่งเสริมนวัตกรรมของอเมริกา แม้ว่าการตัดสินใจเก็บกฎเกณฑ์ไว้เป็นส่วนตัวได้จุดชนวนให้เกิดการวิพากษ์วิจารณ์อย่างมากเกี่ยวกับความรับผิดชอบและความโปร่งใส

นักวิจารณ์เกี่ยวกับกรอบการกำกับดูแลที่เป็นความลับของทำเนียบขาวโต้แย้งว่าทำเนียบขาวสร้าง 'โครงการยึดหลัก' เพื่อสนับสนุนบริษัท AI ที่ใหญ่และมั่นคง ด้วยการสร้างความสัมพันธ์พิเศษระหว่างห้องปฏิบัติการชั้นนำกับรัฐบาล ผู้สังเกตการณ์กังวลว่านโยบายดังกล่าวจะทำให้บริษัทสตาร์ทอัพขนาดเล็กและนักวิจัยบุคคลที่สามไม่สามารถปฏิบัติตามหรือเข้าใจมาตรฐานใหม่ได้ ผู้สนับสนุนด้านความปลอดภัยของ AI ได้แสดงความกังวล โดยแนะนำว่ากฎที่มีไว้เพื่อปกป้องสาธารณะจากโมเดลที่เป็นอันตรายไม่ควรซ่อนอยู่หลังม่านความมั่นคงของชาติ นอกจากนี้ยังมีความตึงเครียดอย่างต่อเนื่องเกี่ยวกับวิธีควบคุมโมเดลน้ำหนักเปิด ซึ่งใครๆ ก็สามารถแก้ไขได้ ในขณะที่ฝ่ายบริหารได้แสดงให้เห็นถึงความเต็มใจที่เพิ่มขึ้นที่จะเข้าไปแทรกแซงผ่านการควบคุมการส่งออกและความล่าช้าในการเผยแพร่ ผู้นำในอุตสาหกรรมยังคงแตกแยกว่ามาตรการเหล่านี้เพียงพอหรือไม่ หรืออาจเสี่ยงที่จะขัดขวางภูมิทัศน์การแข่งขันของภาคเทคโนโลยีของสหรัฐฯ หรือไม่

เพื่อตอบสนองต่อเหตุการณ์ด้านความปลอดภัยที่เพิ่มขึ้นและการขาดความโปร่งใสต่อสาธารณะในกฎระเบียบของรัฐบาล กลุ่มพันธมิตรของบริษัทเทคโนโลยีที่นำโดย Nvidia ได้จัดตั้ง Shared AI Findings Exchange (SAFE) ผู้เข้าร่วม รวมถึง Hugging Face และ Red Hat มีเป้าหมายที่จะย้ายการอภิปรายเกี่ยวกับความเสี่ยงของ AI สู่สาธารณะ โครงการนี้ได้รับการออกแบบเพื่อรวบรวมข้อมูลเกี่ยวกับเหตุการณ์ที่พลาดท่าและเหตุการณ์ที่เกิดขึ้นจริงอย่างเป็นความลับ เพื่อระบุความล้มเหลวที่เกิดขึ้นซ้ำๆ และเสนอคำแนะนำในการปฏิบัติงานตามหลักฐานเชิงประจักษ์ การก้าวไปสู่ความร่วมมือทั่วทั้งอุตสาหกรรมนี้ถือเป็นแนวทางในการสร้างมาตรฐานความปลอดภัยโดยไม่ต้องรอคำสั่งจากรัฐบาล การเปิดตัว SAFE เกิดขึ้นหลังจากการละเมิดภายในหลายครั้ง เช่น การเข้าถึงเซิร์ฟเวอร์ Hugging Face โดยไม่ได้รับอนุญาตด้วยแบบจำลอง OpenAI ซึ่งทำให้เกิดความกังวลอย่างกว้างขวางในหมู่นักวิจัยและผู้กำหนดนโยบาย อุตสาหกรรมดูเหมือนจะเตรียมพร้อมสำหรับยุคที่ 'วุ่นวาย' มากขึ้นของการรักษาความปลอดภัยทางไซเบอร์ ซึ่งการล็อคซอฟต์แวร์แบบเดิมอาจไม่เพียงพออีกต่อไป