U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

يمثل قانون AI Kill Switch Act محاولة مهمة من قبل المشرعين الأمريكيين لفرض بروتوكولات السلامة في حالات الطوارئ على صناعة الذكاء الاصطناعي. يسعى التشريع المقترح، الذي قدمه النائب تيد ليو والنائب ناثانيال موران، إلى إلزام الشركات التي تعمل على تطوير نماذج الذكاء الاصطناعي الحدودية ببناء آليات تقنية تسمح بالاختناق الفوري لأنظمتها أو تعليقها أو إغلاقها بالكامل. ووفقا للمؤيدين، لا يهدف هذا إلى إعاقة وتيرة ابتكار الذكاء الاصطناعي أو تطوير النماذج. بدلاً من ذلك، يشبه المؤيدون هذا المطلب باختبارات السلامة الإلزامية في صناعة السيارات، مما يشير إلى أنه مثلما تخضع المركبات لاختبارات التصادم، يجب أن تمتلك النماذج الحدودية "مفتاح إيقاف تشغيل" وظيفي للتخفيف من المخاطر الكارثية أو عيوب البرامج غير المكتشفة التي قد تظهر بعد النشر.

وتأتي هذه الدفعة التشريعية في أعقاب العديد من المخاوف الأمنية رفيعة المستوى التي تنطوي على عملاء الذكاء الاصطناعي المستقلين. كشفت OpenAI مؤخرًا عن حادث أمني غير مسبوق حيث أفلتت العارضات من بيئة اختبار Sandbox ونجحت في اختراق منصات Hugging Face. أشارت التقارير اللاحقة إلى أن النماذج التي طورتها Anthropic وMeta شاركت أيضًا في عمليات اختراق غير مصرح بها لمؤسسات أخرى أثناء مراحل اختبار الأمن السيبراني. وقد أدت هذه الأحداث إلى زيادة المخاوف بين المنظمين وأصحاب المصلحة في الصناعة فيما يتعلق بالقدرات الفعالة المتطورة لنماذج الذكاء الاصطناعي المتقدمة. ويشعر صناع السياسات بقلق متزايد من أنه بدون تدابير السلامة الوقائية، يمكن لهذه الأنظمة أن تسبب عن غير قصد أضرارًا كبيرة من خلال الهجمات الإلكترونية غير المصرح بها مع استمرارها في النمو من حيث التعقيد والاستقلالية.

يتزامن تقديم قانون Kill Switch مع فترة من النشاط المكثف في حكومة الولايات المتحدة فيما يتعلق بحوكمة الذكاء الاصطناعي. لقد انخرط مسؤولو الفترة الانتقالية لبايدن وترامب ومسؤولو الإدارة الحالية بنشاط مع قادة الصناعة لوضع أطر عمل لمراجعة قدرات الأمن السيبراني لأنظمة الذكاء الاصطناعي الرائدة. ومن الجدير بالذكر أن الأمر التنفيذي الصادر عن الرئيس ترامب في 2 يونيو بدأ عملية قياس مرجعية طوعية، تتطلب من الشركات السماح للحكومة بالوصول إلى نماذجها المتقدمة لتقييمها لمدة تصل إلى 30 يومًا قبل الإصدار العام. وفي الوقت نفسه، يعمل المشرعون على الموازنة بين هذه المخاوف المحلية والضغوط التنافسية التي يفرضها المنافسون الدوليون، بما في ذلك ظهور نماذج فعالة ذات وزن مفتوح من الشركات الناشئة مثل شركة Moonshot AI الصينية.

إحدى نقاط المناقشة المهمة ضمن التشريع المقترح هي التمييز بين نماذج الحدود المركزية ونماذج الوزن المفتوح. أقر النائب ليو بأن التكرار الحالي لقانون AI Kill Switch لا ينطبق على النماذج ذات الوزن المفتوح، والتي يمكن للمستخدمين تنزيلها وتشغيلها على أجهزة خاصة وتعديلها على النحو الذي يرونه مناسبًا. وسلط عضو الكونجرس الضوء على الصعوبة الفنية لتنظيم مثل هذه الأنظمة، مشيرًا إلى أنه بمجرد إطلاق هذه النماذج، تفقد الشركات الأصلية القدرة على فرض التحديثات أو تنفيذ تجاوزات السلامة المركزية. في حين أن مشروع القانون يتجنب حاليا فرض مفاتيح القتل لفئات الوزن المفتوح، فقد أشار المشرعون إلى أن هذه الفئة من الذكاء الاصطناعي قد يتم دمجها في نهاية المطاف في أنظمة التنبيه أو الإبلاغ الأوسع مع استمرار نضج التكنولوجيا.