شكلت Nvidia وائتلاف من 27 شركة تقنية تحالف Open Secure AI Alliance لتطوير أدوات الأمن السيبراني الدفاعية مفتوحة المصدر. تسعى المجموعة إلى حماية الشركات من الحوادث المستقبلية المشابهة للهجوم المارق الأخير على Hugging Face، حيث فشلت النماذج التجارية المغلقة في المساعدة في الدفاع عن الشركة.
إطلاق التحالف المفتوح الآمن للذكاء الاصطناعي
في خطوة استراتيجية لإعادة تشكيل الأمن السيبراني في عصر الذكاء الاصطناعي، قادت Nvidia عملية إنشاء التحالف المفتوح الآمن للذكاء الاصطناعي. يجمع هذا التحالف 27 منظمة تكنولوجية مؤثرة، بما في ذلك لاعبين رئيسيين مثل Microsoft وDell وSpaceX وThe Linux Foundation وIBM. تم تصميم التحالف للاستفادة من أطر العمل الحالية مفتوحة المصدر، والبناء مباشرة على الجهود التأسيسية لمبادرة Akrites التابعة لمؤسسة Linux ومجتمع OpenSSF. الهدف الأساسي للتحالف هو إنشاء طرق أكثر فعالية وتعاونية للكشف عن نقاط الضعف في البرامج ومعالجتها. ومن خلال تجميع الموارد والخبرات، تهدف المجموعة إلى تزويد المؤسسات بالأدوات الدفاعية اللازمة للتنقل في بيئات التهديدات الرقمية المتزايدة التعقيد حيث قد تكون التدابير الأمنية التقليدية مغلقة المصدر غير كافية أو مقيدة بشكل مفرط أثناء جهود الاستجابة الحاسمة.
حادثة الوجه المعانقة والقيود النموذجية
تم تحفيز تشكيل هذا التحالف بشكل مباشر من خلال حادث أمني كبير يتعلق بشركة Hugging Face الناشئة، والتي واجهت هجومًا إلكترونيًا مارقًا. عندما حاولت شركة Hugging Face استخدام نماذج الذكاء الاصطناعي الحدودية التجارية الرائدة ومغلقة المصدر لاكتشاف النشاط غير المصرح به وصده، وجدت أن حواجز السلامة الخاصة بالنماذج جعلتها غير فعالة. ولأن هذه الأنظمة لم تتمكن من التمييز بين المهاجم والمدافع، فقد تم رفض طلبات التحليل الجنائي للمنصة بشكل متكرر. أجبر هذا الفريق الهندسي على التركيز على النماذج مفتوحة الوزن ذاتية الاستضافة، وتحديدًا نظام GLM 5.2. من خلال تشغيل هذا البديل المفتوح على البنية التحتية الخاصة به، نجح Hugging Face في تحليل أكثر من 17000 إجراء متميز واحتواء التطفل. سلطت هذه التجربة الضوء على ما وصفه أعضاء التحالف بأنه حقيقة عملية: عندما يفتقر المدافعون إلى القدرة على فحص برامج الذكاء الاصطناعي وتكييفها وفقًا لشروطهم الخاصة، فإن قدرتهم على الاستجابة أثناء حالات الطوارئ عالية المخاطر تتعرض لإعاقة شديدة.
المساهمات والأهداف التعاونية
وقد التزم الأعضاء المؤسسون للتحالف بالمساهمة بأصول متخصصة لتعزيز النظام البيئي. توفر Nvidia نماذج مفتوحة وأوزان شاملة ومجموعات بيانات وأدوات جديدة مصممة لتسريع إنشاء أدوات الأمن السيبراني المتقدمة. تم تكليف شركة Hewlett Packard Enterprise (HPE) بوضع معايير لتسهيل التحقق من التشفير لوكلاء وخدمات الذكاء الاصطناعي، مما يضمن قدرًا أكبر من الثقة والمساءلة في الأنظمة الآلية. علاوة على ذلك، تساهم Hugging Face في توفير أدوات الأمان، وهو تنسيق آمن مصمم خصيصًا لتخزين أوزان نماذج الذكاء الاصطناعي. ويدعو التحالف الحكومات إلى التعامل مع البنية التحتية المفتوحة للذكاء الاصطناعي باعتبارها أصلًا دفاعيًا وطنيًا وليس عائقًا. ويجادلون بأن فرض قيود شاملة على النماذج الحدودية ذات الوزن المفتوح من شأنه أن يؤدي إلى نتائج عكسية، مما يحد بشكل فعال من القدرات الدفاعية مع تركيز قوة كبيرة داخل مجموعة صغيرة من مزودي الذكاء الاصطناعي المملوكين الذين قد لا يخدمون الاحتياجات الأمنية الأوسع للصناعة.
التوترات التنظيمية ونماذج الذكاء الاصطناعي الصينية
وتأتي هذه المبادرة وسط نقاش أوسع نطاقا ومكثفا في واشنطن بشأن دور نماذج الذكاء الاصطناعي التي طورتها الصين. حاليًا، تدرس إدارة ترامب ومختلف المشرعين فرض حظر أو قيود صارمة على هذه النماذج، والتي غالبًا ما تكون ذات وزن مفتوح وأرخص من نظيراتها الأمريكية. وفي حين يعرب المنتقدون عن مخاوفهم بشأن سرقة الملكية الفكرية وهجمات "التقطير" ـ حيث تُستخدم النماذج لاستخراج المعرفة الحساسة من أنظمة أكثر تطورًا ـ فإن أعضاء التحالف الجديد يشعرون بالقلق من أن مثل هذه التدابير قد تؤدي إلى خنق الابتكار المحلي. وتحذر رسالة حديثة موقعة من شركات إنفيديا، ومايكروسوفت، وميتا، وغيرها من الشركات، من أن القيود المبكرة على الأنظمة ذات الوزن المفتوح تهدد بدفع عجلة التطوير في الخارج. ويشير خبراء مثل كريس ماكغواير من مجلس العلاقات الخارجية إلى أن المناقشة تتحول نحو التركيز على الأمن القومي، مع التركيز على منع سرقة الملكية الفكرية في الصين بدلا من المعركة الأيديولوجية المتأصلة بين الأنظمة المفتوحة والمغلقة. ومع ذلك، لا يزال التحالف يشعر بالقلق من أن التداعيات التنظيمية يمكن أن تلحق الضرر عن غير قصد بمجتمع المصادر المفتوحة العالمي.
⚖ The Balanced View
Supporting view
يجادل المؤيدون، بما في ذلك Nvidia وMicrosoft، بأن النماذج المفتوحة هي أصول دفاعية أساسية، لأنها تسمح للمؤسسات بفحص الأنظمة وتعديلها واستضافتها محليًا للاستجابة للتهديدات دون أن يتم حظرها بواسطة حواجز حماية خارجية.
Concerns & criticism
ويعرب صناع السياسات وخبراء الأمن القومي عن قلقهم إزاء ظهور النماذج مفتوحة المصدر التي تصنعها الصين، خوفا من إمكانية استخدامها لسرقة الملكية الفكرية أو توفير وسيلة للجهات الفاعلة الأجنبية لاستخراج المعلومات الاستخبارية من التقنيات الأمريكية المتقدمة.
→What's next
يعتزم تحالف Open Secure AI Alliance التنسيق مع الحكومات لتعزيز الاستثمارات في البنية التحتية المشتركة المفتوحة للذكاء الاصطناعي. وفي الوقت نفسه، سوف تستمر المجموعة في الضغط على صناع السياسات لمنع التشريعات التي يمكن أن تقيد توافر وتطوير النماذج الحدودية ذات الوزن المفتوح.