Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

تسلط دراسة حديثة أجرتها CDW والتي شملت 951 من صناع القرار في مجال تكنولوجيا المعلومات الضوء على التحول نحو التهديدات السيبرانية التي يحركها الذكاء الاصطناعي والتي تعتبر العديد من المؤسسات غير مجهزة حاليًا لإدارتها. ووفقا للتقرير، فإن 43% من الشركات تعاملت بالفعل مع مخططات التصيد المعززة بالذكاء الاصطناعي، في حين واجهت 37% منها برامج ضارة معززة بالذكاء الاصطناعي. وكما يلاحظ خبراء الأمن في كثير من الأحيان، يُنظر إلى الاختراق بشكل متزايد على أنه أمر حتمي وليس مجرد احتمال. إن طبيعة هذه التهديدات تتغير بسرعة؛ فبدلاً من محاولات التزييف العميق المعزولة، والتي ذكرها 8% فقط من المشاركين على أنها تمثل خطرًا كبيرًا، تنشر الجهات الخبيثة أنظمة وكيلة مستقلة يمكنها اكتشاف نقاط الضعف واستغلالها على نطاق واسع. واستجابة لذلك، تتطلع ما يقرب من 41% من الشركات إلى تنفيذ أنظمة الكشف عن التهديدات القائمة على الذكاء الاصطناعي لمواجهة هذه الموجة الجديدة من الاستغلال الآلي عالي السرعة.

تم التأكيد مؤخرًا على ضعف الاستراتيجيات الدفاعية الحالية عندما تعرضت شركة Hugging Face الناشئة للذكاء الاصطناعي لهجوم من قبل نماذج عميلة. أثناء الحادث، اكتشفت الشركة أن نماذج الذكاء الاصطناعي الحدودية القياسية للولايات المتحدة كانت غير فعالة لأن حواجز السلامة الخاصة بها منعتها من تحديد هوية المعتدي وحظره. وبالتالي، كان على Hugging Face الاعتماد على نموذج صيني مفتوح الوزن ومستضاف ذاتيًا لإجراء تحليل الطب الشرعي. كان هذا الحدث بمثابة حافز لتشكيل تحالف Open Secure AI Alliance، بقيادة شركة Nvidia. ويرى التحالف أنه لكي يتصرف المدافعون عن الأمن السيبراني بالسرعة اللازمة، يجب أن تكون لديهم القدرة على فحص وتكييف وتشغيل أنظمة الذكاء الاصطناعي المتقدمة على البنية التحتية الخاصة بهم، بدلاً من أن يكونوا مدينين لمنصات مغلقة ومملوكة.

يتزامن إنشاء التحالف المفتوح الآمن للذكاء الاصطناعي مع تزايد الجدل الجيوسياسي بشأن نماذج الذكاء الاصطناعي الصينية. وبينما يدافع عمالقة التكنولوجيا مثل ميكروسوفت، وميتا، ونفيديا عن النظام البيئي مفتوح المصدر، فإن بعض صناع السياسات والمنظمين يشعرون بالقلق إزاء "التقطير"، وهي العملية التي تستخرج فيها النماذج الصينية معرفة الملكية من الأنظمة الحدودية الأمريكية المتفوقة. وقد ألمح وزير الخزانة الأمريكي سكوت بيسينت بالفعل إلى فرض عقوبات محتملة على الشركات المتورطة في مثل هذه الأنشطة. ويسير قادة الصناعة الآن على حبل مشدود، ويحثون واشنطن على تجنب القيود المبكرة التي يمكن أن تعيق الابتكار. وهم يزعمون أن مجتمع المصادر المفتوحة يوفر الشفافية اللازمة للأمن، في حين أن الإغلاق الصارم لهذه النماذج من شأنه أن يجبر الشركات على الاعتماد على البنية التحتية التي لا تستطيع السيطرة عليها بشكل كامل أو تدقيقها أثناء الأزمات الأمنية المباشرة.

وفي تطور موازٍ، قدمت مايكروسوفت نموذجًا جديدًا للذكاء الاصطناعي، MAI-Cyber-1-Flash، المصمم خصيصًا لاكتشاف نقاط الضعف في الأمن السيبراني. يمثل هذا النموذج جهدًا استراتيجيًا لتنشيط أعمال الأمان في Microsoft تحت إشراف المدير التنفيذي Hayete Gallot. وفقًا لمايكروسوفت، عند إقرانه مع OpenAI's GPT-5.4، يتفوق النموذج على الحلول المنافسة من Anthropic وGoogle في معيار CyberGym. وبعيدًا عن النموذج نفسه، تطرح مايكروسوفت "Project Perception"، وهي مجموعة من وكلاء الذكاء الاصطناعي المصممين لاكتشاف نقاط الضعف في النظام وإصلاحها، مع معاينة عامة مقررة في 3 أغسطس. وأكد الرئيس التنفيذي مصطفى سليمان على فعالية الأداة من حيث التكلفة، مشيرًا إلى أنها توفر أداءً عاليًا بنصف تكلفة الخيارات الحالية، مما يسمح للشركات بتوظيف مراكز التشغيل الأمنية (SOCs) بشكل أفضل عن طريق خفض الحاجز الفني أمام الدخول.