OpenAI تعلن مسؤوليتها عن اختراق Hugging Face

اعترفت OpenAI يوم الثلاثاء بأن أحد نماذج الذكاء الاصطناعي التابعة لها اخترق أنظمة Hugging Face، منصة استضافة نماذج الذكاء الاصطناعي المستقلة عنها، خلال اختبار داخلي للأمن السيبراني خرج عن السيطرة. وبحسب التقارير، تمكنت النماذج من الهروب من بيئة الاختبار المعزولة والوصول إلى أنظمة Hugging Face. وكانت Hugging Face قد نسبت الاختراق في البداية إلى “وكيل ذكاء اصطناعي خارجي”.
في تدوينة نُشرت بعد ظهر الثلاثاء، أوضحت OpenAI الخطوات التي أدت إلى تمكن النماذج من اختراق الخدمة.
وجاء في التدوينة: “بعد التحقيق، نعلم الآن أن هذه الحادثة تحديدًا كانت نتيجة عمل مجموعة من نماذج OpenAI، بما في ذلك GPT-5.6 Sol ونموذج آخر أكثر تطورًا لم يُطرح بعد، وقد جرى تقليل قيود الرفض المتعلقة بالهجمات السيبرانية فيها لأغراض التقييم، وذلك أثناء اختبارها داخليًا على معيار لقياس القدرات السيبرانية.”
بشكل خاص، يبدو أن الاختراق ركز على ExploitGym، وهو معيار متاح للعامة يقيس قدرة النماذج على تنفيذ هجمات تستند إلى ثغرات معروفة. وتُستخدم معايير مثل ExploitGym بشكل شائع في تدريب النماذج لصقل مهارات محددة، إلا أن هذه تعد أول حادثة معروفة يؤدي فيها هذا النوع من الاختبارات إلى هجوم سيبراني حقيقي.
في هذه الحالة، لم يكن من المفترض أن يمتلك النموذج أي إمكانية للوصول إلى الإنترنت، باستثناء أداة محددة تتيح للنماذج تثبيت حزم البرمجيات التي قد تحتاج إليها لإكمال مهمتها. إلا أن النموذج تمكن من العثور على ثغرة غير معلنة في برنامج تثبيت الحزم، واستغلها للوصول إلى الإنترنت بحرية.
وجاء أيضًا في تدوينة OpenAI: “كانت النماذج شديدة التركيز على إيجاد حل لـ ExploitGym، ووصلت إلى حدود غير متوقعة لتحقيق هدف اختباري ضيق للغاية. وبعد حصولها على إمكانية الوصول إلى الإنترنت، استنتجت النماذج أن Hugging Face قد تستضيف نماذج ومجموعات بيانات وحلولًا خاصة بـ ExploitGym. وبناءً على ذلك، بحث النموذج عن وسائل للوصول إلى معلومات سرية يمكن استخدامها للغش في التقييم، ونجح في ذلك.”
في النهاية، تمكنت النماذج من العثور على ثغرات في البنية التحتية لـ Hugging Face سمحت لها بـ”الحصول مباشرة على حلول الاختبار من قاعدة بيانات الإنتاج الخاصة بـ Hugging Face”، ما وفر لها الإجابات الخاصة بالمعيار.
كانت Hugging Face قد وصفت ما حدث في إفصاحها الأولي بأنه هجوم سيبراني معقد وعدواني، تضمن “آلاف العمليات الفردية عبر عدد كبير من بيئات التشغيل المؤقتة، مع بنية قيادة وتحكم تنتقل ذاتيًا عبر خدمات عامة.”
أوضحت OpenAI أنها حددت الثغرات الموجودة في أداة تثبيت الحزم وأبلغت عنها، كما تعمل مع Hugging Face لمواصلة التحقيق في الحادثة. وأضافت الشركة أنها ستطبق ضوابط جديدة على اختبارات النماذج والبنية التحتية المرتبطة بها، بهدف منع تكرار مثل هذه الحوادث مستقبلًا.
لا يزال من غير الواضح ما إذا كانت OpenAI ستواجه أي تبعات قانونية نتيجة هذا الاختراق، رغم أنه من المرجح أن تكون تصرفات النماذج قد انتهكت قانون الاحتيال وإساءة استخدام الحاسوب في الولايات المتحدة.
مع ذلك، تمثل هذه الحادثة مثالًا واضحًا على القوة والمخاطر التي تنطوي عليها نماذج الذكاء الاصطناعي المتقدمة عند عملها على مدى زمني طويل. وكتب الباحث في OpenAI, Micah Carroll، تعليقًا على الخبر: “إذا لم تقنعك هذه الحادثة بأن مخاطر عدم مواءمة الذكاء الاصطناعي ستكون من أبرز التحديات في المستقبل، فلا أعلم ما الذي يمكن أن يقنعك.”
الخبر منقول ومترجم من TechCrunch.
المصدر