قد يكون اختراق Hugging Face بسبب خطأ بشري

كشفت OpenAI يوم الثلاثاء أن أحد نماذجها خرج عن السيطرة أثناء أحد الاختبارات واخترق أنظمة منصة Hugging Face الخاصة بمجموعات بيانات الذكاء الاصطناعي في هجوم نُفذ بالكامل باستخدام الذكاء الاصطناعي، في مثال لافت على المخاطر التي قد تشكلها نماذج الذكاء الاصطناعي المتقدمة.
لكن، وفقًا لبعض خبراء الأمن السيبراني، فإن جوهر هذا الاختراق غير المسبوق الذي نُفذ بواسطة الذكاء الاصطناعي يعود إلى خطأ بشري بسيط للغاية، إذ فشلت OpenAI في إعداد ما وصفته بـ”بيئة شديدة العزل” بالشكل الصحيح، مما سمح لبيئة اختبار معزولة كان ينبغي أن تكون منفصلة تمامًا عن الإنترنت بالاتصال بالإنترنت فعليًا.
ووصف Dan Guido، مؤسس شركة Trail of Bits المتخصصة في أبحاث الأمن السيبراني، هذا الخطأ بأنه “فشل في الاحتواء مع تعطيل وسائل الحماية.”
في تدوينتها التي شرحت فيها تفاصيل الحادثة، قالت OpenAI إن الاختبار الذي أدى إلى اختراق Hugging Face أُجري داخل “بيئة شديدة العزل، مع تقييد الوصول إلى الشبكة بحيث يقتصر على القدرة على تثبيت الحزم عبر برنامج تابع لجهة خارجية مستضاف داخليًا يعمل كوكيل وذاكرة تخزين مؤقتة لمستودعات الحزم.”
تمكن النموذج من الهروب من بيئة الاختبار المعزولة بفضل ثغرة أمنية لم يُكشف عنها سابقًا في نظام تثبيت الحزم، وهي الخطوة الحاسمة الأولى التي مهدت للاختراق اللاحق لـ Hugging Face، بحسب OpenAI.
أضافت الشركة أنها “أبلغت بصورة مسؤولة عن ثغرة zero-day التي تم اكتشافها في البرنامج المستضاف داخليًا التابع لجهة خارجية، وتعمل مع الجهة المطورة لإصدار إصلاح لها.”
لكن بالنسبة لمعظم المتخصصين في الأمن السيبراني، فإن وجود ثغرات برمجية أمر متوقع، بينما تكمن المشكلة الحقيقية في قرار الإبقاء على هذا البرنامج التابع لجهة خارجية داخل بيئة الاختبار من الأساس. ففي النهاية، تكمن قيمة نظام “الصندوق الرملي sandbox” في عزله الكامل والتام، وإضافة نظام لتثبيت الحزم داخله يعد وصفة لحدوث المشكلات.
قال Martin Boone، الباحث في الأمن السيبراني، لموقع TechCrunch إن “هذا يبدو وكأنه فشل بشري.”
وأضاف: “ما كان ينبغي لهذا أن يحدث أبدًا. فإذا كان الصندوق الرملي يعني فعلًا صندوقًا رمليًا، فمن المتوقع ألا تكون له أي صلة فعلية بالإنترنت على الإطلاق. ويبدو أن ما حدث هو أنهم اعتمدوا على جدار حماية أو شيء مشابه، بينما يعد تأمين جدران الحماية أمرًا صعبًا عند حماية الأنظمة من الخارج إلى الداخل، فكيف إذا كان الهدف هو تقييد الوصول من الداخل إلى الإنترنت.”
اتفق Jake Williams، وهو خبير مخضرم في الأمن السيبراني، مع هذا الرأي. وقال: “أي نموذج تمكن من تنفيذ الأنشطة التي وثقتها Hugging Face لم يكن معزولًا بالكامل داخل صندوق رملي.” ووصف ذلك بأنه “فشل كبير في الضوابط الأمنية” من جانب OpenAI.
أضاف: “ما يصفه أحدهم بأنه (النموذج هرب من الصندوق الرملي)، يصفه آخر بأنه (أنتم فشلتم في بناء الصندوق الرملي بالشكل الصحيح، ولذلك كان من الطبيعي أن يهرب).”
كما وافق Daniel Card، مستشار الأمن السيبراني، على أن OpenAI “لم تبذل جهدًا كافيًا في تصميم الصندوق الرملي أو الضوابط الأمنية الخاصة به”، وذلك من خلال منح الصندوق الرملي أو أحد مكوناته “مسارًا غير مفلتر للوصول إلى الإنترنت”. وأضاف أن إعداد الصندوق الرملي بهذه الطريقة، حتى مع وجود وصول محدود إلى الشبكة كما وصفته OpenAI، لم يكن قرارًا “معقولًا”.
وبطبيعة الحال، تستفيد هذه الانتقادات من معرفة ما حدث بعد وقوعه، لكنها تثير تساؤلات حقيقية حول ممارسات الأمن داخل مختبرات الذكاء الاصطناعي، وخاصة فيما يتعلق بالحفاظ على بيئات معزولة لاختبار النماذج. ولم يرد متحدثو OpenAI على أسئلة TechCrunch، التي تضمنت الاستفسار عما إذا كان إعداد بيئة الاختبار قد تم بواسطة نظام ذكاء اصطناعي أم بواسطة أحد الموظفين.
لكن هذه الأسئلة لا تقتصر على OpenAI وحدها.
ففي الوثيقة التي قدمت فيها Anthropic نموذجها الأمني السيبراني Mythos، أوضحت الشركة أنه خلال أحد الاختبارات، زُود النموذج بحاسوب “صندوق رملي” آمن للتفاعل معه، وطُلب منه محاولة الهروب من تلك “الحاوية الآمنة”. وتمكن Mythos من النجاح والحصول على وصول أوسع إلى الإنترنت “انطلاقًا من نظام كان من المفترض أن يتمكن من الوصول إلى عدد محدود فقط من الخدمات المحددة مسبقًا”. ومع ذلك، أشارت Anthropic إلى أن النموذج لم يتمكن من الهروب “بشكل كامل” من نظام الاحتواء المصمم له.
الخبر منقول ومترجم من TechCrunch.
المصدر