دعوة إيلون ماسك ضد OpenAI تلقي الضوء على اهتمام الشركة بالسلامة

قد تعتمد محاولة Elon Musk القانونية لتفكيك OpenAI على ما إذا كانت الشركة الربحية التابعة لها تعزز أو تضر بالمهمة الأصلية للمختبر الرائد، والمتمثلة في ضمان استفادة البشرية من الذكاء الاصطناعي العام AGI.
يوم الخميس، استمعت محكمة فيدرالية في أوكلاند بولاية كاليفورنيا إلى شهادة موظفة سابقة وعضوة مجلس إدارة قالت إن جهود الشركة لدفع منتجات الذكاء الاصطناعي إلى السوق جاءت على حساب التزامها بسلامة الذكاء الاصطناعي.
انضمت Rosie Campbell إلى فريق جاهزية AGI في الشركة عام 2021، وغادرت OpenAI عام 2024 بعد حل فريقها. كما تم إغلاق فريق آخر يركز على السلامة يُعرف باسم Super Alignment خلال الفترة نفسها.
وقالت في شهادتها:
“عندما انضممت، كانت الشركة تركّز كثيرًا على الأبحاث، وكان من المعتاد أن يتحدث الناس عن AGI وقضايا السلامة. ومع مرور الوقت أصبحت المنظمة أكثر تركيزًا على المنتجات.”
خلال الاستجواب المضاد، أقرت Campbell بأن المختبر كان على الأرجح بحاجة إلى تمويل ضخم لتحقيق هدف بناء AGI، لكنها قالت إن إنشاء نموذج حاسوبي فائق الذكاء دون وجود إجراءات سلامة مناسبة لا يتوافق مع مهمة المنظمة التي انضمت إليها في الأصل.
أشارت Campbell إلى حادثة قامت فيها Microsoft بنشر نسخة من نموذج GPT-4 الخاص بالشركة في الهند عبر محرك البحث Bing قبل أن يتم تقييم النموذج من قبل مجلس سلامة النشر Deployment Safety Board أو DSB.
وقالت إن النموذج نفسه لم يكن يشكل خطرًا كبيرًا، لكن الشركة كانت بحاجة إلى:
“وضع سوابق قوية بينما تصبح التكنولوجيا أكثر قوة. نريد أن تكون لدينا عمليات سلامة جيدة نعرف أنها تُتبع بشكل موثوق.”
كما جعل محامو OpenAI Campbell تقرّ بأن “رأيها التخميني” يرى أن نهج OpenAI في السلامة أفضل من نهج xAI، شركة الذكاء الاصطناعي التي أسسها Musk والتي استحوذت عليها SpaceX في وقت سابق من هذا العام.
تنشر OpenAI تقييمات لنماذجها وتشارك إطار السلامة الخاص بها علنًا، لكنها رفضت التعليق على نهجها الحالي في مواءمة AGI. وقد تم تعيين Dylan Scandinaro، الرئيس الحالي لقسم الجاهزية، قادمًا من Anthropic في فبراير. وقال Altman إن هذا التعيين سيجعله:
“ينام بشكل أفضل الليلة.”
لكن نشر GPT-4 في الهند كان أحد المؤشرات التحذيرية التي دفعت مجلس إدارة OpenAI غير الربحي إلى إقالة المدير التنفيذي Sam Altman لفترة وجيزة عام 2023.
وجاءت تلك الحادثة بعد أن اشتكى موظفون، من بينهم كبير العلماء حينها Ilya Sutskever والمديرة التقنية السابقة Mira Murati، من أسلوب إدارة Altman الذي يتجنب المواجهات.
كما أدلت Tasha McCauley، التي كانت عضوًا في مجلس الإدارة آنذاك، بشهادة حول المخاوف من أن Altman لم يكن صريحًا بما يكفي مع المجلس لكي يتمكن الهيكل غير المعتاد للشركة من العمل بشكل صحيح.
وتحدثت McCauley أيضًا عن نمط واسع الانتشار من قيام Altman بتضليل المجلس.
ومن أبرز الأمثلة، أن Altman كذب على عضو آخر في المجلس بشأن نية McCauley إقصاء Helen Toner، وهي عضوة ثالثة في المجلس نشرت ورقة بحثية تضمنت انتقادات ضمنية لسياسة السلامة لدى OpenAI.
كما فشل Altman في إبلاغ المجلس بقرار إطلاق ChatGPT للعامة، وكان أعضاء المجلس قلقين أيضًا من عدم إفصاحه عن تضارب مصالح محتمل.
وقالت McCauley للمحكمة:
“نحن مجلس إدارة غير ربحي، وكانت مهمتنا أن نتمكن من الإشراف على الكيان الربحي الموجود تحتنا. والطريقة الأساسية التي كنا نعتمد عليها للقيام بذلك أصبحت موضع شك. لم يكن لدينا أي مستوى عالٍ من الثقة يسمح لنا بالاعتماد على المعلومات التي كانت تُنقل إلينا لاتخاذ قرارات مستنيرة.”
مع ذلك، جاء قرار إقالة Altman في الوقت نفسه الذي كانت الشركة تقدم فيه عرض شراء أسهم لموظفيها.
وقالت McCauley إنه عندما بدأ موظفو OpenAI بالاصطفاف إلى جانب Altman، وعملت Microsoft على إعادة الوضع كما كان، تراجع المجلس في النهاية عن قراره، بينما استقال الأعضاء المعارضون لـ Altman.
يذهب الفشل الظاهر لمجلس الإدارة غير الربحي في التأثير على المنظمة الربحية مباشرة إلى صلب دعوى Musk، التي تقول إن تحول OpenAI من منظمة بحثية إلى واحدة من أكبر الشركات الخاصة في العالم انتهك الاتفاق الضمني بين مؤسسي المنظمة.
ردد David Schizer، العميد السابق لكلية الحقوق في جامعة Columbia والذي يتقاضى أجرًا من فريق Musk للعمل كشاهد خبير، مخاوف McCauley نفسها.
وقال:
“أكدت OpenAI أن جزءًا أساسيًا من مهمتها هو السلامة، وأنها ستعطي الأولوية للسلامة على الأرباح. وجزء من ذلك هو التعامل بجدية مع قواعد السلامة. فإذا كان هناك شيء يحتاج إلى مراجعة سلامة، فيجب أن يحدث ذلك. ما يهم هنا هو قضية الإجراءات.”
مع اندماج الذكاء الاصطناعي بالفعل بعمق داخل الشركات الربحية، فإن القضية تتجاوز مختبرًا واحدًا بكثير.
قالت McCauley إن فشل الحوكمة الداخلية في OpenAI يجب أن يكون سببًا لتبني تنظيم حكومي أقوى للذكاء الاصطناعي المتقدم:
“إذا كان كل شيء في النهاية يعتمد على مدير تنفيذي واحد لاتخاذ هذه القرارات، بينما تكون المصلحة العامة على المحك، فهذا وضع غير مثالي إطلاقًا.”.
المصدر