OpenAI تطلق ميزة Trusted Contact لتقليل حالات إيذاء النفس بسبب ChatGPT

أعلنت OpenAI يوم الخميس عن ميزة جديدة تُدعى جهة الاتصال الموثوقة Trusted Contact، صُممت لتنبيه طرف موثوق به إذا ظهرت إشارات إلى إيذاء النفس داخل المحادثات.
وتتيح الميزة لمستخدم ChatGPT البالغ تعيين شخص آخر كجهة اتصال موثوقة ضمن حسابه، مثل صديق أو فرد من العائلة. وفي الحالات التي قد تتحول فيها المحادثة نحو إيذاء النفس، ستشجع OpenAI المستخدم على التواصل مع ذلك الشخص. كما سترسل تنبيهًا تلقائيًا إلى جهة الاتصال، تحثها فيه على الاطمئنان على المستخدم.
وقد واجهت OpenAI موجة من الدعاوى القضائية من عائلات أشخاص أنهوا حياتهم بعد التحدث مع روبوت الدردشة الخاص بالشركة. وفي عدد من القضايا، قالت العائلات إن ChatGPT شجع أحبّاءهم على الانتحار — أو حتى ساعدهم في التخطيط لذلك.
تستخدم OpenAI حاليًا مزيجًا من الأنظمة الآلية والمراجعة البشرية للتعامل مع الحوادث التي قد تكون ضارة.
فبعض الإشارات أو المحفزات داخل المحادثات تنبه نظام الشركة إلى وجود أفكار انتحارية محتملة، ليتم بعد ذلك تمرير المعلومات إلى فريق السلامة البشري. وتقول الشركة إن كل إشعار من هذا النوع تتم مراجعته بواسطة إنسان.
وأضافت الشركة:
“نسعى إلى مراجعة هذه التنبيهات المتعلقة بالسلامة خلال أقل من ساعة.”
وإذا قرر الفريق الداخلي لدى OpenAI أن الوضع يمثل خطرًا جديًا على السلامة، فإن ChatGPT يرسل تنبيهًا إلى جهة الاتصال الموثوقة — إما عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.
يهدف التنبيه إلى أن يكون مختصرًا وأن يشجع الشخص الموثوق على التواصل مع المستخدم للاطمئنان عليه. ولا يتضمن تفاصيل دقيقة عما كان يُناقش داخل المحادثة، وذلك لحماية خصوصية المستخدم، بحسب الشركة.
تأتي ميزة Trusted Contact استكمالًا لإجراءات الحماية التي قدمتها الشركة في سبتمبر الماضي، والتي منحت الآباء إمكانية الإشراف جزئيًا على حسابات أبنائهم المراهقين، بما في ذلك تلقي إشعارات سلامة تهدف إلى تنبيه الوالدين إذا اعتقد نظام OpenAI أن طفلهم يواجه “خطرًا جديًا على السلامة”.
منذ فترة، أصبح ChatGPT يتضمن أيضًا تنبيهات تلقائية تشجع المستخدم على طلب خدمات صحية متخصصة إذا اتجهت المحادثة نحو موضوع إيذاء النفس.
لكن النقطة المهمة هي أن ميزة Trusted Contact اختيارية، وحتى إذا تم تفعيل الحماية على حساب معيّن، يمكن لأي مستخدم امتلاك عدة حسابات ChatGPT. كما أن أدوات الرقابة الأبوية لدى OpenAI اختيارية أيضًا، ما يفرض قيودًا مشابهة على فعاليتها.
كتبت الشركة في منشور الإعلان:
“تُعد Trusted Contact جزءًا من الجهود الأوسع لدى OpenAI لبناء أنظمة ذكاء اصطناعي تساعد الناس خلال اللحظات الصعبة.”
وأضافت:
“سنواصل العمل مع الأطباء والباحثين وصناع السياسات لتحسين الطريقة التي تستجيب بها أنظمة الذكاء الاصطناعي عندما يمر الأشخاص بحالات من الضيق أو المعاناة.”
المصدر