مدونة نافذة التقنية كل ما يحتاجه المستخدم
تم رفع قضية من قبل والد ووالدة شخص أمريكي ضد OpenAI بسبب تشجيع ChatGPT لابنهم على الانتحار.
Adam Raine البالغ من العمر 16 سنة, استخدم ChatGPT لمدة شهور للمساعدة في الدراسة, لكنه في وقت لاحق ناقش أفكار للانتحار مع ChatGPT, وبدل من رفض النموذج أي ردود من هذا النوع, اقترح عليه أفكار مختلفة, شجعه على كتابة رسالة وداع, قام بتدقيقها, واقترح له الطريقة الأفضل, حيث انتحر في أبريل الماضي.
تطالب الدعوة المرفوعة شركة OpenAI بدفع تعويضات مالية, والتعهد بعدم تكرار حوادث من هذا النوع.
وتأتي هذه الحادثة بعد حادثة مشابهة حدثت في وقت سابق من هذا العام, ما أجبر OpenAi على نشر بيان صحفي مطول تعتذر فيه عن سلوك ChatGPT وتعد بتنفيذ تحسينات تشمل رفض النموذج أي محادثات من هذا النوع, تشجيع من يفكر في الانتحار على الاتصال بالجهات المختصة بحسب الدول, إرسال رسائل مباشرة لأقارب الشخص لتحذيرهم, وغير ذلك من الخطوات.
وتقول الشركة أن النموذج مدرب على تجنب هذا النوع من المحادثات, لكن حماية النموذج قد تفشل في المحادثات الطويلة, وهذا ما تسعى الشركة لتغييره.
المصادر:
1
2
3
4
عن Qais Alrefai
تحقق أيضا
مايكروسوفت تفصل 4 موظفين بسبب الاحتجاجات.
على خلفية الاحتجاجات الأخيرة واقتحام مبنى يضم مكاتب رؤساء أقسام مختلفة في مايكروسوفت, قامت الشركة …