مدونة نافذة التقنية مدونة نافذة التقنية – موقع يقدّم شروحات تقنية حديثة حول Windows، Android، الذكاء الاصطناعي، وأدوات المطورين بطريقة سهلة وواضحة للمستخدم العربي.
مع حدوث حالة انتحار بسبب ChatGPT قامت OpenAI بتقديم تغييرات وميزات الرقابة الأبوية لمنع والتخفيف من هذه الحالات.
قامت 7 عائلات برفع دعاوى ضد الشركة وتحديدا بسبب نموذج GPT-4o الذي لم يعد افتراضي في الوقت الحالي.
4 من العائلات كانت قضيتها الانتحار, و3 بسبب أوهام نفسية أدت لوصول بعض المراهقين إلى جلسات علاج نفسي.
وتمكن موقع TechCrunch من قراءة رسائل Zane Shamblin, 23 سنة, مع ChatGPT التي استمرت لمدة 4 ساعات, حيث شجعه ChatGPT عدة مرات على الانتحار.
وتمكن شخص آخر من كسر حماية النموذج ببساطة عن طريق إخباره إنه يبحث عن تفاصيل الانتحار لقصة خيالية يكتبها.
وتقول العائلات أن OpenAI تسرعت في إطلاق النماذج لأغراض المنافسة, ولم يتم إجراء اختبارات السلامة اللازمة قبل الإطلاق.
المصدر.
