Meta تحذر الآباء حول محادثات أطفالهم

أعلنت Meta يوم الخميس أنها ستُبلغ الآباء الآن إذا ناقش أبناؤهم المراهقون الانتحار أو إيذاء النفس مع روبوت الدردشة Meta AI التابع للشركة. وقالت Meta إنها تعمل أيضًا على إمكانية التواصل مع خدمات الطوارئ إذا أشارت محادثات شخص ما إلى أنه قد يكون معرضًا لخطر وشيك للانتحار.
تأتي هذه التغييرات في وقت تواجه فيه Meta وشركات تقنية أخرى تدقيقًا من الجهات التنظيمية والآباء بشأن كيفية استجابة روبوتات الدردشة المعتمدة على الذكاء الاصطناعي للمستخدمين في الأزمات، خصوصًا المراهقين، وهي مسألة تتعلق بالمسؤولية القانونية أصبحت تؤثر بشكل متزايد على طريقة تصميم شركات الذكاء الاصطناعي لمنتجاتها وتسويقها.
تقول Meta إنها أنشأت نظام ذكاء اصطناعي مخصصًا لتحديد المحادثات التي يشير فيها المراهق بشكل واضح إلى رغبته في إيذاء نفسه.
وكتبت Meta في منشور على مدونتها:
“نحن ندرك مدى القلق الذي قد تسببه هذه التنبيهات للوالدين عند تلقيها. ولهذا السبب، ومع استمرارنا في تحسين قدرتنا على الاكتشاف، ستتم مراجعة جميع المحادثات التي يحددها نظام الذكاء الاصطناعي يدويًا قبل إرسال أي تنبيه. وإذا كانت نية المراهق غير واضحة، فسنتخذ جانب الحذر ونبلغ الوالد. ورغم أن هذا يعني أننا قد نبلغ الآباء أحيانًا عندما لا يكون هناك سبب حقيقي للقلق، فإننا نعتقد أن هذه هي نقطة البداية الصحيحة، وسنواصل المتابعة للتأكد من أننا نتصرف بالطريقة المناسبة.”
أوضحت Meta أن هذه التنبيهات أصبحت متاحة الآن للآباء الذين يستخدمون ميزة Instagram Parental Supervision في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وستصل إلى جميع أنحاء العالم بحلول نهاية العام.
يبني هذا التحديث على التنبيهات التي ترسلها Meta بالفعل إلى الآباء عندما يبحث أبناؤهم المراهقون بشكل متكرر عن مصطلحات مرتبطة بالانتحار أو إيذاء النفس على Instagram. كما يعتمد أيضًا على ميزة تتيح للآباء رؤية الموضوعات التي ناقشها أبناؤهم مع Meta AI خلال الأسبوع الماضي.
كما أعلنت Meta أن إعداد “Limited Content”، الذي يسمح للآباء بوضع أبنائهم المراهقين في تجربة أكثر تقييدًا على Instagram، أصبح ينطبق الآن على Meta AI أيضًا.
وقد تم تدريب Meta AI بالفعل على تجنب المحادثات الجنسية أو الرومانسية أو المناقشات المتعلقة بالكحول مع المراهقين، ويعمل إعداد Limited Content على توسيع هذه الحماية من خلال جعل روبوت الدردشة يرفض مجموعة أكبر من الطلبات.
بالإضافة إلى ذلك، تقول Meta إنها ستتواصل مع خدمات الطوارئ إذا أشارت محادثة شخص ما مع Meta AI، سواء كان المستخدم بالغًا أو مراهقًا، إلى وجود خطر انتحار.
من الجدير بالذكر أن Meta تتخذ بالفعل هذه الخطوة عندما ينشر شخص ما محتوى على Facebook أو Instagram يشير إلى أنه معرض لخطر الانتحار، وبالتالي فإن هذا التحديث يوسع الممارسة نفسها لتشمل المحادثات مع روبوت الدردشة الخاص بها.
الخبر منقول ومترجم من TechCrunch.
المصدر