مدونة نافذة التقنية مدونة نافذة التقنية – موقع يقدّم شروحات تقنية حديثة حول Windows، Android، الذكاء الاصطناعي، وأدوات المطورين بطريقة سهلة وواضحة للمستخدم العربي.
نشرت Summer Yue, وهي باحثة أمنية في Meta AI منشور على X انتشر وتم تداوله بكثرة.
أشارت إلى طلبها من وكيل الذكاء الاصطناعي الذي تستخدمه عبر OpenClaw أن يراجع رسائل بريدها الإلكتروني ويحدد لها قائمة بما يجب أرشفته وما يجب حذفه.
لكن ما حدث هو خروج OpenClaw عن السيطرة, وبدء حذف الرسائل بسرعة وكأنه في سباق سرعة.
وتجاهل الأوامر التي أرسلتها له من هاتفها للتوقف.
أشارت إلى اضطرارها للركض نحو جهاز Mac mini كأنها تفكك قنبلة, كما نشرت صور لرسائل طلب التوقف التي تجاهلها الوكيل.
وتزداد الطلبات بشكل جنوني على أجهزة Mac Mini من Apple التي تعد خيار مناسب لتشغيل وكلاء OpenClaw بشكل محلي.
وبدأ OpenClaw الذي تغير اسمه عدة مرات كوكيل شخصي يمكنه استخدام أجهزتك أو حساباتك وتنفيذ المهام والرد على الرسائل والقيام بالكثير.
قبل أن يتطور الأمر إلى شبكة اجتماعية باسم Moltbook تتيح لوكلاء OpenClaw المناقشة والتفاعل, لتصبح شبكة اجتماعية مخصصة لبوتات الذكاء الاصطناعي.
بعض الاقتراحات التي وجهت للباحثة كانت اقتراحات من نوعية استخدام كلمات محددة بدل كلمات أخرى لطلب التوقف.
لكن أحد مطوري البرمجيات سألها عما إذا كانت تختبر ما حدث بشكل متعمد أو إنه خطأ.
فردت بأنه خطأ, وأشارت إلى اختبار الوكيل مع بريد تجريبي يحتوي على كمية صغيرة من البيانات, قبل أن تمنح البوت ثقتها وتشغله على بريدها الذي يحتوي على كمية كبيرة من البيانات.
وأشارت إلى تراكم نافذة سياق المحادثة context window التي جعلت الوكيل يحاول ضغط نصوص الرسائل السابقة واستخراج البيانات منها, وهو أمر جعله يركز على أوامر الحذف التي تمت مع البريد التجريبي, ويتجاهل أحدث الطلبات.
تم اقتراح طرق بديلة لتمرير الطلبات والتعليمات, لكن النتيجة تبقى واحدة.
قد يكون من الرائع أن تمتلك وكيل ذكاء اصطناعي موثوق, يمكنه الرد على رسائلك, تنفيذ المهام المكررة والمملة, القيام بإجراءات قد لا تفضل القيام بها, لكن وجود كل ذلك مع الأمان المطلوب غير متاح حتى الآن.
المصدر
حادثة حذف بيانات مع OpenClaw
2 دقائق للقراءة
