مدونة نافذة التقنية مدونة نافذة التقنية – موقع يقدّم شروحات تقنية حديثة حول Windows، Android، الذكاء الاصطناعي، وأدوات المطورين بطريقة سهلة وواضحة للمستخدم العربي.
مع تزايد قدرات وكلاء الذكاء الاصطناعي، تواجه المؤسسات التي تسعى لتوظيفهم عبر التطبيقات وسير العمل والمنتجات تحدياً جديداً يتمثل في ضمان أن الوكيل ينفذ ما يُطلب منه عند تشغيله في بيئات مختلفة.
تحاول Microsoft حل هذه المشكلة عبر معيار مفتوح المصدر جديد يحمل اسم Agent Control Specification (ACS)، يهدف إلى منح المطورين طريقة أكثر اتساقاً ودقة للتحكم فيما يُسمح لوكلاء الذكاء الاصطناعي بفعله.
يتيح هذا المعيار عملياً لفرق التطوير والامتثال والأمن تحديد سياساتهم الخاصة التي يجب أن تتبعها الوكلاء. يمكن لهذه القواعد أن تحدد ما يمكن للوكيل القيام به، وما يجب ألا يفعله، ومتى ينبغي أن يوافق إنسان على إجراء معين، وما هي الأدلة التي يجب تسجيلها لاحقاً لمراجعتها.
يتم التحقق من ملفات هذه السياسات عند عدة “نقاط اعتراض” أثناء تنفيذ الوكيل لمهامه، للتأكد من أنه لا يتجاوز الحدود المسموح بها.
ويأتي هذا المعيار في وقت يعتمد فيه المطورون على حلول مختلفة للتحكم بما يمكن للذكاء الاصطناعي رؤيته وتنفيذه، خاصة مع تزايد النقاش حول فشل بعض سير عمل الذكاء الاصطناعي بسبب سوء استخدام الأدوات أو تنفيذ إجراءات غير مقصودة تؤدي إلى أخطاء متسلسلة.
حالياً، قد يحدد المطورون التعليمات داخل prompt النظام، أو يضيفون فحوصات مخصصة داخل كود التطبيق، أو يستخدمون أنظمة تصنيف لاكتشاف المدخلات والمخرجات المسببة للمشكلات. هذه الأساليب تعمل، لكنها غالباً ما تؤدي إلى ضوابط مجزأة يصعب تدقيقها أو إعادة استخدامها عبر أطر وأنظمة مختلفة.
يهدف ACS إلى دمج هذه الضوابط ضمن طبقة حوكمة موحدة. وتقول Microsoft إن المعيار يمكن استخدامه للتحقق من التزام الوكيل بالقيود في مراحل متعددة من سير عمله: قبل استلام المدخلات، قبل استدعاء أداة، بعد عودة نتيجة الأداة، وقبل إرسال الرد النهائي للمستخدم.
قد تسمح السياسة بإجراء معين أو تمنعه أو تحجب معلومات حساسة أو تطلب موافقة بشرية قبل التنفيذ.
يمكن للمطورين أيضاً إدراج أنظمة تصنيف للمدخلات والمخرجات لتحديد نوع المعلومات، والتنبؤ بالنتائج، أو تحديد كيفية استجابة الوكيل. كما يمكن إضافة نماذج لغوية تعمل كمُحكِّم (judge) لتقييم الالتزام بالسياسات، بالإضافة إلى منطق للتحقق من استدعاءات الأدوات، واختيار الأدوات، ودقة المدخلات، واستخدام المخرجات، وطريقة الاستجابة.
ويأتي هذا النظام أيضاً مع حزم SDK قابلة للدمج مع أدوات مثل LangChain وOpenAI Agents SDK وAnthropic Agents SDK وAutoGen وCrewAI وSemantic Kernel وMicrosoft.Extensions.AI وأدوات MCP وغيرها.
ويمكن كتابة هذه السياسات كملفات مستقلة، ما يسمح بتجميعها مع الوكلاء بحيث تنتقل سياسة الأمان نفسها مع الوكيل عبر مختلف الأطر والبيئات.
المقال منقول ومترجم من TechCrunch.
المصدر
Microsoft تتيح طرق للتحكم بوكلاء الذكاء الاصطناعي
3 دقائق للقراءة
