مايكروسوفت تطلق وكلاء «غارديان» لمراقبة وكلاء الذكاء الاصطناعي

أطلقت مايكروسوفت، يوم الاثنين، ميزات أمنية جديدة لحماية الشركات من مخاطر وكلاء الذكاء الاصطناعي، أبرزها وكلاء «غارديان» المخصصون لمراقبة الوكلاء الذين تستخدمهم الشركة.

وتندرج الميزة ضمن منتج «بروجكت بيرسيبشن» الذي أطلقته الشركة في يونيو حزيران الماضي، والذي ضم في البداية ثلاثة أنواع من الوكلاء: فريق أحمر يهاجم، وفريق أزرق يكتشف الثغرات، وفريق أخضر يعالجها، بحسب موقع «تك كرانش».

وأضافت مايكروسوفت إلى «دفندر» ميزة لاكتشاف ما يصل إلى 60 نوعاً من الوكلاء التي يجلبها الموظفون إلى بيئة العمل، بينها Claude Code وCodex وOpenClaw، إلى جانب أدوات تحد من وصول الوكلاء إلى البيانات والأنظمة وتعدل صلاحياتهم بحسب المهمة، وتطلب موافقة بشرية عند اتخاذ قرارات خطرة.

وقالت هاييت غالو، رئيسة أعمال الأمن في مايكروسوفت، إن «النماذج المتقدمة، بغض النظر عن مصدرها، لا يمكن الوثوق بها»، لأنها غير قابلة للتنبؤ، إذ دُرّبت على إنجاز المهام لا على اتباع الأعراف التنظيمية. وكان ساتيا ناديلا، الرئيس التنفيذي للشركة، قد كتب في مدونته أن الشركات لا تستطيع تفويض مسؤولية ما تفعله هذه الأنظمة نيابة عنها، داعياً إلى الفصل بين توريد الذكاء والسلطة على استخدامه.

ماذا تعني هذه المصطلحات؟

الوكيل الذكي: برنامج يعتمد على نموذج ذكاء اصطناعي لتنفيذ مهام متعددة الخطوات نيابة عن المستخدم، وقد يصل إلى بيانات وأدوات حساسة.

التهديد الداخلي: خطر ينشأ من داخل المؤسسة، سواء من موظف أو نظام يملك صلاحيات مشروعة لكنه يتصرف بشكل غير آمن أو ضار.

النموذج الحدودي: أحد أكثر نماذج الذكاء الاصطناعي قدرة في جيله، ويُستخدم عادة في المهام المعقدة.