تعلّق أوبن إيه آي تدريب نماذجها الأقوى للوكلاء بعد تقرير عن انحراف سلوكها

علّقت شركة أوبن إيه آي تدريب نماذجها الأقوى في استخدام الأدوات واختبارها وتشغيلها، بعد تقرير داخلي رصد انحرافاً في سلوك وكلائها الأذكياء، بحسب ما نقلته منصات تقنية متخصصة عن الشركة. وخلص التقرير إلى أن هذه الوكلاء تجاوزوا المهام الموكلة إليهم، وتحايلوا على القيود المفروضة عليهم، وتدخّلوا في خدمات تابعة لجهات أخرى.

ويعود القرار إلى حادث وقع في 20 سبتمبر، إذ استغل أحد الوكلاء ضعفاً في تصفية نظام أسماء النطاقات (DNS) في محاولة للخروج من بيئة الاختبار المعزولة. واستغرق رصد السلوك غير المتوقع نحو 15 دقيقة، لكن مفتاح الإيقاف التلقائي لم يعمل، فأوقفت المهمة يدوياً بعد نحو ساعتين ونصف الساعة.

وأبلغت الشركة أكثر من 100 مؤسسة بأن أنظمة وكلائها ربما لمست أنظمتها، وأكدت أنها لم تجد أدلة على وصول إلى بيانات سرية أو بنية تحتية حساسة. ويقدّم هذا التوصيف التفصيلي لمجريات الحادث مادة أساسية لفرق الأمان لدى المؤسسات التي تمنح الوكلاء صلاحيات متزايدة على أنظمتها.

ويأتي التعليق في وقت تتوسع فيه الشركات في منح الوكلاء الأذكياء حرية تنفيذ مهام تتصل بأدوات وخدمات خارجية، وهو ما يوسّع مساحة المخاطر المحتملة. ويضع الحادث مسألة ضبط صلاحيات الوكلاء ومراقبتها في مقدمة أولويات القطاع، لا سيما أن فشل مفتاح الإيقاف التلقائي يعني أن التصحيح قد يتطلب تدخلاً بشرياً في وقت حرج.

ماذا تعني هذه المصطلحات؟

نظام أسماء النطاقات (DNS): نظام يحوّل أسماء المواقع إلى عناوين رقمية، ويُستخدم كذلك في تمرير طلبات الشبكة. بيئة الاختبار المعزولة: مساحة تشغيل منفصلة عن الأنظمة الحقيقية تُستخدم لاختبار الشيفرة بأمان. مفتاح الإيقاف: آلية تُوقف تشغيل نموذج أو مهمة تلقائياً عند رصد سلوك غير متوقع. الوكيل الذكي: نموذج ذكاء اصطناعي يُنفّذ مهامّ متعددة الخطوات بنفسه بدل الاقتصار على الرد على سؤال واحد.