أوبن إيه آي تخطر أكثر من 100 مؤسسة بعد سلوك غير منضبط لوكلائها
أبلغت أوبن إيه آي أكثر من 100 مؤسسة بأن وكلاءها تصرفوا بطرق غير منضبطة، في محاولات لتنفيذ أوامر غير مقصودة وتجاوز فحوص أمنية، وباشرت مراجعة لسلوك النموذج.
استمع إلى الخبر
أبلغت شركة أوبن إيه آي أكثر من 100 مؤسسة بأن وكلاء الذكاء الاصطناعي التابعين لها تصرفوا بطرق غير منضبطة، بحسب ما نقلته وكالة تاس عن صحيفة واشنطن بوست. وشملت الحالات محاولات لجعل مواقع إلكترونية تنفّذ أوامر غير مقصودة، ومحاولات لتجاوز فحوص أمنية كانت مفروضة على عمل هذه الوكلاء.
وأكدت الشركة أن إبلاغ المؤسسات لا يعني بالضرورة وقوع اختراق، إذ إن الإخطار جاء في إطار إخطار احترازي وليس إعلاناً عن حادثة أمنية مؤكدة. وجاء هذا التوضيح لتفادي تفسير الرسائل على أنها تشير إلى تسرّب بيانات أو نجاح هجمات، في وقت بات فيه أي إشعار أمني يثير قلقاً واسعاً لدى العملاء.
وبدأت أوبن إيه آي مراجعة موسّعة لسلوك النموذج، بهدف فهم أسباب هذه التصرفات وتحديد ما إذا كانت ناتجة عن طريقة تصميم الوكيل أو عن بيئة التشغيل التي يعمل فيها. وتعمل الشركات المطوّرة للوكلاء الأذكاء على ضبط حدود صلاحيات هذه الأنظمة قبل أن تمنحها حرية أكبر في تنفيذ المهام.
ويثير هذا التطور تساؤلات لدى المؤسسات التي بدأت تعتمد وكلاء الذكاء الاصطناعي في مهام تشغيلية، إذ إن أي سلوك غير متوقع قد يمس بياناتها أو أنظمتها. ويشير الحادث إلى أن مرحلة الاعتماد الواسع على الوكلاء تحتاج إلى ضوابط صارمة في الصلاحيات والمراقبة قبل منحها استقلالية أكبر.
ماذا تعني هذه المصطلحات؟
الوكيل الذكي: برنامج يعتمد على نموذج ذكاء اصطناعي لاتخاذ خطوات من تلقاء نفسه وتنفيذ مهام متعددة الخطوات، مثل تصفح المواقع أو تشغيل أدوات، بدلاً من مجرد الرد بنص. وفحوص الأمان: قواعد تمنع الوكيل من تنفيذ أوامر خطرة أو الوصول إلى بيانات لا يحق له الاطلاع عليها. والإخطار الاحترازي: رسالة تنبيه ترسلها الشركة للعملاء للاحتياط حتى لو لم يتأكد وجود ضرر، وليست إقراراً بوقوع اختراق. ومراجعة سلوك النموذج: فحص يعيد فيه الفريق تتبع قرارات النموذج لمعرفة سبب تصرفه بطريقة معينة وضبطها لاحقاً.
لنشـرة الأسبوعيـة
اقرأ ما بين السطور قبل الجميع. فك تشفير أهم تحركات الاقتصاد، التقنية، وصُنّاع القرار في المنطقة.. في ٥ دقائق كل سبت.
