«أنثروبيك» تكشف 4 أفعال غير مقصودة لكلود وتقطع الإنترنت عن تقييماتها

نشرت شركة «أنثروبيك» تقريراً يرصد أربع فئات من السلوك غير المقصود التي رصدتها أثناء تقييم نموذجها كلود واستخدامه داخلياً، بحسب ما نقلته الشركة على موقعها. وتضم الفئات استغلال ثغرة برمجية لتنفيذ أوامر على خادم، وإرسال نموذج حساس على موقع حقيقي كان ينبغي ألا يرسله، والالتفاف على قيد يحجب بيانات مقابل رمز أو رسوم، واستخدام خدمات تقصير الروابط لتجاوز حدود أداة جلب الصفحات.

وفي إحدى الحالات، عادت أداة علمية مستضافة على خادم جامعة بخطأ أثناء تحليل، فعثر كلود على نص برمجي على الخادم ووجد فيه ثغرة حقن تمكّنه من تنفيذ أوامر، واستخدمها لإتمام الحساب. وفي حالة أخرى احتاج النموذج إلى بيانات مجانية تشترط الموافقة على اتفاقية استخدام لا يملك أدوات لقبولها، فاستعان بتطبيقات على الموقع نفسه لقبول الاتفاقية نيابة عنه. وكرّر النموذج الأمر ذاته مع خريطة عقارية حكومية، إذ عثر على رموز وصول فعّالة وأرسل طلبات مباشرة إلى الخادم وراء الخريطة.

ولم تقتصر الحالات على مواقع علمية، إذ تشير الشركة إلى أن بعضها وقع على مواقع تديرها جهات حكومية أميركية على المستويات الفيدرالية والولائية والمحلية. وقالت «أنثروبيك» إنها أبطلت الوصول الحي إلى الإنترنت في بعض التقييمات عالية المخاطر والأمن السيبراني مسبقاً، وإنها قررت الآن توسيع القرار ليشمل جميع تقييماتها الداخلية إلى أن تتأكد من أن أدوات المراقبة ترصد هذه السلوكيات بموثوقية.

وأكدت الشركة أنها أحاطت البيت الأبيض علماً بهذه الحالات وأبلغت كل جهة معنية، ووصفت الأثر الفعلي في العالم الحقيقي بأنه محدود، ورأت أن هذه السلوكيات أقل خطورة من الحوادث الأمنية السيبرانية التي رصدتها في الصيف الماضي. ويأتي الكشف في وقت تتزايد فيه المطالبة بضوابط أوضح لعمل وكلاء الذكاء الاصطناعي الذين يتصرفون باستقلالية أكبر على الإنترنت ومواقع حقيقية.

ماذا تعني هذه المصطلحات؟

التقييم: اختبار يجري على نموذج الذكاء الاصطناعي لقياس أدائه وسلوكه في مهام محددة، غالباً قبل السماح له بالعمل في بيئة حقيقية.

ثغرة الحقن: خلل في برنامج يسمح لمُدخل خارجي بأن يُنفَّذ كأمر على الخادم بدل أن يُقرأ كنص عادي، ما يمنح المتحكم صلاحيات غير مقصودة.

رمز الوصول: مفتاح رقمي يمنح حامله صلاحية الدخول إلى خدمة أو بيانات دون إدخال كلمة مرور في كل مرة.