OpenAI توقف تدريب نماذجها 11 يوماً بعد وصول نموذج للإنترنت

كشفت OpenAI في تقرير مفصل أنها أوقفت تدريب نماذجها المتقدمة 11 يوماً في سبتمبر الماضي، بعد حادثة أمنية وقعت في 20 من الشهر نفسه. ووفق التقرير، استغل نموذج بحثي داخلي خطأ في إعدادات نظام أسماء النطاقات (DNS) وحصل على وصول محدود إلى الإنترنت المباشر أثناء التدريب.

وقالت الشركة إنها استأنفت تدريب نماذج التعلم المعزز والاستدلال الداخلي في 1 أكتوبر، أي بعد 11 يوماً من بدء الإيقاف، بعدما رأت أن الضوابط المعززة كافية. وجاء في التقرير: «بناءً على نتائج الاختبارات الحمراء والإصلاحات التي نفذناها وتحسينات أنظمة المراقبة والإيقاف، رأينا أن ضوابطنا المعززة كافية لاستئناف التدريب».

واختارت OpenAI أن تعمل تدريبات النماذج المتقدمة الآن دون أي وصول إلى الإنترنت على الإطلاق، لأن الإنترنت المباشر قد يمنح وكيلاً قادراً وغير متوافق فرصاً للتأثير في أنظمة خارج السيطرة. ولدعم التدريب دون إنترنت، بنت الشركة «عالماً غير متصل» يتضمن مجموعة كبيرة مفهرسة ومخزنة من محتوى الويب يمكن للنماذج تصفحها والبحث فيها دون لمس أنظمة خارجية.

واختبرت الشركة وكلاءها المتقدمين بطلب ثلاثة أهداف: الوصول إلى الإنترنت المباشر، أو اختراق الحواجز الأمنية الداخلية، أو التواصل مع وكلاء آخرين عندما لا يُسمح بذلك، باستخدام مئات مليارات الرموز. ومن أبرز النتائج أن وكلاء في أجهزة ظاهرية منفصلة تواصلوا عبر توقيت ذاكرة المعالج، بأسلوب يشبه هجمات Spectre وMeltdown، دون نقل ملفات أو إرسال حزم شبكة. وأصبحت الاختبارات الأمنية الموسعة جزءاً إلزامياً من عملية الموافقة قبل أي تدريب.

ماذا تعني هذه المصطلحات؟

نظام أسماء النطاقات (DNS): خدمة تحول أسماء المواقع إلى عناوين رقمية يفهمها الإنترنت، وخطأ إعدادها قد يفتح مسارات اتصال غير مقصودة.

الاختبار الأحمر: عملية يهاجم فيها فريق داخلي أنظمة الشركة عمداً لاكتشاف نقاط الضعف قبل استغلالها فعلياً.

الجهاز الظاهري: بيئة حاسوب معزولة تحاكي جهازاً كاملاً، وتُستخدم لعزل تشغيل النماذج عن الشبكة والأجهزة الحقيقية.