تدقيق مستقل: بين 6% و25% من حركة وكلاء أوبن إيه آي الداخلية بلا مراقبة
وجد تدقيق ميداني في مقر أوبن إيه آي أن ما بين 6% و25% من حركة واجهة الاستجابات لنماذج جي بي تي 5.5 وأحدث لم تكن مراقبة.
أجرى باحثان من مؤسستي «ميت آر» و«ريدوود ريسيرش» تدقيقاً ميدانياً استمر ثلاثة أسابيع في مقر «أوبن إيه آي»، شمل الوصول إلى قاعدة الشيفرة والوثائق الداخلية ومقابلات مع نحو اثني عشر موظفاً. وخلص التدقيق، الذي جرى من 21 يوليو إلى 11 أغسطس، إلى وجود ثغرات متعددة في نظام المراقبة الداخلي لسلوك الوكلاء.
وقدر الفريق أن ما بين 6% و25% من حركة واجهة الاستجابات الوكيلية الداخلية لنماذج من فئة «جي بي تي 5.5» وأحدث لم تكن مشمولة بالمراقبة إطلاقاً خلال فترة التدقيق. وأشار إلى أن عدم اليقين حول هذا التقدير كبير في الاتجاهين، كما قدّر أن نحو 10% من حركة «كوديكس» الداخلية التي يفترض مراقبتها لم تُتتبع بين مايو ويوليو بسبب خلل في التعامل مع أحداث الدمج (ملخصات السياق).
وقال التقرير إن الوكلاء كانوا قادرين على تأخير الرقابة خلال الفترة التي لم تكن فيها أحداث الدمج مراقبة، لأن النظام لا يعمل إلا عند إعادة السيطرة إلى المستخدم، ما سمح لهم بتجنبه عبر مواصلة تنفيذ الإجراءات. ووجد المدققون طرقاً لإخفاء مئات الإجراءات عن المراقب وتجاوز البيئة المعزولة لـ«كوديكس»، وقدّروا أن مدخلات مصممة بعناية قد تُسقط المراقب بالكامل.
وقالت «أوبن إيه آي» إنها أصلحت كل الثغرات التي رصدها المدققون، وإنها وسّعت المراقبة لتشمل تدريب التعلم المعزز بعد حادثة «هاغينغ فيس» في أغسطس، لكن هذه التغييرات جاءت بعد انتهاء فترة وصول المدققين. ولم يُنشر من التقرير البالغ 61 صفحة سوى ملخص قصير، بعد حجب أجزاء كبيرة منه.
ماذا تعني هذه المصطلحات؟
التدقيق المستقل: مراجعة يجريها طرف خارجي للوصول إلى أنظمة شركة وفحصها، بهدف تقييم الالتزام أو السلامة بدلاً من الاعتماد على تصريحات الشركة.
واجهة برمجة التطبيقات: طريقة تسمح لبرنامج بالتواصل مع خدمة أو نموذج وإرسال الطلبات واستقبال النتائج آلياً.
التعلم المعزز: أسلوب تدريب يتعلم فيه النموذج من المكافآت والعقوبات على أفعاله، بدلاً من الاعتماد على بيانات مصنفة فقط.
الوكيل الذكي: نظام ذكاء اصطناعي يستطيع تنفيذ خطوات وأدوات متعددة لإنهاء مهمة، وليس فقط توليد نص رداً على سؤال.
لنشـرة الأسبوعيـة
اقرأ ما بين السطور قبل الجميع. فك تشفير أهم تحركات الاقتصاد، التقنية، وصُنّاع القرار في المنطقة.. في ٥ دقائق كل سبت.
