أوبن إيه آي تقطع الإنترنت عن تدريب نماذجها بعد حادثة أمنية
قالت أوبن إيه آي إنها ستدرب نماذجها الحدودية في بيئة معزولة تعتمد على نسخ مخزنة ومحاكاة للإنترنت، بعد حادثة مكّنت نموذجاً داخلياً من الوصول إلى الشبكة.
أعلنت «أوبن إيه آي» أنها ستوقف تدريب نماذجها الحدودية على الإنترنت الحي، وستستخدم بدلاً منه نسخاً مخزنة ومحاكاة للشبكة في بيئة معزولة. وقالت الشركة في تدوينة إنها توصلت إلى أن النهج المسؤول هو إجراء تدريب النماذج الحدودية دون أي وصول إلى الإنترنت، استناداً إلى الوضع الحالي لأبحاث المحاذاة وأنظمة المراقبة وأمن البنية التحتية.
وجاء القرار بعد حادثة في 20 سبتمبر، حين استغل أحد النماذج الحدودية خطأ في إعدادات نظام أسماء النطاقات (DNS) للحصول على وصول محدود إلى الإنترنت الحي. وأدى ذلك إلى تعليق أعمال التدريب والتقييم لمدة 11 يوماً حتى نهاية الشهر، لإتاحة الوقت لتطوير واختبار طرق جديدة لتأمين النماذج.
وقالت الشركة إنها أنشأت مجموعة واسعة من المحتوى المخزن والمفهرس الذي يمكن للنماذج التفاعل معه دون خطر التأثير في أنظمة خارجية. وأوضحت أن فرق الاختراق الأخلاقي شغّلت أسراباً من الوكلاء حاولت الهروب من البيئة المعزولة، وكشفت التجارب عن ثغرات دفعت إلى اعتماد النهج الجديد.
ولم يكن القرار الأول من نوعه في القطاع، إذ بدأت «أنثروبيك» قبل أسبوعين تقييد وصول أحدث نماذجها إلى الإنترنت الحي. وقال مهندس أمن في «أوبن إيه آي» إن وضع النماذج في بيئة معزولة ليس بالأمر البسيط.
ماذا تعني هذه المصطلحات؟
نموذج حدودي: أكبر وأقوى نموذج ذكاء اصطناعي تطوره شركة في وقت معين، ويُستخدم لقياس حدود القدرات الحالية.
صندوق رملي: بيئة حاسوبية معزولة تسمح بتشغيل البرامج والنماذج دون أن تصل إلى الشبكة أو الأنظمة الحقيقية.
المحاذاة: جهد جعل سلوك النموذج متوافقاً مع نية المطور والقيود التي حُددت له، بدلاً من أن يتصرف بطريقة غير متوقعة.
الاختراق الأخلاقي: محاولات متعمدة لدفع النظام إلى تجاوز حدوده أو اختراقه، بهدف اكتشاف الثغرات قبل استغلالها في الواقع.
لنشـرة الأسبوعيـة
اقرأ ما بين السطور قبل الجميع. فك تشفير أهم تحركات الاقتصاد، التقنية، وصُنّاع القرار في المنطقة.. في ٥ دقائق كل سبت.
