مايكروسوفت تدعو إلى «فرامل طوارئ» للتحكم بنماذج الذكاء الاصطناعي
دعا الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا إلى فصل النماذج عن الأنظمة التي تديرها وإلى سجلات محصّنة لأفعالها، مع إتاحة إيقاف أي نموذج أثناء تنفيذ المهمة.
دعا الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، في منشور على منصة «إكس» إلى إعادة تقييم ما وصفه ببنية الثقة في الذكاء الاصطناعي، بحسب ما نقلته منصة «تك كرانش». وقال إن الوقت حان للتراجع خطوة إلى الوراء ومراجعة الطريقة التي نبني بها الثقة في هذه النماذج.
ودعا ناديلا إلى فصل نماذج الذكاء الاصطناعي عن الأنظمة التي تديرها وتوجّه عملها، وإلى سجلات محصّنة ضد التعديل ومقروءة للبشر لكل فعل جوهري يقوم به النموذج. كما طالب بأن يكون بوسع شخص مصرّح له إيقاف أي نموذج أو إغلاقه في منتصف تنفيذ المهمة.
وجاءت هذه الدعوة بعد وقائع متعددة أفادت فيها شركات بأنها فقدت السيطرة على نماذجها أو على وكلائها، بحسب ما أشارت إليه المنصة. وتصبّ مقترحات ناديلا في اتجاه منح الجهات المشغّلة أدوات رقابة قابلة للتحقق، بدل الاعتماد على تعهدات طوعية فقط.
ويخص هذا التطور كل من يقدّم خدمات مبنية على الذكاء الاصطناعي، لأن غياب سجل يمكن التحقق منه يجعل تحديد المسؤولية عن أي خلل أمراً صعباً. كما يعكس التصريح تحولاً في لهجة كبار مطوّري النماذج تجاه قواعد السلامة، في وقت تتزايد فيه المطالبات التنظيمية في هذا الملف.
ماذا تعني هذه المصطلحات؟
بنية الثقة: مجموعة القواعد والضمانات التي تجعل من الممكن الاعتماد على نظام ما والتحقق من تصرفاته.
السجل المحصّن: سجل لا يمكن تعديله لاحقاً ويثبّت أفعال النموذج بصيغة يمكن قراءتها ومراجعتها.
فرامل الطوارئ: آلية تتيح لشخص مصرّح له إيقاف نظام آلي فوراً أثناء عمله.
لنشـرة الأسبوعيـة
اقرأ ما بين السطور قبل الجميع. فك تشفير أهم تحركات الاقتصاد، التقنية، وصُنّاع القرار في المنطقة.. في ٥ دقائق كل سبت.
