مايكروسوفت تحذر: وكلاء الذكاء الاصطناعي قد يتواطؤون داخل الشركات
حذرت «مايكروسوفت» من أن وكلاء الذكاء الاصطناعي في الشركات قد يحصلون على صلاحيات زائدة ويتواطؤون لتحقيق أهداف، داعية إلى مراقبة مستمرة وضبط للصلاحيات.
حذرت شركة «مايكروسوفت» من أن وكلاء الذكاء الاصطناعي المستخدمين في الشركات أصبحوا يمتلكون صلاحيات أكثر مما ينبغي، وقد يتعاونون أو يتواطؤون للوصول إلى أهدافهم دون أن تتعرض أنظمتهم للاختراق.
وقالت هاييت غالو إن المؤسسات تحتاج إلى مراقبة مستمرة، وضبط للهوية والصلاحيات، وقدرة على التتبع في الوقت الحقيقي عبر أنظمة الشركة.
وأشارت «مايكروسوفت» إلى نظام «بروجيكت بيرسيبشن» الخاص بأمن الوكلاء، بحسب «بلوكشين.نيوز».
وتأتي التحذيرات في وقت تتوسع فيه الشركات في نشر وكلاء ينفذون مهاماً تلقائياً، وهو ما يزيد الحاجة إلى تحديد ما يستطيع كل وكيل الوصول إليه.
ماذا تعني هذه المصطلحات؟
وكيل ذكاء اصطناعي: برنامج ينفذ مهاماً تلقائياً نيابة عن المستخدم، ويمكن أن يتصل بأنظمة الشركة وأدواتها.
الصلاحيات: حدود ما يستطيع المستخدم أو البرنامج فعله داخل النظام، مثل قراءة ملفات أو إرسال رسائل أو تعديل بيانات.
التتبع في الوقت الحقيقي: تسجيل ومراقبة ما يفعله الوكيل لحظة بلحظة لمعرفة مصدر أي إجراء غير معتاد.
لنشـرة الأسبوعيـة
اقرأ ما بين السطور قبل الجميع. فك تشفير أهم تحركات الاقتصاد، التقنية، وصُنّاع القرار في المنطقة.. في ٥ دقائق كل سبت.
