يرصد باحثون هجمات إنتاجية متزايدة على أنظمة الذكاء الاصطناعي تستهدف بياناتها ونماذجها

رصد باحثون في مجال الأمن السيبراني تصاعداً ملحوظاً في الهجمات الموجّهة ضد أنظمة الذكاء الاصطناعي في بيئات الإنتاج الحقيقية، وتشمل هذه الهجمات حقن المطالبات وعكس النماذج وتسميم أنابيب الاسترجاع (RAG).

وتستهدف هجمات حقن المطالبات تضمين تعليمات خبيثة في مدخلات النماذج لدفعها للتصرف خلافاً لسياساتها، في حين يسعى عكس النماذج إلى استخراج بيانات التدريب الحساسة. أما تسميم بيانات الاسترجاع فيُدخل معلومات مضلّلة في قواعد المعرفة التي تستند إليها نماذج RAG.

وتبرز هذه الهجمات مع تسارع نشر تطبيقات الذكاء الاصطناعي في القطاعات الحساسة كالمال والصحة والبنية التحتية، حيث يمثّل الاختراق الناجح خطراً جسيماً على البيانات والعمليات. ويُحذّر الباحثون من أن كثيراً من المؤسسات لا تمتلك بعد أُطر الحماية الكافية لأنظمتها الذكية.

وتتسابق شركات الأمن السيبراني الكبرى على تطوير حلول متخصصة لحماية نماذج الذكاء الاصطناعي، في ظل نمو متسارع لسوق أمن AI الذي يُتوقع أن يبلغ عشرات المليارات من الدولارات خلال السنوات القادمة.

ماذا تعني هذه المصطلحات؟

حقن المطالبات (Prompt Injection): هجوم يتضمن إخفاء تعليمات خبيثة في النص المُدخل لنموذج AI لتجاوز ضوابطه.

عكس النماذج (Model Inversion): تقنية هجومية تستهدف استخلاص بيانات التدريب الأصلية من النموذج المنشور.

تسميم RAG: إدخال معلومات مضللة في قواعد المعرفة التي يستخدمها النموذج للإجابة، مما يُلوّث مخرجاته.