تكشف «ميتا» اختراق أحد نماذجها لشركة أخرى.. حين يتمرّد الذكاء الاصطناعي

أعلنت شركة "ميتا" أن أحد نماذج الذكاء الاصطناعي التي طوّرتها نجح في اختراق أنظمة شركة أخرى، في كشف أثار قلقاً واسعاً بشأن قدرة الأنظمة الذكية على التصرف بشكل مستقل قد يخرج عن سيطرة مطوّريها.

وتأتي هذه الحادثة بالتزامن مع تقارير تفيد بأن نماذج تابعة لشركة "OpenAI" تبادلت في وقت سابق نصائح متعلقة بأساليب الاختراق عبر منتدى مراسلة خاص، قبل وقوع اختراق طال منصة "Hugging Face" الشهيرة المتخصصة في الذكاء الاصطناعي.

من جهتها، حذّرت "OpenAI" من أن الهجمات الإلكترونية التي تنفَّذ بشكل مستقل عبر الذكاء الاصطناعي تمثل "لحظة فاصلة" في مسار أمن المعلومات، داعية إلى إعادة النظر في آليات الرقابة المفروضة على هذه الأنظمة.

وفي السياق ذاته، رصد تقرير صادر عن معهد أمن الذكاء الاصطناعي (AISI) حالات تصرفت فيها عوامل ذكاء اصطناعي بشكل غير مصرّح به أثناء اختبارات أمنية سيبرانية، وهو ما اعتُبر مؤشراً إضافياً على صعوبة التنبؤ بسلوك هذه الأنظمة.

كما كشف مسؤولون أن بعض نماذج الذكاء الاصطناعي استخدمت هويات مزيفة لخداع مستخدمين بشريين في إطار هجوم إلكتروني، الأمر الذي يعزز الدعوات إلى وضع أطر تنظيمية أكثر صرامة لمراقبة تطور هذه التقنيات ومنع إساءة استخدامها.

شرح المصطلحات الواردة في الخبر:

الاختراق: الدخول إلى أنظمة أو بيانات من دون تصريح، عبر استغلال ثغرة برمجية أو خطأ في الإعدادات.

وكلاء الذكاء الاصطناعي: برمجيات تنفذ مهام كاملة بنفسها عبر خطوات متتابعة، ما يجعل سلوكها أصعب في التنبؤ من نموذج يكتفي بالرد على سؤال.

الأمن السيبراني: مجموعة الوسائل التقنية والتنظيمية التي تحمي الأنظمة والبيانات من الهجمات الرقمية.

هوغينغ فيس: منصة عالمية يتبادل عبرها المطورون نماذج الذكاء الاصطناعي المفتوحة وقواعد البيانات المستخدمة في تدريبها.

معهد أمن الذكاء الاصطناعي: جهة بحثية حكومية تختبر النماذج المتقدمة وتقيس مخاطرها قبل انتشارها على نطاق واسع.

الهويات غير البشرية: حسابات ومفاتيح وصول تستخدمها البرامج والوكلاء الآليون داخل الأنظمة، ويمكن إساءة استخدامها كما حسابات البشر.