في تحول دراماتيكي لمشهد الأمن السيبراني، أصدرت شركة مايكروسوفت (Microsoft) تقريرًا استراتيجيًا مفصلًا ضمن سلسلة تحذيراتها الأمنية، يسلط الضوء على الجانب المظلم لوكلاء الذكاء الاصطناعي المستقلين (AI Agents).
وكلاء الذكاء الاصطناعي
يأتي هذا التقرير في وقت تندمج فيه هذه التقنيات في صلب العمليات المؤسسية، حيث نشهد الانتقال من مرحلة “الدردشة مع الآلة” إلى مرحلة “الآلة التي تعمل بالنيابة عنك”. هذا التحول يفتح ثغرات أمنية غير مسبوقة، مما يستدعي الانتباه والحذر.
جوهر التحذير: من “الرد” إلى “الفعل” — الأمن السيبراني
أوضحت مايكروسوفت أن الخطر يكمن في طبيعة عمل وكلاء الذكاء الاصطناعي. بخلاف نماذج اللغة التقليدية التي تنتظر سؤال المستخدم، يمتلك “الوكيل” القدرة على الوصول إلى البريد الإلكتروني، والتقويم، وقواعد البيانات، وتنفيذ مهام معقدة مثل حجز رحلات طيران أو إرسال تقارير مالية دون تدخل بشري مباشر. هذا “الاستقلال” هو بالضبط ما يجعله هدفًا جذابًا للمهاجمين.
أبرز التهديدات الأمنية — مايكروسوفت
أبرز التهديدات الأمنية المرصودة التي حذرت مايكروسوفت منها تشمل:
- هجمات حقن الأوامر غير المباشرة: حذرت مايكروسوفت من أن المهاجمين لم يعودوا بحاجة لاختراق النظام مباشرة، حيث يكفي إرسال بريد إلكتروني عادي إلى الموظف يحتوي على تعليمات مخفية. عندما يقوم “الوكيل الذكي” بقراءة البريد لتلخيصه، فإنه يمتص الأوامر الخبيثة المخفية وينفذها، مما يحوله إلى “جاسوس داخلي” دون أن يدرك المستخدم ذلك.
- معضلة الصلاحيات المفرطة: أشار التقرير إلى خطأ شائع تقع فيه الشركات، وهو منح الوكيل صلاحيات “مدير نظام” ليسهل عليه أداء مهامه. هذا التوجه يجعل من اختراق وكيل واحد بمثابة الحصول على “المفتاح الرئيسي” لكل أسرار المؤسسة، مما يخلق “كابوس الصلاحيات”.
- ظهور الذكاء الاصطناعي “الخفي”: كشفت البيانات أن قرابة 30% من الموظفين يعتمدون على وكلاء ذكاء اصطناعي من جهات خارجية غير معتمدة من قبل أقسام تقنية المعلومات في شركاتهم. هؤلاء الوكلاء يعملون في “المنطقة الرمادية”، حيث يتم إرسال بيانات حساسة إلى خوادم خارجية لا تخضع لرقابة أمنية، مما يسهل عمليات تسريب البيانات الضخمة.
إيكو ليك: الثغرة التي غيرت قواعد اللعبة — الذكاء الاصطناعي
تطرق التقرير أيضًا إلى ثغرات مثل “إيكو ليك” (EchoLeak)، وهي نوع من الهجمات التي تستهدف ذاكرة الوكيل. من خلال هذه الثغرة، يمكن للمهاجم استدراج الوكيل لكشف سجلات الدردشة السابقة أو البيانات السياقية التي استخدمها في مهام أخرى، مما يؤدي إلى كشف أسرار تجارية أو بيانات شخصية كانت مخزنة في ذاكرة النظام المؤقتة.
نموذج أمني جديد
لم تكتف مايكروسوفت بالتحذير، بل طرحت نموذجًا أمنيًا جديدًا يعتمد على ثلاثة أعمدة:
- الموافقة البشرية الإلزامية: يجب ألا يُسمح للوكيل بتنفيذ أي إجراء “عالي المخاطر” مثل تحويل أموال أو حذف بيانات، دون نقرة موافقة من الإنسان.
- مبدأ الحد الأدنى من الصلاحيات: يجب تضييق نطاق وصول الوكيل ليكون مقتصرًا فقط على المهمة الحالية.
- المراقبة المستمرة: استخدام أدوات ذكاء اصطناعي متخصصة لمراقبة سلوك الوكلاء الآخرين واكتشاف أي انحراف عن الأنماط الطبيعية فور حدوثه.
تؤكد مايكروسوفت أن وكلاء الذكاء الاصطناعي هم “المحرك القادم للإنتاجية”، لكن دون حماية صارمة، قد يتحول هذا المحرك إلى “حصان طروادة” داخل الشركات. فالأمان في عصر الوكلاء لم يعد خيارًا، بل هو شرط أساسي للبقاء الرقمي.
المصدر: aljazeera.net
المزيد في الأجهزة والإلكترونيات • الأمن السيبراني • مايكروسوفت • الذكاء الاصطناعي