تتجه مخاطر الذكاء الاصطناعي اليوم إلى نقطة جديدة أكثر تعقيداً من مجرد أخطاء النماذج أو هلوساتها المعروفة. فمع انتشار وكلاء الذكاء الاصطناعي داخل بيئات التطوير والعمل المؤسسي والتطبيقات الاستهلاكية، ظهرت طبقة إضافية من الهجوم مرتبطة بما يُعرف بـالمهارات أو حزم القدرات القابلة للتثبيت. هذه الحزم تمنح الوكلاء صلاحيات للوصول إلى أدوات خارجية وواجهات برمجة التطبيقات وملفات الجهاز المحلي، لكنها في الوقت نفسه تفتح باباً واسعاً لمخاطر أمنية تشبه إلى حد كبير أزمة سلسلة التوريد التي واجهها العالم مع البرمجيات مفتوحة المصدر، لكن بخصائص أشد اتساعاً وأصعب رصداً.
الجوهر هنا أن المهارة لم تعد مجرد إضافة وظيفية بسيطة، بل أصبحت مكوّناً برمجياً يحدد كيف يتصرف الوكيل وما الموارد التي يمكنه لمسها. ومع انخفاض حاجز النشر وغياب التدقيق الصارم في كثير من الأسواق العامة، صار من الممكن تداول مهارات مفيدة ظاهرياً بينما تحمل في داخلها تعليمات خبيثة أو ممارسات غير آمنة في التعامل مع البيانات. هذا التحول يجعل الذكاء الاصطناعي نفسه جزءاً من سلسلة التوريد، لا مجرد أداة تعمل فوقها.
ما الذي يجعل مهارات وكلاء الذكاء الاصطناعي خطراً أمنياً جديداً
في النماذج التقليدية للهجمات على سلسلة التوريد، كان المهاجم يزرع كوداً خبيثاً داخل مكتبة أو اعتماد برمجي أو داخل مسار بناء وتشغيل مستمر، بهدف التسلل إلى أنظمة التطوير أو سرقة البيانات أو تثبيت أبواب خلفية. أدوات الأمن أصبحت أفضل نسبياً في التقاط هذا النوع من التلاعب عبر الفحص الثابت والتحليل السلوكي. لكن مهارات وكلاء الذكاء الاصطناعي تقدم طبقة مختلفة تماماً: الحمولة الأساسية ليست كوداً فقط، بل تعليمات لغوية مخزنة في ملفات الوصف والتنفيذ، ويمكن استخدام هذه التعليمات للتلاعب بسلوك الوكيل أثناء التشغيل.
هذا الاختلاف مهم جداً، لأن كثيراً من الأنظمة الأمنية صُممت لقراءة الشيفرة لا لقراءة النوايا. قد يبدو ملف التعليمات وكأنه توثيق عادي، بينما يحتوي ضمنياً على حقن أوامر يحاول تجاوز حدود الأمان وإقناع الوكيل بفتح ملفات أو إرسال بيانات أو تشغيل أوامر غير مسموح بها. والأسوأ أن الوكيل قد ينفذ ذلك وهو يظن أنه يلتزم بالتعليمات الصحيحة، لأن آلية التمييز بين الإرشادات الشرعية والشريرة ما تزال محدودة في كثير من التطبيقات.
بذلك، لا يعود الخطر مقتصراً على إساءة استخدام أداة واحدة، بل يمتد إلى كل بيئة يرتبط بها الوكيل: حسابات المطورين، مستودعات الشيفرة، مفاتيح الواجهات البرمجية، الملفات المحلية، وأحياناً السياق الطويل الأمد الذي يحتفظ فيه الوكيل بذاكرة تشغيلية بين الجلسات.
الانتشار الواسع والعتبة المنخفضة للنشر يزيدان المشكلة
تكمن حساسية هذا الملف أيضاً في سهولة النشر. فبعض المنصات العامة تسمح برفع المهارات وإتاحتها لمستخدمين كثيرين مع قدر محدود من المراجعة أو من دون ضوابط صارمة مثل التوقيع الإلزامي أو العزل الافتراضي أو التدقيق الأمني المسبق. هذه البيئة تشجع الابتكار السريع، لكنها تخلق أيضاً سوقاً مفتوحة لانتشار المكونات غير الآمنة.
تشير فحوصات أمنية حديثة لآلاف المهارات إلى أن نسبة معتبرة منها تحتوي على ثغرات حرجة، تشمل ممارسات قد تسهّل انتشار البرمجيات الخبيثة أو حقن التعليمات أو كشف البيانات الحساسة. وعندما ننظر إلى الصورة الأوسع، فإن نسبة أكبر من المنظومة تتأثر بمشكلات أمنية بدرجات متفاوتة. المشكلة هنا ليست في وجود عدد قليل من الحالات الشاذة، بل في أن الضعف يبدو بنيوياً ومترابطاً عبر المنصة كلها.
كما أن بعض المهارات لا تكون خبيثة عمداً، لكنها تسرّب البيانات بشكل غير مقصود. فحين تُخزَّن مفاتيح الوصول أو الرموز التعريفية أو معلومات المستخدم داخل سجلات نصية مكشوفة أو ملفات غير محمية أو داخل نافذة السياق الخاصة بالنموذج، يصبح احتمال انتقالها إلى أنظمة أخرى أو أطراف ثالثة أمراً واقعياً. وهذا النوع من التسريب أخطر أحياناً من الهجوم المباشر، لأنه يحدث بصمت ويصعب اكتشافه بعد وقوعه.
لماذا تفشل الأدوات الأمنية التقليدية
تعتمد فرق الأمن عادة على مزيج من فحوصات البرمجيات الضارة والتحليل الثابت والمراقبة السلوكية. لكن هذه الأدوات تواجه مشكلة واضحة حين يصبح الهجوم مكتوباً بلغة طبيعية لا بلغة برمجية تقليدية. فحقن الأوامر داخل ملف مهارة قد لا ينتج عنه أثر توقيعي واضح، ولا يثير إنذاراً في الفحص الأولي، ما دام النص يبدو عادياً أو توثيقياً.
الأكثر تعقيداً أن بعض هذه التعليمات قد تؤثر في الذاكرة الدائمة للوكيل، بحيث تبقى آثارها بعد إزالة المهارة نفسها. هنا نتحدث عن سيناريو يشبه الوكيل النائم، حيث يظل السلوك الخبيث قابلاً للتنشيط لاحقاً عبر ذاكرة أو سياق ملوث، حتى بعد انتهاء مصدره المباشر. وهذه نقطة ضعف لا تتعامل معها أنظمة الاستجابة للحوادث المصممة لعصر البرمجيات التقليدية بالفعالية نفسها.
بعبارة أخرى، الأمن القديم كان يبحث عن ملف تنفيذي خبيث أو أمر shell مشبوه. أما اليوم فالمطلوب فهم طبقة من النوايا والتعليمات والسياقات التي قد تدفع نموذجاً ذكياً إلى تنفيذ شيء خطير من دون أن يبدو ذلك غريباً في البداية.
أربعة ضوابط أساسية لتقليل المخاطر
رغم اتساع التحدي، فإن إدارة المخاطر ليست مستحيلة. غير أن نافذة العمل الوقائي تضيق كلما توسعت المؤسسات في الاعتماد على الوكلاء والمهارات. لذلك تبرز أربع أولويات عملية يمكن أن تشكل أساساً لخط دفاع أكثر نضجاً:
- حصر الأصول والمراجعة الدورية: يجب إنشاء جرد كامل لكل المكونات المرتبطة بالذكاء الاصطناعي، بما في ذلك النماذج والوكلاء والمهارات المثبتة. هذا الجرد ينبغي أن يُعامل كوثيقة حيوية شبيهة بقائمة مكونات البرمجيات، حتى يمكن اكتشاف التغييرات غير المصرح بها.
- الكشف المستمر والإزالة السريعة: لا يكفي فحص المهارة مرة واحدة عند التثبيت. المطلوب مسح مستمر للمهارات النشطة بحثاً عن مؤشرات التعليمات الخبيثة أو محاولات تجاوز صلاحيات المستخدم أو تشغيل أوامر النظام أو الوصول غير المبرر للملفات.
- تدوير الأسرار والحد الأدنى من الصلاحيات: أي مفتاح API أو رمز وصول يمر عبر مهارة غير موثقة ينبغي اعتباره معرضاً للخطر. كما يجب أن تعمل الوكلاء بصلاحيات محدودة للغاية، من دون وصول دائم إلى بيئات الإنتاج أو البيانات الحرجة إلا عند الضرورة القصوى.
- إرساء حواجز تشغيلية للذكاء الاصطناعي: تحتاج المؤسسات إلى طبقات حماية تراقب سلوك الوكيل لحظة التنفيذ، وتمنع الأفعال الخطرة مثل الوصول غير المتوقع إلى الملفات أو تعديل الذاكرة أو إرسال بيانات حساسة خارج الحدود المسموحة.
الرسالة الأوسع للمؤسسات التقنية
القضية لم تعد نظرية أو بعيدة المدى. فكلما زادت قدرة الوكلاء على اتخاذ القرار والعمل الذاتي، زادت مساحة الخطأ والهجوم في آن واحد. وإذا كانت سلسلة التوريد البرمجية في الماضي قد علمت المؤسسات أن الاعتماد غير المدقق قد يتحول إلى نقطة اختراق جماعية، فإن مهارات وكلاء الذكاء الاصطناعي تضيف درساً أشد حساسية: الحمولة قد تكون نصاً إرشادياً لا يبدو خطيراً إلا بعد أن يبدأ الوكيل في التنفيذ.
لهذا السبب، فإن التأخر في بناء سياسات الجرد والمراجعة والتقييد لا يعني فقط زيادة احتمالات الاختراق، بل أيضاً ارتفاع تكلفة التصحيح لاحقاً. المؤسسات التي ستنجح في استخدام الذكاء الاصطناعي بسرعة وأمان هي تلك التي تتعامل مع مهارات الوكلاء باعتبارها جزءاً من سلسلة التوريد الأمنية، لا مجرد إضافات وظيفية قابلة للتثبيت والنسيان.
في النهاية، الخطر لا يكمن في الذكاء الاصطناعي بحد ذاته، بل في طريقة إدخاله إلى بيئات العمل من دون ضوابط تناسب مستوى استقلاليته الجديد. ومع تحول الوكلاء إلى أدوات يومية في البرمجة والدعم والتحليل والتشغيل، يصبح السؤال الحاسم: هل تستطيع المؤسسات تأمين طبقة المهارات قبل أن تتحول إلى أكثر نقاطها هشاشة؟