تشهد المؤسسات موجة متسارعة من تبني وكلاء الذكاء الاصطناعي، لكن هذا الانتشار يسبق كثيراً جاهزية البنية الأمنية اللازمة لضبطهم. الفارق هنا أن هذه الأنظمة لا تعمل كأدوات تقليدية تُنفَّذ عند الطلب، بل كبرمجيات مستقلة يمكنها الوصول إلى البيانات بصورة مستمرة، واتخاذ قرارات، وتنفيذ إجراءات بسرعة آلية من دون انتظار مراجعة بشرية في كل خطوة.
هذا التحول يغيّر قواعد الأمن داخل الشركات. فالأدوات الدفاعية المعتادة صُممت للتعامل مع تهديدات معروفة وبإيقاع بشري نسبي. أما الوكلاء المستقلون فيفتحون سطح هجوم جديداً: قد يتصرفون بطريقة غير متوقعة، أو يتعرضون لتلاعب عبر حقن الأوامر، أو يمنحون الوصول لبيانات حساسة في سياقات لا تحتاج إليها المهمة أصلاً.
وتزداد المخاوف لأن الاستخدام لا يقتصر على المشاريع الرسمية. موظفون كثر بدأوا بالفعل تشغيل وكلاء ذكاء اصطناعي ضمن بيئات العمل من دون إشعار الإدارة أو فرق الأمن، ما يخلق طبقة إضافية من المخاطر غير المرئية. ومع توقعات بأن تعتمد نسبة كبيرة من المؤسسات الكبرى أنظمة متعددة الوكلاء خلال العام المقبلين، يصبح السؤال الأساسي ليس ما إذا كان هذا التحول سيحدث، بل كيف ستتم حمايته.
الأمن التقليدي لم يعد كافياً
الاعتماد على الضوابط الأمنية القديمة وحده لم يعد مناسباً في بيئة يعمل فيها الذكاء الاصطناعي بسرعة تتجاوز قدرة المراجعة اليدوية. المشكلة أن بعض السيناريوهات الخطرة لا تتطلب اختراقاً معقداً بقدر ما تتطلب استغلال ثغرة في طريقة توجيه الوكيل أو البيانات التي يقرأها. فقد تحتوي التعليمات المضمّنة داخل الشيفرة أو الملفات على أوامر خفية تدفع النظام إلى كشف معلومات أو تشغيل كود ضار.
لهذا السبب، تحتاج الشركات إلى طبقة أمنية أصلية للذكاء الاصطناعي، لا مجرد تحديثات تجميلية على الأدوات القائمة. ويشمل ذلك أنظمة ترصد السلوك غير المعتاد لحظة حدوثه، وتستجيب تلقائياً قبل أن تتسع الأضرار. كما يمكن استخدام وكلاء إشراف لمراجعة المهام عالية الحساسية التي ينفذها وكلاء آخرون، إلى جانب أدوات ذكاء تهديدي تعمل على كشف مؤشرات الهجوم في مراحله الأولى.
من الضروري أيضاً اختبار النماذج نفسها قبل نشرها، بما في ذلك فحصها ضد هجمات حقن الأوامر أو إدخال الشيفرة الخبيثة. كما أن حوكمة البيانات تصبح جزءاً أساسياً من الدفاع، لأن حماية الوكيل لا تنفصل عن حماية مصادر البيانات التي يتعامل معها ولا عن المسارات التي تنتقل عبرها هذه البيانات داخل المؤسسة.
منح الوكلاء هوية وحدوداً واضحة
أحد أخطر الأخطاء التي ترتكبها بعض المؤسسات هو التعامل مع وكيل الذكاء الاصطناعي كما لو كان مجرد أداة داخلية بلا هوية. في الواقع، ينبغي منحه هوية رقمية قابلة للتتبع، تماماً كما هو الحال مع المستخدم البشري، حتى يمكن تحديد ما يحق له الوصول إليه، ولمدة كم، وفي أي سياق.
هذا النهج يحد من المخاطر الناتجة عن الصلاحيات الواسعة جداً. فعندما يحصل الوكيل على وصول دائم إلى وثائق وقواعد بيانات وواجهات برمجة التطبيقات، فإن أي خطأ في التوجيه قد يتحول إلى مشكلة تشغيلية أو أمنية كبيرة. أما عندما تُبنى الصلاحيات على مبدأ الحد الأدنى اللازم، فإن أثر أي اختراق أو إساءة استخدام يبقى محدوداً.
وتبرز أهمية هذه الفكرة بشكل خاص مع ظهور ما يُعرف بالوكلاء الظليين، أي الأنظمة التي يربطها الموظفون ببيئات العمل من دون اعتماد رسمي. لذلك، تميل فرق الأمن المتقدمة إلى تطبيق مبدأ انعدام الامتيازات الدائمة، بحيث يبدأ أي وكيل من نقطة صفرية تقريباً، ثم يُمنح ما يحتاجه فقط عند الضرورة وبعد التحقق.
كما أن هذا النموذج يقلل أيضاً من فرص استغلال الوكيل من الخارج. فإذا نجح مهاجم في التلاعب به، فإن القيود المفروضة عليه تمنعه من التحرك بحرية داخل الأنظمة الحساسة أو الوصول إلى مجالات لا علاقة لها بالمهمة الأصلية.
المراقبة المستمرة شرط أساسي للحوكمة
حتى مع وجود سياسات وصول صارمة، لا يمكن الاكتفاء بالمنع المسبق. الوكلاء المستقلون يحتاجون إلى مراقبة مستمرة ومُفصّلة، تشمل من يملكهم، وما هي مسؤولياتهم، وكيف يتصرفون داخل الأنظمة. فالمؤسسات لا تستطيع إدارة ما لا تراه، ولا يمكنها تحقيق الامتثال من دون أثر تدقيقي واضح لكل نشاط تنفذه الأنظمة غير البشرية.
وهنا تظهر أهمية القياس التشغيلي. يمكن للشركات أن تنشئ مؤشرات أداء جديدة خاصة بالذكاء الاصطناعي، مثل عدد مجموعات البيانات التي تم التحقق من مصدرها، أو نسبة الوكلاء الذين يملكون هويات مُدارة، أو درجة الثقة الممنوحة لكل وكيل بحسب سلوكه والسياق الذي يعمل فيه. هذه المقاييس تساعد القيادة على فهم مستوى المخاطر بدقة، لا الاكتفاء بانطباعات عامة حول “جاهزية” الذكاء الاصطناعي.
كما أن التتبع المستمر يسهّل الاستجابة للحوادث. فإذا بدأ وكيل معين في تنفيذ تصرفات شاذة، أو حاول الوصول إلى موارد غير معتادة، يمكن أن تتدخل الأنظمة تلقائياً لتقليل الصلاحيات أو إيقافه مؤقتاً أو تنبيه فرق الحماية. ومن دون هذا المستوى من الرؤية، قد تمر الأخطاء أو الهجمات في صمت حتى تظهر آثارها على البيانات أو العمليات أو العملاء.
الاستعداد يجب أن يسبق الانتشار
تتمثل المشكلة الأكبر اليوم في الفجوة بين الحماسة المؤسسية والجاهزية الأمنية. كثير من الشركات تتحرك بسرعة لتجربة وكلاء الذكاء الاصطناعي في الأتمتة والتحليل وخدمة العملاء وتطوير البرمجيات، لكنها لا تبني في الوقت نفسه الضوابط اللازمة لتشغيلهم بأمان. هذا التناقض يخلق بيئة مثالية للأخطاء التشغيلية وللاستغلال من قبل جهات خبيثة.
الحل لا يكمن في حظر الاستخدام داخل المكاتب. فمثل هذا النهج غالباً ما يدفع الموظفين إلى البحث عن بدائل غير مرئية خارج الضوابط الرسمية، وهو ما يزيد الخطر بدلاً من تقليله. الأفضل هو بناء إطار واضح يسمح بالاستفادة من الذكاء الاصطناعي مع فرض الهوية، والحدود، والمراقبة، وتقييم المخاطر بشكل مستمر.
بمعنى آخر، المطلوب ليس منع الوكلاء، بل تأمينهم كما يتم تأمين أي عنصر بالغ التأثير داخل المؤسسة. ومع استمرار توسعهم في بيئات العمل، ستصبح الشركات التي تؤخر هذا التحديث الأمني أكثر عرضة للخسائر التقنية والامتثال والتشغيل. أما المؤسسات التي تبدأ الآن في إعادة تصميم بنيتها الأمنية، فستكون أكثر قدرة على استيعاب هذا الجيل الجديد من الأتمتة من دون التضحية بالسيطرة أو الثقة.