تتحرك مؤسسات كثيرة اليوم بسرعة نحو استخدام وكلاء الذكاء الاصطناعي في البرمجة وتشغيل الخدمات وربط التطبيقات الداخلية، لكن هذا التحول يفتح سؤالاً جديداً في أمن التقنية: كيف يمكن مراقبة ما تفعله الأنظمة الذكية عندما تبدأ باتخاذ قرارات وتنفيذ إجراءات من تلقاء نفسها؟
هذا السؤال يقف في قلب رؤية هارولد بايون، الرئيس التنفيذي لشركة BlueRock، الذي يرى أن أمن الذكاء الاصطناعي دخل مرحلة مختلفة تماماً عن تلك التي ركزت في البداية على سلامة النماذج أو على منع إدخال تعليمات مضللة. فالمشكلة، كما يصفها، لم تعد في ما تقوله النماذج فقط، بل في ما تفعله أثناء التشغيل، خصوصاً عندما ترتبط بأدوات خارجية وواجهات برمجة التطبيقات ومصادر بيانات حساسة.
من أمن البرمجيات التقليدي إلى أمن السلوك التنفيذي
قبل توليه منصب الرئيس التنفيذي في BlueRock في أبريل 2026، شغل بايون منصب مدير المنتجات في الشركة، كما راكم خبرة طويلة في مجالات الأمن السحابي وSaaS ومنع تسرب البيانات وإدارة المنتجات المؤسسية في شركات مثل AppOmni وServiceNow وSkyhigh Networks وSymantec وCitrix.
هذه الخلفية، وفق ما يطرحه، قادته إلى قناعة بأن أنظمة الذكاء الاصطناعي الوكيلة لا تشبه البرمجيات التقليدية التي يمكن فهم سلوكها مسبقاً إلى حد كبير. ففي التطبيقات العادية، يكون مسار التنفيذ معروفاً غالباً قبل التشغيل. أما في الأنظمة الوكيلة، فإن السلوك يتشكل لحظة بلحظة عبر الأوامر والسياق والأدوات المرتبطة وخوادم MCP والتفاعلات اللاحقة مع البنية التحتية.
ومن هنا تظهر الحاجة إلى طبقة أمنية جديدة تراقب التنفيذ نفسه، لا مجرد المدخلات والمخرجات.
فجوة التنفيذ الوكيل
تستخدم BlueRock مصطلحاً يصف ما تعتبره المشكلة الجوهرية في السوق: فقدان الرؤية بمجرد أن يبدأ الوكيل بالتصرف بشكل مستقل. فالأدوات الأمنية التقليدية بنيت للتعامل مع أنظمة قابلة للتنبؤ نسبياً، لكن الوكلاء الأذكياء يستطيعون اكتشاف الأدوات أثناء التشغيل، واستدعاء خوادم MCP، وربط عدة خطوات عمل، ثم اتخاذ قرارات تتغير وفق السياق.
في هذا النوع من البيئات، لا يكفي جمع السجلات أو التتبعات أو نواتج النموذج. المؤسسات تحتاج إلى فهم سببي كامل: لماذا اختار الوكيل أداة معينة، ما السياق الذي دفعه إلى القرار، أي صلاحيات استُخدمت، وما الأثر الذي وصل إلى الأنظمة اللاحقة.
هذه هي ما تسميه الشركة الفجوة بين القرار والتنفيذ، وهي فجوة اتسعت مع انتشار الوكلاء القادرين على العمل عبر أنظمة موزعة ومؤقتة يصعب على أدوات المراقبة التقليدية احتواؤها.
MCP يوسع سطح المخاطر
يرى بايون أن بروتوكول Model Context Protocol أصبح جزءاً أساسياً من البنية التي تصل وكلاء الذكاء الاصطناعي بالأدوات والأنظمة الداخلية. أهمية البروتوكول، بحسب هذا التصور، أنه يقلل الاحتكاك بين النماذج والأنظمة التشغيلية، ويمنح المطورين سرعة أكبر في بناء التدفقات الذكية. لكن هذا التسهيل نفسه يرفع عدد المسارات التي يمكن للوكيل أن يسلكها داخل المؤسسة.
الخطأ الأكثر شيوعاً، من وجهة نظره، هو الاعتقاد أن ضبط النموذج أو مراقبة النصوص كافٍ لإدارة المخاطر. الواقع أن الخطر الأكبر يبدأ بعد أن يتخذ الوكيل قراراً: عندما يستدعي أداة، أو يطلب بيانات حساسة، أو ينفذ مهمة على البنية التحتية، أو يمرر المخرجات إلى خدمة أخرى.
هذا التحول يجعل MCP أقرب إلى طبقة تشغيلية جديدة داخل المؤسسة، وليس مجرد وسيلة ربط تقنية.
ثغرات في الخوادم العامة وقلق على سلسلة التوريد
تقول BlueRock إن أبحاثها على آلاف خوادم MCP العامة كشفت نسبة مقلقة من الثغرات، من بينها قابلية استغلال عبر SSRF، إلى جانب مخاطر مرتبطة بتنفيذ أوامر غير آمنة. ووفق الشركة، فإن أكثر من 36% من 11 ألف خادم جرى تحليلها ظهرت عليها ثغرات SSRF غير مقيدة، وهو رقم يعكس مستوى النضج المنخفض في أجزاء واسعة من هذا المجال.
أهمية هذه النتيجة لا تتعلق بثغرة منفردة فقط، بل بتغير طبيعة الثقة في سلاسل التوريد البرمجية. ففي الماضي كانت المؤسسات تقلق من المكتبات والحاويات والاعتماديات المفتوحة المصدر لأنها تدخل ضمن البنية قبل التشغيل. أما اليوم، فالوكلاء يستطيعون اكتشاف أدوات وخدمات خارجية في الزمن الفعلي، ما يجعل الاعتمادية نفسها متغيرة أثناء التنفيذ.
وبذلك تتسع المخاطر من أمان الكود إلى أمان العلاقة بين الوكلاء والخدمات التي يستدعونها.
الرؤية التشغيلية التي تحتاجها المؤسسات
في هذا السياق، تطرح BlueRock ما تسميه المراقبة الوكيلية، وهي مقاربة لا تكتفي بمتابعة الأحداث المعزولة، بل تربط بين القرار والإجراء والنتيجة النهائية. الفكرة الأساسية هي أن المؤسسة لا تحتاج فقط إلى معرفة أن الوكيل نفذ أمراً ما، بل إلى تتبع السلسلة الكاملة التي قادته إلى ذلك.
هذا النوع من الرؤية يصبح أكثر أهمية عندما تعمل الأنظمة عبر بيئات موزعة ومتغيرة بسرعة، لأن الأدوات التقليدية تميل إلى تجزئة الصورة. أما التحكم التنفيذي فيحتاج إلى فهم متزامن لمسار العمل كله، من أول إشارة إلى آخر أثر.
وتشير الشركة أيضاً إلى أهمية ما تسميه سياق الثقة، أي ربط الهوية والصلاحيات والقدرات والمخاطر مباشرةً بسياق التنفيذ في الوقت الحقيقي. فالثقة لم تعد قراراً ثابتاً يُمنح مرة واحدة، بل عملية مستمرة يجب اختبارها مع كل خطوة ينفذها الوكيل.
مخاطر الأتمتة في التطوير والانتشار الإنتاجي
أحد أكثر الاستخدامات انتشاراً اليوم هو وكلاء البرمجة، الذين باتوا قادرين على كتابة التعليمات البرمجية وتعديل البنية التحتية والتفاعل مع خطوط النشر والوصول إلى الخدمات السحابية. وتعتبر BlueRock أن هذا التحول يرفع الإنتاجية بشكل واضح، لكنه في الوقت نفسه يضاعف احتمال وقوع أخطاء تشغيلية أو تصرفات غير متوقعة.
المخاطر هنا لا تتعلق فقط بسلوك عدائي متعمد. فحتى الوكيل حسن النية قد يسبب تعطلاً في الخدمة أو يفتح مساراً غير آمن أو يستخدم صلاحيات أوسع من المطلوب أو يعتمد على مكوّنات لم يكن أحد يتوقعها. وفي بيئة الإنتاج، قد تكون النتيجة انقطاعاً في الخدمة أو تراجعاً في الاعتمادية أو إجراءات نشر غير مثالية.
لذلك تدعو الشركة إلى ضوابط تشغيلية تتحرك مع عبء العمل نفسه، بحيث لا تعيق الابتكار لكنها تمنع الانزلاق خارج الحدود الآمنة.
من حماية النصوص إلى حماية الأفعال
ترى BlueRock أن المرحلة القادمة في أمن الذكاء الاصطناعي ستكون أقل ارتباطاً بحماية النموذج نفسه وأكثر ارتباطاً بحماية الأفعال التي ينتجها. فحتى النموذج المنضبط قد يسبب ضرراً إذا استدعى الأداة الخطأ أو وصل إلى النظام الخطأ أو فعّل إجراءً يخلق أثراً جانبياً في بنية المؤسسة.
وهنا تكمن نقطة التحول: المؤسسات التي ستنجح هي التي تبني طبقة أمنية قادرة على فهم التشغيل غير الحتمي للأنظمة الذكية. هذه الطبقة ستجمع بين الرؤية التشغيلية، وسياق الثقة، والسياسات الآنية، والهوية، وحماية البيانات، وأمن البنية التحتية.
وبحسب هذه الرؤية، فإن أمن الذكاء الاصطناعي في شكله الناضج لن يكون منتجاً واحداً، بل بنية تشغيلية متكاملة تراقب كيف يتصرف الوكيل فعلياً في العالم الحقيقي، وتسمح للمؤسسات بالاستفادة من الأتمتة المتقدمة دون فقدان السيطرة على المخاطر.