يشهد القطاع المصرفي مرحلة جديدة في استخدام الذكاء الاصطناعي، إذ لم تعد الأنظمة الذكية مقتصرة على كتابة الرسائل أو تلخيص المستندات، بل بدأت تتحول إلى وكلاء قادرين على تنفيذ خطوات تشغيلية داخل الأنظمة الداخلية. هذا التحول يغير طبيعة المخاطر جذرياً: فالخطأ في الإجابة يمثل مشكلة جودة، أما الخطأ في التنفيذ فقد يتحول إلى حادثة أمنية أو تشغيلية ذات أثر مباشر.
في السنوات الأخيرة، اعتمدت البنوك على أدوات ذكية تساعد الموظفين في مهام يومية محددة، مثل الرد على استفسارات العملاء أو استخراج خلاصة من مذكرات الائتمان أو دعم مديري العلاقات في فهم المنتجات والخدمات. في هذا النموذج كانت المخاوف الأساسية تدور حول تسرب البيانات أو ظهور معلومات لا ينبغي للنظام الوصول إليها. لذلك كانت أدوات مثل التنقيح، وتصفية المخرجات، ومراجعة الإنسان قبل الاعتماد النهائي كافية نسبياً لمستوى الخطر آنذاك.
لكن الجيل الأحدث من هذه الأنظمة لا يكتفي بالاستجابة النصية. الوكيل الذكي أصبح قادراً على الوصول إلى سجل معاملات العميل، واستدعاء خدمات كشف الاحتيال، وتعديل حدود مالية، بل وبدء سير عمل للدفع أو المعالجة، مع ربط عدة أدوات معاً لإتمام المهمة من دون تدخل بشري مباشر. هنا ينتقل السؤال الأمني من: ماذا يرى النموذج؟ إلى: ماذا يُسمح له أن يفعل؟
الصلاحيات الزائدة تصبح الخطر الأساسي
المشكلة الأكثر إلحاحاً في هذا السياق هي الوكلاء الممنوحون صلاحيات تتجاوز الحاجة الفعلية. وقد أصبحت هذه النقطة محوراً في الإرشادات الأمنية الصادرة عن وكالات سيبرانية في دول تحالف الخمس عيون، والتي شددت على أن مبدأ أقل صلاحية لم يعد خياراً ثانوياً بل شرطاً أساسياً عند تشغيل أنظمة الذكاء الاصطناعي الوكيلة.
وتظهر هذه المخاطر في ثلاث صور متداخلة. الأولى هي الإفراط في الوظائف، حين يُربط الوكيل بأدوات لم يكن بحاجة إليها لإنجاز مهمته. والثانية هي الإفراط في الأذونات، عندما يُمنح حق القراءة والكتابة في آن واحد رغم أن المهمة تتطلب الاطلاع فقط. أما الصورة الثالثة فهي الإفراط في الاستقلالية، عندما يُسمح للوكيل باتخاذ قرار مؤثر من دون أي موافقة بشرية في المراحل الحرجة.
هذا التداخل يجعل الوكيل الذكي شبيهاً بموظف لديه مفاتيح أكثر مما يحتاج، ويعمل بسرعة أعلى من قدرة فرق الحوكمة التقليدية على المتابعة. وفي بيئة مصرفية تتعامل مع بيانات منظمة وأموال وامتثال، فإن هذه الفجوة لا تعد تفصيلاً تقنياً بل مسألة تشغيلية وتنظيمية في آن واحد.
مشكلة الدخيل الخفي في مدخلات النظام
إحدى المعضلات الأصعب هي ما يعرف بالتوجيهات الخبيثة غير المباشرة، حيث يتلقى الوكيل تعليمات ضارة عبر مستند أو رسالة أو حقل نصي يبدو عادياً. الخطر هنا لا يأتي من اختراق تقليدي للصلاحيات فقط، بل من أن النظام يقرأ مدخلاً غير موثوق ثم يتعامل معه كأنه جزء من المهمة الشرعية.
في بيئات البنوك، يمكن أن تظهر هذه المدخلات في العديد من المواضع: مذكرة تحويل، رسالة من عميل في نزاع، ملف PDF ضمن طلب قرض، أو خانة نصية في ملف اعرف عميلك. وإذا كان الوكيل يملك أدوات تنفيذ واسعة، فقد يتحول النص غير الموثوق إلى نقطة انطلاق لسلوك غير مقصود، خاصة إذا لم تُفرض حدود صارمة على ما يمكن للنظام الوصول إليه أو تعديله.
لهذا السبب، لا تكفي التوجيهات البرمجية التي تطلب من الوكيل أن يكون حذراً. الحماية الحقيقية تبدأ من تقليص ما يستطيع النظام لمسه فعلاً، ثم بناء طبقات تحقق ومراجعة حول أي فعل عالي الأثر.
منضبط البيانات قبل أن تصل إلى النموذج
في العديد من حالات النشر العملي، تتكرر مشكلة بسيطة في جوهرها: يتم أولاً ربط الوكيل بالنظام والبيانات والأدوات، ثم يُسأل لاحقاً عن الحدود التي كان يجب رسمها منذ البداية. النتيجة أن الوكيل يجلب أكثر مما يحتاجه لإنجاز المهمة، فيدخل إلى السياق التشغيلي كل رقم حساب وبيان شخصي وسجل معاملة كامل، رغم أن المطلوب كان مجرد آخر أربع خانات وبعض العمليات الأخيرة.
الحل الأكثر فاعلية ليس تحسين النص الموجّه للنموذج، بل ضبط الوصول عند طبقة الاسترجاع نفسها. أي أن تُنقح البيانات أو تُرمز قبل وصولها إلى الوكيل، وأن يُقيد الاطلاع على السجل المرتبط بالحالة المفتوحة فقط، بدلاً من إتاحة جدول كامل أو نطاق بيانات أوسع من اللازم. بهذه الطريقة لا تنتقل الحقول الحساسة إلى السياق، ولا تُسجل في المخرجات أو السجلات أو آثار التنفيذ.
الجانب الآخر لا يقل أهمية، وهو هوية الوكيل نفسه. فعوضاً عن مشاركة حساب خدمة واسع مع مهام متعددة، تحتاج البنوك إلى هوية مخصصة لكل وكيل، بصلاحيات قصيرة الأجل ومحددة بدقة، وبفصل واضح بين القراءة والكتابة. هذا النهج ليس لافتاً إعلامياً، لكنه الفارق بين نظام يجيب عن حالة فردية ونظام قد يغير آلاف السجلات دون قصد.
الضوابط التقليدية ما زالت صالحة لكن بتطبيق جديد
ما يمنح البنوك أفضلية نسبية هو أنها لا تبدأ من الصفر. فمبادئ مثل الفصل بين المهام، والمراجعة المزدوجة، ومبدأ أقل صلاحية، والسجل غير القابل للتلاعب، كلها مألوفة في المؤسسات المالية منذ سنوات طويلة. الجديد فقط هو نقل هذه الثقافة إلى كيان غير بشري يعمل بسرعة الآلة.
عملياً، يعني ذلك أن القرارات عالية الأثر مثل تحويل الأموال أو تعديل صلاحيات المستخدم أو إغلاق الحسابات أو تصدير كميات كبيرة من البيانات يجب أن تبقى خلف بوابات موافقة صريحة. كما يجب أن يُحجب الوكيل عن الوصول إلى البيانات الأكثر حساسية ما لم تكن ضرورية بشكل مباشر للمهمة. أما تتبع ما يفعله، فيجب ألا يقتصر على النتيجة النهائية، بل يشمل خطته، والأدوات التي استخدمها، والموارد التي لمسها.
هذا النوع من السجلات يرفع عبء التخزين والمراقبة، لكنه يصبح ضرورياً عندما ينتقل جزء من العمل المصرفي إلى نظام قادر على اتخاذ خطوات فعلية لا مجرد اقتراحات نصية.
الامتثال يضيف طبقة ضغط إضافية
تتجه المخاطر أيضاً نحو المساءلة القانونية والتنظيمية. فمبادئ تقليل البيانات، وتحديد الغرض، والإبلاغ عن الاختراقات، أصبحت جزءاً أساسياً من التشريعات الحديثة في أكثر من سوق. ومع وجود قواعد مثل اللائحة الأوروبية للذكاء الاصطناعي أو قوانين حماية البيانات الشخصية في أسواق أخرى، لا يعود الإفراط في وصول الوكيل إلى البيانات مجرد ثغرة تقنية، بل مشكلة امتثال قد تثير مساءلات أوسع.
ومع أن هذه النصوص لا تذكر وكلاء الذكاء الاصطناعي بالاسم دائماً، فإن منطقها العام واضح: لا يجوز جمع بيانات أكثر من الحاجة، ولا منح أنظمة التشغيل وصولاً أوسع مما يتطلبه الغرض المحدد. لذلك تتعامل المؤسسات المصرفية مع هذه التحديات بوصفها جزءاً من حوكمة البيانات والأمن والامتثال في وقت واحد، لا كمسألة تقنية منفصلة.
التوازن الصعب بين السرعة والسيطرة
لا توجد حلول سهلة هنا. فكل طبقة إضافية من الموافقة البشرية تقلل المخاطر، لكنها تقلل أيضاً من الفائدة التي وعدت بها أنظمة الذكاء الاصطناعي الوكيلة. وكل سجل إضافي لكل خطوة وكل أداة يرفع متطلبات التخزين والتحليل، ويزيد الضغط على أنظمة المراقبة.
لكن تجاهل هذه المعضلة أسوأ من إدارتها. البنوك التي تنقل دفاعات عصر المساعدات النصية إلى عصر الوكلاء المستقلين ستجد نفسها تحمي الباب الخطأ. أما المؤسسات التي تضبط الأذونات والهوية وحدود الفعل قبل توسيع النشر، فستكون في موقع أفضل لتبنّي الذكاء الاصطناعي من دون تحويله إلى مصدر اضطراب تشغيلي.
الرسالة الأساسية واضحة: في البنوك، لم يعد التحدي في أن يخطئ الذكاء الاصطناعي في الجواب، بل في أن يخطئ في الفعل. ومن هنا يبدأ مستقبل الأمن في الأنظمة المالية الذكية.