انتقال الذكاء الاصطناعي داخل المؤسسات من مرحلة المساعدة إلى مرحلة التنفيذ الذاتي لا يغيّر فقط شكل العمل، بل يعيد تعريف السؤال الأكثر حساسية في الإدارة التقنية: من المسؤول عندما تتسبب الأنظمة في نتيجة خاطئة؟ في السابق كان التركيز منصباً على دقة النموذج أو تحيزه أو امتثاله للمعايير، أما اليوم فالتحدي يتجه إلى ما يحدث بعد أن يبدأ النظام في اتخاذ إجراءات متسلسلة عبر أدوات وموافَقَات وتفويضات متعددة.
في بيئات الأعمال الحديثة، لم تعد أنظمة الذكاء الاصطناعي تكتفي بصياغة النصوص أو تلخيص البيانات أو اقتراح القرارات، بل أصبحت قادرة على تنفيذ مهام عملية مثل الرد على طلبات العملاء، تعديل عروض الأسعار، إرسال مراسلات الموردين، أو حتى المساهمة في قرارات الأمن السيبراني والاستجابة للحوادث. هذه القدرة على الفعل تجعل المخاطر أكثر تعقيداً من مجرد خطأ في المخرجات، لأن كل خطوة قد تكون مبررة تقنياً، لكنها في النهاية قد تقود إلى نتيجة لا يتحملها أي شخص بشكل واضح.
هنا تظهر ما يمكن وصفه بـحلقة اللوم في الذكاء الاصطناعي الوكيلي: عندما تتوزع المسؤولية بين من أعد الإعدادات، ومن منح الصلاحيات، ومن وافق على الربط مع الأدوات، ومن راجع المخرجات، يصبح من الصعب تحديد من يملك القرار الحقيقي. النتيجة أن الخلل لا ينتج من نقطة واحدة، بل من سلسلة من التسليمات بين الأنظمة والفرق البشرية، حتى تختفي مساءلة القرار وسط تراكم الأذونات والتفويضات.
من مخاطر المخرجات إلى مخاطر التسليم بين الأنظمة
بُنيت معظم نماذج الحوكمة السابقة للذكاء الاصطناعي على سؤال بسيط نسبياً: هل المخرجات صحيحة وآمنة وقابلة للتفسير ومتوافقة مع اللوائح؟ هذا الإطار كان مناسباً عندما كانت الأدوات الذكية تعمل كمساعد رقمي يكتب ويقترح ويبحث، لكنه لم يعد كافياً في عصر الوكلاء القادرين على المبادرة والتنفيذ. فالمشكلة لم تعد في ما يقوله النموذج فقط، بل في ما تفعله المنظومة بعد أن يسلّم وكيل مهمة إلى وكيل آخر أو إلى أداة أخرى أو إلى نظام خارجي.
هذا التحول يفرض على الشركات تغيير وحدة القياس الخاصة بالمخاطر. بدلاً من فحص جودة الرد أو القرار الفردي، ينبغي تتبع مسار السلطة: من أين جاءت، وكيف انتقلت، وفي أي نقطة توسعت، وهل ما زال بالإمكان إيقافها أو عكسها إذا ظهرت مشكلة. فكلما زاد عدد نقاط التسليم داخل تدفق العمل، زاد احتمال ضياع المساءلة حتى لو بدت كل خطوة منفصلة سليمة.
وتشير التقديرات المتداولة في السوق إلى أن الشركات الكبرى قد تنتقل من استخدام محدود لعشرات الوكلاء إلى نشر أعداد ضخمة منهم خلال سنوات قليلة، بينما لا تزال نسبة معتبرة من المؤسسات ترى أن بنيتها الحوكمية الحالية غير جاهزة لهذا التوسع. الخطر هنا لا يرتبط فقط بانتشار الوكلاء، بل بتضخم الصلاحيات الممنوحة لهم بشكل غير مرئي أثناء التكامل مع الأنظمة الداخلية والخارجية.
الفرق بين الوصول والسلطة
أحد أكثر الأخطاء شيوعاً في إدارة الذكاء الاصطناعي داخل المؤسسات هو الخلط بين القدرة على الوصول والقدرة على اتخاذ القرار. فمجرد امتلاك النظام حق قراءة البيانات أو إرسال الأوامر لا يعني بالضرورة أنه مخوّل للتصرف نيابة عن الشركة. هذا التفريق يصبح حاسماً عندما يتعامل الوكيل مع مستندات قانونية، أو يقوم بتحديث شروط مالية، أو يؤثر في بنية تحتية تشغيلية، أو ينسّق استجابة أمنية قد تمس استمرارية العمل.
من هذا المنظور، ليس كل وكيل ذكاء اصطناعي مؤهلاً ليكون صاحب قرار. وكيل يراجع عقداً لا ينبغي أن يغيّر بنوده. ووكيل يقترح تعويضاً لا ينبغي أن ينفذه. ووكيل يكتشف تهديداً أمنياً لا ينبغي أن يعزل الأنظمة تلقائياً من دون ضوابط واضحة. الفكرة الأساسية أن السلطة التجارية أو التشغيلية يجب أن تبقى مضبوطة ومحددة، لا أن تتوسع تلقائياً بمجرد إضافة تكامل جديد أو واجهة برمجة جديدة.
وتحذر الممارسات الأمنية الناشئة من أن المخاطر في الأنظمة الوكيليّة لا تتوقف عند الاختراق الخارجي، بل تشمل أيضاً إساءة استخدام الأدوات، أو اختطاف الأهداف، أو سوء التواصل بين الوكلاء، أو تسلسل الأخطاء بحيث يؤدي قرار صغير إلى سلسلة واسعة من النتائج غير المقصودة. ولهذا فإن الأمن في هذا السياق لا يعني فقط حماية البيانات، بل حماية حدود القرار نفسها.
وهم الإنسان داخل الحلقة
لطالما اعتبرت المؤسسات أن وجود الإنسان داخل التدفق يضمن السيطرة. لكن هذا الافتراض يصبح ضعيفاً إذا كانت معظم القرارات قد تشكلت مسبقاً من خلال الإعدادات، أو قواعد الاسترجاع، أو الصلاحيات الممنوحة للأدوات، أو القيم الافتراضية لدى المزود، أو تفويضات وكلاء آخرين. عندها يكون الإنسان مطالباً فقط بالموافقة على نتيجة صيغت فعلياً قبل أن يراها.
المراجعة البشرية في هذه الحالة لا تعني بالضرورة مساءلة حقيقية. فحتى لو راجع موظف الخطوة الأخيرة، قد يكون نطاق القرار قد حُسم بالفعل في طبقات سابقة لا يراها. لذلك تحتاج المؤسسات إلى شفافية في كامل سلسلة القرار: من منح التفويض، إلى انتقاله، إلى حدود استخدامه، إلى المسؤول النهائي عن النتيجة. من دون ذلك، يتحول الإنسان داخل الحلقة إلى إنسان داخل حلقة اللوم.
هذه النقطة لها أثر مباشر على وظائف القيادة التقنية. فالمطلوب من فرق التقنية اليوم ليس فقط التأكد من أن الأنظمة تعمل، بل أيضاً ضمان أن القرار قابل للتتبع، وأن التدخل البشري قادر فعلاً على تغيير النتيجة، لا مجرد التصديق عليها بعد وقوعها. وهذا يتطلب إعادة تصميم تدفقات العمل بحيث تكون الرقابة جزءاً من البنية، لا خطوة شكلية في نهايتها.
مبدأ أقل سلطة بدل أقل امتياز
اعتمدت فرق الأمن السيبراني على مدى سنوات مبدأ أقل امتياز، أي منح الأنظمة الصلاحيات الضرورية فقط للقيام بمهمتها. لكن الذكاء الاصطناعي الوكيلي يفرض تطبيق هذا المنطق على مجال أوسع: السلطة نفسها. فالنظام قد يحتاج إلى وصول تقني، لكنه لا يحتاج بالضرورة إلى حكم تجاري أو قانوني أو تشغيلي.
المؤسسات تقع أحياناً في خطأ شائع، وهو توسيع سلطة الوكيل تدريجياً لأن كل إضافة تبدو مفيدة في حد ذاتها. يبدأ الأمر بربط النظام بأداة واحدة، ثم بإضافة تكامل ثانٍ، ثم بإتاحة ردود تلقائية، ثم بمنح صلاحية تنفيذية محدودة، إلى أن يصبح من الصعب رسم الحدود الأصلية. هذا النوع من التوسع الصامت أخطر من القرارات الكبيرة الواضحة، لأنه يتسلل عبر تحسينات تبدو غير مثيرة للجدل.
لهذا السبب، ينبغي أن يكون لكل وكيل نطاق ضيق ومحدد، وأن تتم مراجعة أي توسع في التفويض باعتباره تغيراً في الحوكمة، لا مجرد تحديث تقني. كما يجب تسمية مالك بشري واضح لكل تدفق عمل ذي أثر ملموس على العملاء أو الأموال أو الموظفين أو الموردين أو الالتزام التنظيمي أو الاستجابة للحوادث.
أسئلة الحوكمة التي تحتاجها الشركات
لإدارة المخاطر بشكل عملي، تحتاج المؤسسات إلى إجابات واضحة عن مجموعة من الأسئلة الأساسية:
- ما هي المهمة التجارية المحددة؟ أي ما الذي صُمم الوكيل لتحسينه، وما الذي يجب ألا يضحّي به أثناء تحقيق هذا الهدف.
- من وافق على نطاق الحكم؟ أي من قرر أن هذا النوع من القرارات يمكن تفويضه في هذا السياق وبهذا المستوى من الاستقلالية.
- من بنى سير العمل؟ أي من ربط النموذج بالأدوات والبيانات والواجهات ومسارات التصعيد التي تحدد قدرته الفعلية.
- من يملك النتيجة؟ أي من يتحمل المسؤولية عندما يؤثر التدفق على العملاء أو المال أو الأمن أو الامتثال أو الاستمرارية التشغيلية.
الإجابة عن هذه الأسئلة لا تكفي وحدها، لكنها تخلق خريطة مساءلة تمنع تلاشي المسؤولية داخل البنية التقنية. فالشركات التي تتعامل مع الذكاء الاصطناعي كأداة إنتاج فقط ستفاجأ سريعاً بأنه أصبح جزءاً من اتخاذ القرار نفسه. أما الشركات التي تبني الحوكمة حول السلطة، لا حول المخرجات فقط، فستكون أكثر قدرة على ضبط المخاطر.
ماذا يعني ذلك للمجالس التنفيذية وفرق التقنية
على المستوى القيادي، لم يعد السؤال هو عدد الوكلاء المنتشرين داخل المؤسسة، بل أين تنتقل السلطة، وكيف يمكن إثباتها، ومتى يمكن سحبها. هذه النقلة تنقل الذكاء الاصطناعي الوكيلي من ملف الابتكار إلى ملف البنية التشغيلية الأساسية، تماماً مثل الهوية الرقمية، وإدارة الوصول، والتكامل بين الأنظمة، وتسجيل المراجعات، وخطط استمرارية العمل.
ويعني ذلك أيضاً أن الحوكمة يجب أن تتوسع لتشمل مراجعة الموردين وعمليات الدمج والاستحواذ. فالشركات التي تشتري حلولاً قائمة على الذكاء الاصطناعي أو تستحوذ على كيانات تستخدم وكلاء مستقلين تحتاج إلى فحص مستويات الاستقلالية، وحدود الأدوات المربوطة، وآليات التراجع، وشروط التغيير عند انتقال الملكية أو تغيير البيئة التشغيلية.
في النهاية، لا يطرح الذكاء الاصطناعي الوكيلي سؤالاً تقنياً فقط، بل سؤالاً مؤسسياً: عندما يستخدم نظام غير بشري بيانات الشركة وسمعتها وأدواتها وصلاحياتها، ما الذي يجعل فعله فعلاً صادراً عن الشركة قانونياً وتشغيلياً؟ من دون إجابة دقيقة، قد تؤدي الأتمتة إلى نتيجة غير مقصودة: أتمتة تلاشي المسؤولية بدلاً من أتمتة العمل نفسه.