تتسع فجوة المساءلة عن أنظمة الذكاء الاصطناعي داخل المؤسسات مع دخول مرحلة الوكلاء الذكيين بسرعة أكبر من قدرة فرق التقنية على المتابعة والضبط. وبينما تمنح الشركات الموظفين حرية واسعة لتجربة أدوات جديدة وبناء حلول آلية، يجد مسؤولو تقنية المعلومات أنفسهم في موقع يتحملون فيه المسؤولية النهائية عن أنظمة لا يرونها كاملة ولا يملكون خريطة دقيقة لها.
وتشير بيانات مستخلصة من استطلاع شمل قيادات تقنية إلى أن هذا التناقض لم يعد هامشياً. فالنسبة الأكبر من مسؤولي تقنية المعلومات والقيادات التقنية تقول إنها محاسبة على أنظمة ذكاء اصطناعي لا تتحكم بها بالكامل، في وقت تنشئ فيه وحدات الأعمال المختلفة وكلاء وأدوات جديدة دون المرور الدائم عبر فرق التقنية المركزية.
نشر أسرع من قدرة الرصد
المشكلة الأساسية لا تبدو في تبني الذكاء الاصطناعي نفسه، بل في الفجوة بين سرعة الاستخدام وسرعة الحوكمة. فالمؤسسات تدفع باتجاه التجريب والتبني السريع، بينما لا تزال فرق التقنية تحاول حصر ما تم نشره، وأين يعمل، وما البيانات التي يتصل بها، وما العائد الذي يحققه.
وتكشف النتائج أن عدداً كبيراً من قادة التقنية يعتقد أن مؤسساتهم تنشر أدوات وأنظمة أسرع بكثير من قدرة فرقهم على تتبعها. كما يتوقع هؤلاء ارتفاعاً إضافياً في عدد وكلاء الذكاء الاصطناعي خلال العام المقبل، لكن نسبة صغيرة فقط ترى نفسها مستعدة فعلاً للتوسع المتوقع.
هذا النمط يخلق واقعاً إدارياً معقداً: الموظفون يبتكرون حلولاً لتسريع العمل، لكن التوسع في هذه الحلول يتم غالباً من دون توثيق كافٍ أو إطار موحد للمراجعة أو قياس الأثر. وبهذا تتحول بيئة الذكاء الاصطناعي إلى مساحة موزعة، تتشكل فيها الأدوات على أطراف المؤسسة بدل أن تنشأ ضمن مركز قرار واضح.
مشكلة الحوكمة والشفافية
يرى خبراء التقنية أن الأزمة الحالية ترتبط أولاً بغياب الرؤية الشاملة. فالكثير من تطبيقات الذكاء الاصطناعي تُبنى داخل الأقسام التشغيلية أو التسويقية أو المالية، بعيداً عن أعين فرق البنية التحتية والأمن والامتثال. والنتيجة هي أن المؤسسة قد تستخدم عدداً كبيراً من النماذج والوكلاء من دون سجل موحد يوضح ما يفعلونه أو ما يستهلكونه من موارد.
وتظهر المشكلة بوضوح عندما يربط موظف في قسم ما نموذج لغة كبيرة بسير عمل يومي، أو عندما يُدخل فريق مالي بيانات داخل أداة ذكاء اصطناعي لتنظيفها، أو عندما يمنح قسم منتج وكيلاً جديداً حق الوصول إلى بيانات العملاء. كل حالة تبدو منفردة ومبررة، لكن مجموعها قد يشكل طبقة تقنية واسعة لا يعرف عنها المدير التقني إلا متأخراً.
الخطورة هنا لا تقتصر على الفوضى التشغيلية. فكل أداة غير خاضعة للرقابة قد تعني مخاطر تتعلق بالأمن، والخصوصية، والامتثال، وجودة المخرجات، إضافة إلى التكلفة المباشرة لاستخدام النماذج والحسابات السحابية. ومع غياب القياس الدقيق، يصبح من الصعب تحديد ما إذا كانت هذه الأدوات تخلق قيمة فعلية أم مجرد نشاط تقني متسارع.
المساءلة بلا سيطرة كاملة
أحد أكثر جوانب الأزمة حساسية هو أن المسؤولية الرسمية تبقى غالباً لدى إدارة التقنية، حتى عندما تكون السيطرة العملية موزعة بين فرق متعددة أو حتى بين موظفين غير تقنيين. وهذا يضع قادة التقنية في وضع يشبه تحميلهم نتائج نظام لم يمر بالكامل عبر قنواتهم التنظيمية.
في المؤسسات الكبيرة، قد يكون هناك اسم لمستخدم أو مطور أو مالك عمل مرتبط بكل أداة ذكاء اصطناعي، لكن الواقع العملي يختلف عندما تكون الأنظمة ذاتية التشغيل وغير حتمية في سلوكها. فهي لا تعمل وفق نص ثابت، بل تتغير استجاباتها بحسب البيانات والإعدادات والتكاملات والقيود الموضوعة لها. لذلك فإن التحكم الحقيقي لا يكون دائماً بيد الشخص الذي أنشأ الأداة، بل قد يتوزع بين عدة أطراف من دون حدود واضحة.
هذه الحالة تولد توتراً بين الهدف التجاري والرغبة في الحماية. فالمؤسسات لا تريد إبطاء الذكاء الاصطناعي، لكنها في الوقت نفسه لا تستطيع الاستمرار في التوسع من دون أدوات مراقبة وتنفيذ للسياسات تسمح لها بمعرفة ما يحدث في الوقت الحقيقي.
المخرجات السريعة لا تعني بالضرورة مخرجات أفضل
يحذر مختصون من أن السرعة المفرطة قد تدفع بعض المؤسسات إلى مقايضة الجودة بالإنجاز السريع. فعندما تُمنح فرق العمل حرية بناء وكلاء وأنظمة متعددة من دون أطر تقييم، قد تنتج المؤسسة أعمالاً تبدو أسرع في التنفيذ لكنها أقل دقة وأكثر عرضة للأخطاء.
والمشكلة هنا ليست في استخدام الأتمتة بحد ذاتها، بل في غياب المعايير التي تساعد على قياس الأداء. فإذا لم تكن المؤسسة تعرف ما الذي يفعله الوكيل، وما المدخلات التي يستخدمها، وما المخرجات التي ينتجها، وما الأخطاء التي يرتكبها، فلن يكون من السهل الحكم على مدى فائدته أو جدواه.
كما أن التوسع غير المنضبط قد يؤدي إلى استهلاك غير محسوب للموارد، سواء من حيث التكاليف أو من حيث الجهد البشري المطلوب لمراجعة النتائج وتصحيحها. وفي هذه الحالة، قد تصبح المؤسسة أسرع في إنتاج العمل، لكنها أبطأ في اكتشاف العيوب وإصلاحها.
اتجاه المؤسسات إلى بناء منصات داخلية
أحد المسارات التي بدأت بعض الشركات في اعتمادها هو إنشاء منصات ذكاء اصطناعي مؤسسية تسمح للموظفين بتطوير وكلائهم وأدواتهم ضمن بيئة خاضعة للرقابة. الفكرة تقوم على عدم منع التجريب، بل تنظيمه داخل إطار موحد يحدد النماذج المسموح بها، وضوابط الخصوصية، وآليات الفحص الأمني، وعمليات التحقق من التكرار والفائدة.
هذا النهج يمنح فرق التقنية والأمن والحوكمة رؤية أفضل، لأنه يربط بين كل أداة وبين مالكها، وبياناتها، وتكلفتها، وقيمتها المتوقعة. كما يساعد على تجنب بناء عدد كبير من الأدوات المتشابهة التي تؤدي الوظيفة نفسها من دون تنسيق، وهو أمر شائع عندما تُترك المبادرات الفردية من دون منصة مرجعية.
ويرى خبراء أن هذا النموذج قد يكون أكثر واقعية من محاولة إيقاف التوسع. فالمؤسسات بحاجة إلى أدوات تتيح لها التحرك بسرعة، لكن ضمن طبقة مركزية تمنحها القدرة على المراقبة وفرض السياسات وتسجيل الاستخدام وإدارة المخاطر.
ما الذي يحتاجه مسؤولو التقنية الآن
الرسالة الأساسية من هذه التطورات واضحة: مستقبل حوكمة الذكاء الاصطناعي داخل الشركات لن يعتمد على النوايا الحسنة وحدها، بل على البنية التشغيلية التي تسمح بالشفافية والمساءلة. فكلما ازدادت القدرة على بناء وكلاء ذكيين بسهولة، ازدادت الحاجة إلى أدوات تعرف من استخدمهم، وماذا يفعلون، وعلى أي بيانات يعتمدون، وما نتائجهم الفعلية.
وبالنسبة لمسؤولي تقنية المعلومات، لم يعد التحدي محصوراً في نشر التقنية، بل في بناء طبقة تحكم تسبق التوسع لا أن تلحق به. فالمؤسسة التي تريد الاستفادة من الذكاء الاصطناعي على نطاق واسع تحتاج إلى رؤية موحدة للأنظمة، وسياسات قابلة للتنفيذ، وآليات قياس مستمرة، حتى لا تتحول السرعة إلى عبء إداري وأمني في الوقت نفسه.
ومع انتقال الشركات إلى عصر الوكلاء الذكيين، يبدو أن النجاح لن يكون من نصيب الأسرع في التبني فقط، بل لمن ينجح في الجمع بين الابتكار والانضباط. فالتوسع من دون حوكمة قد ينتج وفرة في الأدوات، لكنه لا يضمن وفرة في القيمة.