تشير معطيات جديدة إلى أن فرق الذكاء الاصطناعي في الشركات الكبرى تمنح الأنظمة الوكيلة مساحة أوسع للتحرك داخل بيئات العمل، في وقت تتراجع فيه الثقة بالاختبارات الآلية التي يُفترض أن تضمن سلامة هذه الأنظمة قبل نشرها. هذه المفارقة أصبحت محوراً أساسياً في نقاشات الذكاء الاصطناعي المؤسسي، حيث تتسع القدرات التشغيلية أسرع من طبقات التحقق والرقابة.
وبحسب استطلاع حديث شمل 157 من العاملين في مؤسسات تضم 100 موظف أو أكثر، فإن نصف الشركات تقريباً تقول إنها نشرت بالفعل وكيلاً للذكاء الاصطناعي أو ميزة قائمة على النماذج اللغوية اجتازت التقييم الداخلي لكنها تسببت لاحقاً في فشل واجه العملاء. والأهم أن ربع هذه الحالات تكررت أكثر من مرة، ما يشير إلى أن نجاح الاختبار لا يعني بالضرورة نجاح التشغيل الفعلي.
ورغم هذه الإخفاقات، لا تبدو المؤسسات مستعدة لتخفيف وتيرة الأتمتة. فـ66% من المشاركين قالوا إنهم يسمحون الآن بنشر بعض القدرات في الإنتاج من دون مراجعة بشرية، أو يبنون أنظمة تتجه إلى ذلك خلال 12 شهراً. في المقابل، لا تتجاوز نسبة من يثقون بالكامل في التقييمات الآلية التي تقرر الإطلاق 5% فقط، وهو ما يعكس فجوة واضحة بين سرعة التبني وقدرة التحقق.
فجوة التقييم: المشكلة ليست في السرعة بل في المطابقة مع الواقع
الحديث هنا لا يتعلق فقط ببطء أدوات الاختبار أو كلفتها، بل بمدى قدرتها على محاكاة ما يحدث فعلاً عندما يتفاعل العميل أو الموظف أو النظام التشغيلي مع الوكيل الذكي. فالأنظمة الوكيلة لا تعمل مثل البرامج التقليدية التي تستقبل مدخلاً ثابتاً ثم تنتج مخرجا متوقعاً؛ بل يمكنها اختيار خطواتها، واستدعاء أدوات متعددة، وجلب بيانات، وتغيير حالة النظام، ثم الوصول إلى نتائج مختلفة من تشغيل إلى آخر.
هذا التعقيد يعني أن الوكيل قد يبدو ناجحاً في تجربة واحدة، لكنه يظل معرضاً للفشل في مرة لاحقة. فقد يحدد الحساب الصحيح لكنه يحدّث الحقل الخطأ، أو يجهز طلباً سليماً لكنه يرسله من دون موافقة، أو يمر بعدة أدوات بنجاح ثم يترك العملية غير مكتملة أو يكشف معلومات حساسة في خطوة لاحقة.
من هنا يأتي مفهوم