تُظهر بيانات جديدة من 157 مؤسسة أن الشركات تتقدم بسرعة نحو منح وكلاء الذكاء الاصطناعي مزيداً من الصلاحيات التشغيلية، لكن دون أن تمتلك ثقة كافية في أدوات التقييم التي يُفترض أن تضبط هذا التوسع. ورغم أن هذه الأدوات أصبحت جزءاً أساسياً من دورة تطوير المنتجات المعتمدة على الذكاء الاصطناعي، فإن كثيراً من الفرق التقنية لا تزال ترى أن نتائجها لا تعكس دائماً ما يحدث في البيئة الحقيقية.
وتقدم هذه النتائج صورة أوضح عن التحدي الذي يواجه المؤسسات اليوم: ليس نقص الاختبارات هو المشكلة الأساسية، بل الفجوة بين ما تقوله الاختبارات وما يحدث فعلاً عند تشغيل الوكلاء في الواقع. هذه الفجوة تفسر لماذا تستمر الشركات في الشكوى من حوادث إنتاجية بعد أن كانت الحلول قد اجتازت الفحص الداخلي بنجاح.
نصف المؤسسات واجهت فشلاً بعد اجتياز التقييمات الداخلية
الرقم الأكثر لفتاً في البيانات هو أن 50% من المؤسسات التي تعتمد على التقييمات الداخلية قالت إنها نشرت خلال العام الماضي ميزة أو وكيل ذكاء اصطناعي اجتاز الفحص ثم تسبب في خلل مرئي للعميل. وفي 24% من الحالات تكرر ذلك أكثر من مرة، ما يعني أن المشكلة لم تكن حادثاً منفرداً بل نمطاً متكرراً.
في المقابل، قالت 36% فقط إنها لم تسجل مثل هذا النوع من الفشل، بينما أفادت 8% بأنها لا تجري اختبارات قبل النشر أصلاً، و6% أخرى إما لا تتابع السبب بدقة أو لا تستطيع الجزم به. هذا التوزيع يوضح أن الإخفاق لا يحدث فقط بسبب ضعف في الإدارة أو التنفيذ، بل أيضاً لأن التقييم السابق للنشر لا يكشف دائماً السلوك الذي يظهر لاحقاً تحت ضغط الاستخدام الحقيقي.
الأثر العملي لهذا النوع من الفشل كبير، لأن كثيراً من فرق التطوير تبني قرارات الإطلاق على نتائج الاختبارات المؤتمتة. وعندما تمنح هذه النتائج إحساساً زائفاً بالاطمئنان، تصبح أخطاء الإنتاج أكثر احتمالاً، خصوصاً في الأنظمة التي تتعامل مع العملاء مباشرة أو تنفذ إجراءات حساسة.
الثقة في التقييم الآلي ما زالت محدودة للغاية
رغم الانتشار المتزايد لأدوات التقييم، فإن الثقة بها لا تزال منخفضة بشكل واضح. فقط 5% من المؤسسات قالت إنها تثق بالكامل في التقييم المؤتمت اليوم. وبعبارة أخرى، الغالبية الساحقة ترى أن هناك حدوداً جوهرية تمنع الاعتماد عليه وحده.
أكثر مشكلة أشار إليها المشاركون كانت عدم تطابق نتائج التقييم مع النتائج الواقعية، وجاءت بنسبة 29%. وهذا سبب منطقي للغاية، لأنه يضرب في صميم وظيفة التقييم نفسها: إذا كانت الأداة تمنح الوكيل درجة جيدة ثم يفشل أمام العميل، فإن الاختبار يفقد قيمته كأداة حوكمة.
بعد ذلك جاءت مشكلات التحيز وعدم الاتساق بنسبة 21%، ثم ضعف القابلية للتفسير بنسبة 18%. كما ذكرت 17% من المؤسسات مخاوف تتعلق بتسرب البيانات أو الخصوصية داخل عملية التقييم نفسها. وتكشف هذه الأرقام أن الاعتراضات ليست نظرية، بل ترتبط بمخاطر تشغيلية وأمنية ومؤسسية حقيقية.
هذا الانخفاض في الثقة لا يعني أن المؤسسات توقفت عن الاعتماد على التقييمات. لكنه يعني أنها تتعامل معها بوصفها إشارة مساعدة لا حكماً نهائياً، وهو ما يفسر استمرار البحث عن طبقات إضافية من المراقبة والرقابة البشرية.
الأتمتة تتوسع رغم الشكوك
المفارقة الرئيسية في البيانات أن الاتجاه نحو التشغيل المؤتمت لا يتباطأ، بل يتسارع. 34% من المؤسسات قالت إنها تسمح بالفعل بنشر بعض الوكلاء منخفضي المخاطر إلى الإنتاج دون تدخل بشري مباشر، بينما 33% أخرى تعمل حالياً على تجهيز خطوط النشر لتسمح بذلك خلال 12 شهراً.
هذا يعني أن 66% من المؤسسات إما طبقت بالفعل النشر الخالي من المراجعة البشرية أو تستعد له قريباً. وفي المقابل، 22% فقط قالت إنها لا تتوقع السماح بهذا النوع من النشر في المستقبل المنظور.
الأمر اللافت هنا أن هذا التوسع يحدث في الوقت نفسه الذي تعترف فيه الشركات بأن التقييمات الآلية غير موثوقة بالكامل. أي أن المؤسسة تراهن على آلية لا تثق بها ثقة كاملة كي تمنح أنظمتها مزيداً من الاستقلالية. وهذه ليست مجرد مشكلة أدوات، بل مشكلة حوكمة وقرار تشغيلي.
وتشير البيانات أيضاً إلى أن الشركات الكبرى ليست أكثر تحفظاً بالضرورة. بل على العكس، بدت المؤسسات الأكبر قليلاً أكثر تقدماً في السماح بالنشر الخالي من المراجعة البشرية، كما كانت أكثر عرضة لتسجيل حالات فشل بعد اجتياز التقييم الداخلي. هذا يوضح أن حجم المؤسسة لا يحمي تلقائياً من الفجوة بين الاختبار والواقع.
سوق أدوات التقييم ما زال مجزأً
على مستوى الأدوات، لا يوجد حتى الآن لاعب مهيمن بوضوح في سوق تقييم واعتمادية وكلاء الذكاء الاصطناعي. الأكثر استخداماً كانت أدوات المزودين أنفسهم، مثل التقييمات والتتبعات الأصلية داخل المنصات، بنسبة 17%. وفي النسبة نفسها تقريباً، قالت 17% من المؤسسات إنها لا تستخدم أي أداة مخصصة لهذا الغرض.
تأتي بعد ذلك أدوات الشركات المتخصصة، لكن بنسب متفرقة: 13% تستخدم لوحات Anthropic الخاصة بالتقييم، و12% تعتمد على DeepEval عبر Confident AI، بينما 11% طورت أدوات داخلية خاصة بها. أما المنصات الأخرى المتخصصة مثل Braintrust وLangSmith وWeave وPromptfoo وLangfuse وArize فتظهر بنسب أقل، ما يدل على أن السوق لم يستقر بعد على معيار واحد.
هذا التشرذم يعكس مرحلة مبكرة من النضج المؤسسي. كثير من الشركات ما زال يتعامل مع التقييم كحزمة إضافية أو كحل مؤقت، لا كبنية أساسية متكاملة داخل دورة حياة المنتج. لذلك لا تزال القرارات موزعة بين أدوات المزودين والحلول الداخلية والاعتماد الجزئي على عدم وجود أدوات أصلاً.
المراقبة في الإنتاج تركز على التشغيل أكثر من الجودة
حتى عندما تصل النماذج والوكلاء إلى بيئة الإنتاج، فإن ما تراقبه المؤسسات غالباً ليس جودة المخرجات بقدر ما هو أداء النظام نفسه. 25% قالت إنها تعتمد على تسجيلات التتبع وبيانات التنفيذ، و25% أخرى تراقب البنية التحتية من حيث زمن الاستجابة ومعدلات الخطأ والتكلفة. لكن هذه المؤشرات لا تكفي للحكم على صحة الإجابة أو قرار الوكيل.
في المقابل، 23% فقط تستخدم آليات فورية لفحص الجودة في الوقت الفعلي، بينما 10% تعتمد على مراجعة يدوية متقطعة، وهناك نسبة إضافية لا تعرف بدقة أو لا ترى أن هذا النوع من المراقبة يقع ضمن مسؤوليتها. وعند تجميع هذه الإجابات، يتضح أن نحو ثلاثة أرباع المؤسسات لا تملك مراقبة مؤتمتة مباشرة لجودة المخرجات نفسها.
هذه النقطة شديدة الأهمية، لأن النظام قد يبدو سليماً من الناحية التشغيلية حتى عندما يقدم نتائج خاطئة. أي أن أداء البنية التحتية قد يكون مستقراً بينما يواصل الوكيل إصدار استجابات أو اتخاذ إجراءات غير صحيحة. وهنا تصبح الفجوة بين المراقبة التقنية ومراقبة الجودة فجوة مؤسسية حقيقية.
الاختيار يعتمد على التكلفة، لكن النجاح يُقاس بالاتساق
عندما سُئلت المؤسسات عن المعايير التي تؤثر في اختيار مزود أدوات التقييم، جاءت التكلفة في الصدارة بنسبة 28%، تلتها سهولة الدمج بنسبة 27%، ثم دقة التقييم بنسبة 24%. أما نطاق الرؤية وأجندة التطوير لدى المزود فجاءا في مراتب أقل بكثير.
أما عند سؤالها عن معيار النجاح الأساسي، فقد اختارت 36% الاتساق في نتائج التقييم، أي أن النظام يجب أن يعطي الحكم نفسه لنفس السلوك في كل مرة. وجاءت سرعة التجريب بنسبة 19%، وتقليل الأعطال بنسبة 18%، ثم الرؤية التشغيلية والامتثال.
وهذا يكشف منطقاً عملياً واضحاً: الشركات تريد أدوات رخيصة نسبياً وسهلة الدمج، لكنها في الوقت نفسه لا تثق إلا في النظام الذي يعطي نتائج مستقرة يمكن تكرارها. المشكلة أن الاتساق نفسه لا يساوي الصحة، فإذا كانت الأداة متسقة لكنها متسقة مع معيار غير واقعي، فلن تحل المشكلة الأساسية.
الاستثمارات القادمة تتجه إلى المراقبة والرقابة البشرية
عند النظر إلى أولويات الإنفاق خلال العام المقبل، تتصدر أدوات المراقبة الإنتاجية قائمة الزيادة المتوقعة بنسبة 30%. ويأتي بعدها مباشرة الاستثمار في سير عمل المراجعة البشرية بنسبة 26%، ثم تقييمات السلامة والسياسات بنسبة 20%، بينما لا تتجاوز نسبة من يخططون لزيادة الاستثمار في خطوط التقييم المؤتمت 16%.
هذه النتيجة لافتة لأنها تشير إلى أن الشركات لا تراهن على الأتمتة فقط، بل تعود أيضاً إلى عناصر الإشراف البشري. ففي الوقت الذي تعمل فيه فرق الهندسة على تقليل التدخل اليدوي في النشر، تستعد فرق أخرى لزيادة حضور البشر في المراجعة والحسم النهائي.
وبذلك تتضح استراتيجية التحوط داخل المؤسسات: الدفع نحو استقلالية أكبر للوكلاء، لكن مع طبقات إضافية من الرصد والمراجعة حتى لا تتحول الثقة في الاختبارات الآلية إلى خطأ مكلف في الإنتاج.
السوق يتجه إلى إعادة ترتيب قريبة
تتوقع 64% من المؤسسات أن تعتمد منصة تقييم جديدة أو مضافة أو بديلة خلال 12 شهراً، مقابل 36% فقط لا تخطط لتغيير أدواتها. والأكثر دلالة أن 31% تفكر في التبديل أو التبني خلال الأشهر الثلاثة المقبلة، ما يعني أن السوق ما زال في مرحلة حركة سريعة قبل الاستقرار.
وفي قائمة الخيارات المطروحة، تظهر DeepEval بوضوح باعتبارها من أكثر المنصات التي تنظر إليها المؤسسات حالياً، تليها الأدوات الأصلية من OpenAI، ثم Braintrust. ويعني ذلك أن المؤسسات تزداد انفتاحاً على الأدوات المتخصصة، بعد أن كانت تعتمد بدرجة أكبر على ما توفره منصات النماذج نفسها.
لكن هذه الموجة من التبني لا تعني أن السوق حسم اتجاهه. بل ربما تشير إلى بداية مرحلة فرز حقيقية، حيث ستبحث الشركات عن أدوات قادرة على تقليل الفجوة بين نتيجة التقييم وسلوك الوكيل في الواقع.
الخلاصة
الرسالة الأساسية في البيانات واضحة: المؤسسات تمنح وكلاء الذكاء الاصطناعي استقلالية أكبر من الثقة التي تمنحها للتقييمات المؤتمتة. نصف الشركات تقريباً واجهت فشلاً بعد نجاح الاختبارات الداخلية، ونسبة الثقة الكاملة في التقييم الآلي شبه معدومة، ومع ذلك يتسع نطاق النشر الخالي من المراجعة البشرية.
وفي الخلفية، يبقى السوق نفسه غير ناضج بما يكفي، مع تشرذم في الأدوات وتركيز أكبر على التتبع والتكلفة من التركيز على صحة القرار أو جودة الإجابة. لذلك لا تبدو المشكلة مجرد نقص في الاختبارات، بل في قدرة هذه الاختبارات على تمثيل الواقع الذي ستعمل فيه الأنظمة فعلاً.
ما تكشفه هذه الأرقام هو أن الذكاء الاصطناعي المؤسسي يدخل مرحلة جديدة: مرحلة لا يكفي فيها أن ينجح الوكيل في المختبر، بل يجب أن يثبت أنه يعمل عندما يُترك ليواجه الإنتاج وحده.