تتحرك أمازون لتقديم رؤية أكثر تحفظاً وصرامة في التعامل مع وكلاء الذكاء الاصطناعي داخل المؤسسات، في وقت أصبحت فيه هذه الأنظمة قادرة على تنفيذ مهام عمل معقدة بشكل شبه مستقل، لكن دون أن تكتسب بعد ثقة كافية لدى فرق تقنية المعلومات.
الفكرة الأساسية التي تطرحها الشركة لا تقوم على قياس أداء النموذج في اختبار واحد ثم اعتبار النظام آمناً، بل على بناء إطار يربط بين الاتساق والصلابة وقابلية التنبؤ والسلامة. هذا التحول يعكس اتجاهاً متنامياً في القطاع نحو تقييم الوكلاء بحسب سلوكهم في بيئات متعددة، وليس فقط بحسب نتيجة معيارية ثابتة.
مشكلة القياس التقليدي
أحد التحديات الرئيسية في اعتماد وكلاء الذكاء الاصطناعي يعود إلى الطريقة التي تُقاس بها الموثوقية. فالمعايير الشائعة تعتمد غالباً على درجات تقييم ثابتة، وهي مفيدة لقياس لحظة معينة من الأداء، لكنها لا تكشف بالضرورة ما إذا كان النظام سيكرر النتيجة نفسها عند تغير السياق أو صياغة الطلب أو نوع البيانات.
بحسب هذا المنطق، قد يبدو النموذج جيداً في اختبار محدد، ثم يتصرف بصورة مختلفة عند نقله إلى بيئة تشغيل فعلية داخل الشركة. وهنا تظهر الفجوة بين القدرة على إنجاز المهمة والموثوقية التشغيلية اللازمة للسماح له بالوصول إلى أنظمة حساسة.
هذا القلق ليس نظرياً فقط. فمع توسع استخدام الوكلاء في الأعمال اليومية، أصبحت الشركات تريد ضمانات أوضح قبل منحهم صلاحيات تتعلق بالملفات، أو قواعد البيانات، أو الأدوات الداخلية التي يمكن أن تؤثر مباشرة في العمليات التجارية.
لماذا تتردد الشركات في منح الوكلاء صلاحيات واسعة
رغم التقدم الكبير في قدرات الوكلاء، لا تزال المؤسسات متحفظة إزاء تفويضهم الكامل بالوصول إلى الأنظمة الداخلية. وتزداد الحساسية كلما اقترب الاستخدام من مجالات عالية المخاطر مثل التمويل أو العمليات التشغيلية الحرجة، حيث قد ينتج عن أي خطأ أثر مالي أو قانوني أو أمني مباشر.
أحد أسباب هذا التردد أن الشركات لا تريد الاعتماد على طبقات الحماية البرمجية وحدها. بل تبحث عن تصميمات تفصل بين قدرات الوكيل وبين تنفيذ الأفعال النهائية، بحيث يستطيع النظام اقتراح التغييرات أو الإجراءات، بينما يراجعها الإنسان قبل اعتمادها.
هذا النهج القائم على الفصل بين الاقتراح والتنفيذ يهدف إلى تقليل احتمالات الخطأ، ومنح الفرق البشرية فرصة للتحقق من القرارات الحساسة، خصوصاً عندما تكون الأوامر متعددة الخطوات أو مرتبطة بمعلومات داخلية شديدة الأهمية.
ما الذي يقلق قادة التقنية في الواقع العملي
في استطلاع حديث شمل أكثر من مئة من قادة التكنولوجيا والمشترين في الشركات، قال 4% فقط إنهم مرتاحون للاعتماد على حواجز الأمان الخاصة بالنموذج وحدها. وتُظهر هذه النسبة أن الثقة في أنظمة الحماية الحالية لا تزال محدودة، رغم انتشار الحديث عن وكلاء أكثر استقلالية.
وعند سؤال المشاركين عن أكبر المخاوف المرتبطة بحواجز الأمان، برزت قضيتان أساسيتان: الوصول غير المصرح به إلى الأدوات أو البيانات، والتلاعب بالتعليمات أو إدخال أوامر خبيثة. هذان التهديدان يوضحان أن المشكلة لا تقتصر على دقة المخرجات، بل تشمل أيضاً أمن المسار الذي يسلكه الوكيل أثناء تنفيذ المهمة.
بمعنى آخر، قد ينجح النظام في إنتاج إجابة صحيحة، لكنه يظل عرضة لأن يُوجَّه بطريقة غير مقصودة إلى أداة لا ينبغي له استخدامها، أو إلى ملف لا يملك صلاحية الاطلاع عليه، أو إلى قرار يتجاوز حدود التفويض الممنوح له.
من الوكلاء الفرديين إلى البنى متعددة الأدوات
الرؤية التي تعمل عليها أمازون تتجاوز فكرة الوكيل الفردي الذي يعمل داخل طبقة واحدة من القيود، لتصل إلى بنية أكثر تعقيداً تعتمد على عدة أدوات ومسارات تحقق قابلة للتعديل أثناء التنفيذ. الهدف هو أن يتمكن النظام من تصحيح نفسه إذا واجه مشكلة في منتصف المهمة، بدلاً من الاستمرار في مسار خاطئ حتى النهاية.
هذا النوع من البنى قد يكون أكثر ملاءمة لتطبيقات الشركات، لأنه يفتح المجال أمام فصل الأدوار بين التفكير، والاقتراح، والتنفيذ، والمراجعة. كما يسمح بتقليل الأثر الناتج عن الخطأ الفردي، عبر إدراج نقاط توقف ومراجعة وتأكيد قبل اتخاذ الخطوات النهائية.
مثل هذه المقاربة تشير أيضاً إلى أن الجيل القادم من أنظمة الوكلاء لن يُقاس فقط بذكائه، بل بقدرته على العمل ضمن حدود تشغيلية واضحة يمكن مراقبتها وتدقيقها.
منظور أوسع لسوق الذكاء الاصطناعي المؤسسي
تأتي هذه التحركات في وقت ينتقل فيه النقاش داخل قطاع الذكاء الاصطناعي من سؤال ما الذي يستطيع النموذج فعله؟ إلى سؤال أكثر عملية: كيف يمكن تشغيله بأمان داخل مؤسسة حقيقية؟
هذا التحول مهم لأن المؤسسات لا تبحث عن قدرات نظرية بقدر ما تبحث عن أنظمة يمكن الاعتماد عليها في بيئات العمل اليومية. لذلك أصبح تصميم الوكلاء، والرقابة عليهم، والقدرة على تتبع خطواتهم، عناصر أساسية في أي خطة تبني ناجحة.
كما أن التركيز على الثقة يعكس نضجاً في سوق الذكاء الاصطناعي التوليدي. فبعد موجة الانبهار الأولى، بدأت الشركات الكبرى تدرك أن القيمة الحقيقية لن تتحقق إلا إذا أمكن دمج هذه الأنظمة في العمليات دون تعريض البيانات أو الامتثال أو السمعة للخطر.
أهمية هذا التوجه للمؤسسات
بالنسبة لفرق التقنية، يقدّم هذا التوجه إطاراً أوضح للتفكير في اعتماد الوكلاء. فبدلاً من قياس النجاح بعدد المهام التي أنجزها النظام فقط، يصبح السؤال مرتبطاً بمدى قدرته على التكرار، والاستقرار، والتصرف بطريقة متوقعة عندما تتغير الظروف.
أما بالنسبة لقادة الأعمال، فإن الرسالة الأساسية هي أن التشغيل الآمن للوكلاء قد يتطلب استثماراً في الحوكمة، والفصل بين الصلاحيات، ومراجعة الإنسان، وليس في النموذج وحده. وهذا يعني أن بناء الثقة سيكون جزءاً من البنية التقنية نفسها، لا طبقة إضافية تُلحق بها لاحقاً.
وفي ظل هذا الاتجاه، يبدو أن مستقبل الوكلاء الذكيين في الشركات لن يُحدده مستوى الذكاء فقط، بل القدرة على إثبات أنهم يظلون موثوقين عندما يصبح الوصول إلى الأنظمة الحساسة جزءاً من عملهم اليومي.