خبراء: وكلاء الذكاء الاصطناعي يحتاجون إلى ضوابط صارمة وإشراف بشري مستمر

يتزايد حضور وكلاء الذكاء الاصطناعي في بيئات العمل بوصفهم طبقة جديدة من البرمجيات القادرة على تنفيذ المهام، لا الاكتفاء بالإجابة عن الأسئلة. لكن هذا التطور يرفع أيضاً مستوى المخاطر، لأن هذه الأنظمة لم تعد مجرد مساعدين محادثة، بل أدوات يمكنها التفاعل مع التطبيقات والبيانات واتخاذ إجراءات نيابة عن المستخدمين.

وفي الوقت الذي تتسارع فيه الشركات إلى تبني هذه القدرات، يبرز سؤال أساسي لدى فرق التقنية والأمن: كيف يمكن الاستفادة من استقلالية الوكلاء من دون منحهم مساحة قد تخرج عن السيطرة؟ الإجابة، بحسب خبراء القطاع، تبدأ من التعامل معهم كما لو كانوا موظفين جدد متحمسين، لكنهم بحاجة إلى تعليمات واضحة ومتابعة لصيقة.

الفكرة المحورية التي يطرحها المتخصصون هي أن وكيل الذكاء الاصطناعي لا يجب أن يُفهم بوصفه برنامجاً تقليدياً يسير وفق مسار محدد مسبقاً. على العكس، فهو يربط الأدوات والخدمات في اللحظة نفسها لتحقيق هدف عام، ما يعني أن سلوكه قد يختلف من مرة إلى أخرى حتى عندما تكون المهمة واحدة.

هذا الطابع غير الحتمي يمنح الوكلاء قوة كبيرة في إنجاز الأعمال بسرعة، لكنه يخلق أيضاً صعوبة في التنبؤ بكل خطوة قد يتخذونها. فبدلاً من تنفيذ تسلسل ثابت من الأوامر، يمكن للوكيل أن يختار مسارات مختلفة للوصول إلى النتيجة، وقد يلمس بيانات أو أدوات لم تكن ضمن النطاق المتوقع في البداية.

أحد أكبر التحذيرات المرتبطة بوكلاء الذكاء الاصطناعي يتمثل في منحهم صلاحيات مفرطة منذ البداية. فكلما اتسعت قدرتهم على الوصول إلى الأنظمة والملفات والحسابات، زادت احتمالية أن يستخدموا تلك الصلاحيات بطريقة غير مقصودة أو غير آمنة.

ويرى خبراء أن المشكلة لا تقتصر على إساءة الاستخدام المتعمدة، بل تشمل أيضاً الخطأ الناتج عن سوء التوجيه أو غياب القيود. فقد يطلب المستخدم من الوكيل إنجاز مهمة بسيطة، لكن الوكيل قد يتوسع في التنفيذ اعتماداً على الأدوات المتاحة له، ما يؤدي إلى نتائج غير مرغوبة أو مكلفة.

لهذا السبب، أصبحت سياسة الحد الأدنى من الصلاحيات أكثر أهمية في عصر الوكلاء. المطلوب ليس منعهم من العمل، بل ضبط المجال الذي يتحركون فيه بحيث ينجزون المهام دون أن يتجاوزوا الحدود المسموح بها.

التعامل مع الوكلاء يحتاج إلى أكثر من إعطائهم هدفاً عاماً. فالمطورون ومديرو التقنية مطالبون بإدخال السياق والنية ضمن التصميم منذ البداية، أي تحديد من الذي يعمل الوكيل باسمه، وما البيانات التي يجوز له الوصول إليها، وما النوع المحدد من الإجراءات التي ينبغي أن ينفذها.

غياب هذا الوضوح قد يجعل من الصعب مساءلة النظام لاحقاً. فإذا حدثت مشكلة، يصبح من الضروري معرفة ما إذا كان الفعل قد صدر عن مستخدم بشري، أو حساب خدمة، أو وكيل مستقل. هذا الالتباس يربك فرق الأمن والامتثال، خاصة عندما تتشابه صلاحيات الوكلاء مع صلاحيات المستخدمين الحقيقيين.

ويؤكد مختصون أن الوكيل لا ينبغي أن يُنظر إليه باعتباره أداة عامة، بل كياناً رقمياً يعمل ضمن إطار محدد. لذلك يجب أن تكون تعليماته مرتبطة دائماً بالغرض، وبالجهة المخولة، وبالسجل الذي يوضح ما فعله ولماذا فعله.

يمثل انتشار الوكلاء انتقالاً واضحاً من عالم البرمجيات المتوقعة إلى عالم أكثر ديناميكية. ففي النماذج التقليدية، كان المهندس يعرف مسبقاً كيف ستتصل الواجهات البرمجية ببعضها، وأي خطوة ستتبع الأخرى. أما الآن، فالوكلاء قد يختارون مسارات تشغيل مختلفة أثناء التنفيذ حسب ما يجدونه من أدوات وبيانات متاحة.

هذا التحول يعني أن فرق التطوير لم تعد بحاجة فقط إلى بناء الوظائف، بل أيضاً إلى مراقبة السلوك المحتمل للنظام تحت ظروف متعددة. لذلك، أصبحت الاختبارات الأمنية والتحقق من السيناريوهات الحدودية جزءاً لا يتجزأ من عملية النشر، لا مرحلة ثانوية تأتي بعد الإطلاق.

كما أن العمل مع الوكلاء يتطلب إعادة التفكير في مفهوم التوقعات. فالنظام قد يحقق الهدف النهائي، لكنه يفعل ذلك عبر خطوات لم يخطط لها المطورون مسبقاً. وهنا تكمن المفارقة: فكلما زادت القدرة على الابتكار الذاتي، زادت الحاجة إلى الضبط والتدقيق.

إلى جانب الصلاحيات الواسعة، يثير الخبراء مسألة الذكاء الاصطناعي الخفي، أي استخدام أدوات أو نسخ غير مرئية لإدارة التقنية داخل المؤسسة من دون إشراف رسمي. هذا النوع من الاستخدام قد ينشأ عندما يوظف الموظفون أدوات ذكاء اصطناعي خارج الأطر المعتمدة، أو عندما تُنشأ بيئات تشغيلية لا يعرفها فريق الأمن.

المشكلة هنا أن هذه الأنظمة قد تحصل على وصول فعلي إلى مصادر داخلية حساسة، مثل واجهات برمجة التطبيقات، أو الشيفرة المصدرية، أو قواعد البيانات. وإذا لم تكن هناك خريطة واضحة لما هو مستخدم ومن يملك ماذا، تصبح المراجعة والاستجابة للحوادث أكثر تعقيداً.

والأخطر من ذلك أن المؤسسات قد لا تكتشف هذه الطبقات إلا بعد ظهور خلل أو تسرب بيانات. لذلك، يدعو الخبراء إلى بناء أدوات رؤية ورصد قادرة على تتبع من يستخدم الوكلاء، وما الذي يطلبونه، وإلى أين تنتقل البيانات أثناء العمل.

رغم أن الوكلاء صُمموا لزيادة الكفاءة وتقليل الاعتماد على التدخل اليدوي، فإن البشر لا يزالون جزءاً أساسياً من الحلقة. فالمراجعة البشرية لا تعني عرقلة الأتمتة، بل ضمان أن العمل المؤتمت يسير ضمن حدود مفهومة وقابلة للتدقيق.

ويشدد الخبراء على أهمية فحص الإعدادات التي تعمل بها الأدوات الذكية، ومراجعة نوعية البيانات التي تتصل بها، والاطلاع على الأوامر التي تُمرر إليها. فالمسألة لا تتعلق فقط بما يفعله الوكيل، بل بما يفهمه من الأوامر، وكيف يترجمها إلى خطوات عملية.

كما أن وجود سجلات تنفيذ واضحة يساعد فرق الأمن على التدخل السريع إذا حدث سلوك غير متوقع. من دون هذه الرؤية الكاملة، يصبح اكتشاف الخطأ وتصحيحه أصعب بكثير، خصوصاً عندما تعمل الأنظمة في الخلفية بشكل مستمر.

الخلاصة التي يخرج بها المتخصصون هي أن وكلاء الذكاء الاصطناعي يحتاجون إلى تعليمات دقيقة تماماً كما يحتاج الموظف الجديد إلى شرح واضح لما هو مطلوب وما هو ممنوع. فالغموض في الأوامر يؤدي إلى غموض في السلوك، خصوصاً عندما يمتلك النظام أدوات تنفيذ فعلية.

ولا يكفي تحديد الهدف العام. يجب أيضاً تحديد القيود، ونقاط التحقق، وآلية التصعيد عند الشك، والجهة المسؤولة عن كل خطوة. بهذا الشكل فقط يمكن الاستفادة من الإنتاجية التي يعد بها الذكاء الاصطناعي من دون التضحية بالحوكمة أو الأمن.

وفي بيئة تتسارع فيها قدرات الوكلاء يوماً بعد يوم، يصبح النجاح في إدارة هذه التقنية مرتبطاً بقدرة المؤسسات على الموازنة بين الحرية والانضباط. فالوكلاء قد يكونون مفيدين للغاية، لكنهم يظلون بحاجة إلى توجيه بشري لا يغيب عن الصورة.