أصبحت إدارة الذكاء الاصطناعي داخل المؤسسات واحدة من أكثر القضايا تعقيداً أمام قيادات التقنية، مع اتساع استخدام هذه الأدوات في الأقسام المختلفة بسرعة تفوق قدرة فرق تكنولوجيا المعلومات على المتابعة والضبط. وفي هذا السياق، تكشف بيانات جديدة أن كثيراً من مسؤولي التقنية يُسألون عن نتائج أنظمة لا يتحكمون بها بشكل مباشر.
وتشير دراسة أجراها معهد IBM لقيمة الأعمال، وشملت 2000 من التنفيذيين في المجال التقني، إلى أن نحو ثلثي مسؤولي المعلومات ومسؤولي التقنية يتعرضون للمساءلة عن أنظمة ذكاء اصطناعي لا تقع بالكامل تحت إدارتهم. كما وجدت الدراسة أن 70% من المشاركين يرون أن نشر التقنية داخل الشركات يحدث أسرع من قدرة فرق التقنية على تتبعه، بينما قال 77% إن وتيرة تبني الذكاء الاصطناعي تتقدم على قدرات الحوكمة المتاحة حالياً.
فجوة متزايدة بين المسؤولية والتحكم
النتيجة الأبرز في الدراسة هي أن المسؤولية لا تنتقل بالسرعة نفسها التي تنتقل بها أدوات الذكاء الاصطناعي داخل المؤسسة. فمع اعتماد الشركات على منصات سحابية وتطبيقات أعمال وبرمجيات كخدمة تتضمن وظائف ذكية مدمجة، باتت قرارات النشر تُتخذ في أطراف متعددة من المنظمة، بينما تبقى المحاسبة النهائية غالباً على عاتق القيادات التقنية.
ويرى محللون أن هذا التحول يعكس نموذجاً جديداً في المؤسسات الحديثة: الاستخدام اللامركزي للتقنيات يقابله تركّز واضح للمخاطر في أعلى الهرم الإداري. وفي هذه البيئة، لا يعود السؤال محصوراً في من قام بتشغيل الأداة، بل في من يملك رؤية شاملة لما تفعله الأداة، وما البيانات التي تصل إليها، وكيف يمكن إيقافها عند الحاجة.
الذكاء الاصطناعي يتوسع أسرع من الحوكمة
توضح الدراسة أن المؤسسات تتوقع نمواً كبيراً في عدد وكلاء الذكاء الاصطناعي خلال السنوات المقبلة، إذ يتوقع التنفيذيون زيادة بنسبة 38% بحلول عام 2027. لكن هذا التوسع لا يواكبه استعداد مماثل؛ إذ قال 11% فقط إنهم مستعدون بالكامل لحجم نشر وكلاء الذكاء الاصطناعي المتوقع خلال العام المقبل.
وتضيف النتائج بعداً آخر للضغط الواقع على القيادات التقنية، إذ أفاد 80% من المشاركين بأن هناك توجيهات مباشرة من الرؤساء التنفيذيين لتسريع التحول إلى الذكاء الاصطناعي. هذا يعني أن فرق التقنية لا تتعامل فقط مع تعقيد تشغيلي، بل مع توقعات قيادية عالية تدفع نحو التنفيذ السريع قبل اكتمال أطر الحوكمة.
وفي هذا السياق، تصبح الحوكمة ليست طبقة إضافية من الإجراءات، بل شرطاً أساسياً لاستمرار التوسع. فكلما زاد الاعتماد على أنظمة أكثر استقلالية، أصبحت القدرة على التتبع والمراجعة والتدخل الفوري أكثر أهمية من مجرد إطلاق الأداة نفسها.
الذكاء الاصطناعي الخفي يرفع مستوى المخاطر
أحد أكثر الجوانب حساسية في الظاهرة هو ما يُعرف بالذكاء الاصطناعي الخفي، أي الأدوات والوظائف التي تستخدمها فرق العمل دون إشراف مباشر من إدارة التقنية. فاليوم يمكن للموظفين الوصول إلى قدرات الذكاء الاصطناعي عبر خصائص مدمجة في تطبيقات الأعمال، أو عبر واجهات برمجة التطبيقات، أو من خلال المساعدات الرقمية، أو عبر أطر الوكلاء الذكية التي تعمل بقدر محدود من الرقابة البشرية.
هذا النمط يوسع نطاق الاستخدام، لكنه يخلق أيضاً مساحة أكبر للمخاطر. فبحسب التحذيرات الواردة في الدراسة، لا يقتصر الأمر على قضايا الامتثال والأمن، بل يمتد إلى التكاليف غير المنضبطة، والتعرض التنظيمي، وهجمات إدخال التعليمات، إضافة إلى الثغرات المرتبطة بطبقة الوكلاء أنفسهم.
ويحذر خبراء من أن هذا التطور يمثل انتقالاً من إدارة برمجيات غير خاضعة بالكامل إلى إدارة قرارات غير خاضعة بالكامل. فالخطر لم يعد في التطبيق فقط، بل في الحكم الذي تصدره الأنظمة والنتائج التي تبني عليها مسارات عملها.
وكلاء الذكاء الاصطناعي يضيفون طبقة جديدة من التعقيد
مع انتقال الشركات من مساعدين ذكيين يقتصر دورهم على الإجابة أو التوصية، إلى وكلاء قادرين على تنفيذ مهام متعددة الخطوات والتفاعل مع أنظمة المؤسسة، تتغير قواعد الحوكمة التقليدية. فهذه الوكلاء قد تتخذ قرارات، وتستدعي أدوات، وتتعامل مع أنظمة داخلية وخارجية، وغالباً من دون إشراف بشري مباشر في كل خطوة.
وتشير الدراسة إلى أن المؤسسات تتوقع تشغيل متوسط 1661 وكيلاً للذكاء الاصطناعي بحلول عام 2027، بزيادة نسبتها 38% مقارنة بالوضع الحالي. ووفق هذا المعدل، سيصبح على القيادات التقنية إدارة مئات الآلاف من القرارات الذاتية يومياً، وهو حجم لا يمكن أن تواكبه المراجعات اليدوية التقليدية.
كما رصدت المؤسسات التي شملها الاستطلاع متوسط 54 حادثة مرتبطة بوكلاء الذكاء الاصطناعي خلال العام الماضي احتاجت إلى تدخل بشري أو تصحيح. ووصفت 17% من هذه الحوادث بأنها عالية الخطورة. ومن بين الحوادث الأكثر حدة، أدى 37% منها إلى تسرب بيانات أو خروقات أمنية، وتسبب 33% في أعطال متسلسلة، بينما ارتبط 17% بمشكلات في الامتثال.
الحوكمة المدمجة تقلل الحوادث
أحد الاستنتاجات المهمة في التقرير أن المؤسسات التي تدمج الحوكمة داخل الأنظمة نفسها تسجل نتائج أفضل من تلك التي تعتمد على المراقبة اليدوية فقط. فقد قالت الدراسة إن المؤسسات التي تعتمد على آليات حوكمة مدمجة تشهد حوادث أقل بنسبة 25% مقارنة بنماذج الإشراف التقليدية.
ويعكس هذا الفرق حاجة الشركات إلى التحول من الرقابة المتقطعة إلى الحوكمة التشغيلية المستمرة. فمع الأنظمة الذكية، لا يكفي إجراء مراجعة دورية للسياسات أو اعتمادها في بداية المشروع، لأن السلوك الفعلي للنظام قد يتغير مع الوقت ومع تغيّر السياق والبيانات والأدوات المتصلة به.
ويؤكد خبراء أن الرؤية اللحظية أصبحت أهم من السلطة الإدارية وحدها. فالمطلوب من القيادات التقنية ليس الموافقة على كل عملية نشر، بل معرفة ما الذي يعمل فعلاً، وما الصلاحيات التي يمتلكها، وما المسارات التي يمكن أن يصل إليها، وكيف يمكن التدخل عند الحاجة.
ما الذي تحتاجه الشركات الآن
مع توسع الذكاء الاصطناعي داخل بيئات العمل، يتجه النقاش من سؤال التبني إلى سؤال السيطرة. ويبدو أن المؤسسات التي ستنجح في المرحلة المقبلة هي تلك التي تبني الحوكمة في البنية التشغيلية منذ البداية، لا التي تضيفها بعد وقوع المشكلات.
ومن بين الأولويات التي يوصي بها محللون: إنشاء رؤية مركزية موحدة لما يُنشر من أدوات ذكية، فرض ضوابط سياسات واضحة، تنظيم اللامركزية بدل تركها بلا إدارة، وتعزيز حوكمة البيانات والسياق حتى يمكن تتبع القرارات الآلية وفهمها عند المراجعة.
في النهاية، تكشف الدراسة عن معادلة غير متوازنة في كثير من المؤسسات: الذكاء الاصطناعي يتقدم بسرعة، لكن أدوات السيطرة عليه لا تتقدم بالوتيرة نفسها. وبينما تُضاف طبقات جديدة من الأتمتة إلى الأعمال اليومية، يظل مسؤول التقنية مطالباً بالإجابة عن نتائج قد لا يملك مفاتيحها بالكامل.