تتسع ظاهرة الذكاء الاصطناعي الظلّي داخل المؤسسات عندما يواجه الموظفون مساراً آمناً لكنه معقد وبطيء. المقال يشرح كيف تتحول الحوكمة إلى عبء إذا لم تكن أدوات الوصول المصرح بها أسرع وأسهل من البدائل غير المنظمة.
تتجه المؤسسات إلى تحويل سياسات الذكاء الاصطناعي من وثائق نظرية إلى ضوابط آلية مدمجة في خطوط التطوير، في محاولة لسد فجوة الحوكمة وتقليل المخاطر التشغيلية والتنظيمية.
جمعت Zero Drift تمويلاً جديداً بقيمة 10 ملايين دولار لتطوير أدوات تساعد الشركات على مراقبة أداء نماذج الذكاء الاصطناعي بعد نشرها، في وقت تتزايد فيه مخاطر انحراف النماذج مع انتقالها من التجربة إلى التشغيل المؤسسي.
دراسة حديثة تكشف مفارقة جديدة في بيئات العمل الرقمية: الذكاء الاصطناعي ينجز جزءاً كبيراً من المهام، لكن الموظفين يقضون وقتاً طويلاً في تغذيته بالسياق ومراجعة مخرجاته وتصحيح أخطائه.
تقرير جديد يكشف أن المؤسسات أصبحت تعتمد على الشيفرات التي ينتجها الذكاء الاصطناعي بوتيرة متسارعة، حتى مع إدراكها أن هذه الشيفرات قد تتضمن ثغرات أمنية خطيرة، في ظل فجوة متنامية بين سرعة التطوير وقدرة الحوكمة على المواكبة.
تزايد اعتماد الشركات على الذكاء الاصطناعي في خدمة العملاء والعمليات الداخلية يرفع من أهمية الإشراف البشري، خصوصاً مع عجز الاختبار الآلي وحده عن كشف أخطاء السلامة، والهلاوس، ومشكلات التجربة، والاعتماد المفرط على مخرجات تبدو صحيحة.
أصبح الذكاء الاصطناعي الوكلي أداة مركزية في هندسة البرمجيات، لكنه لم يختصر كل مراحل التطوير. فبينما زادت سرعة إنتاج الكود، برزت مشكلات أعمق تتعلق بالمتطلبات، والحوكمة، والأمن، ومراجعة الإنسان، وقياس الأداء الحقيقي.
لم يعد الذكاء الاصطناعي الظلّي مجرد موظفين يستخدمون أدوات غير مصرح بها، بل أصبح ظاهرة معمارية تتسلل عبر البرمجيات المعتمدة نفسها وعبر الوكلاء الذين يعملون بصلاحيات موروثة. ومع تسارع تبني الوكلاء الذكيين، تصبح الهوية الرقمية نقطة التحكم الأكثر أهمية لإدارة المخاطر.
تتجه مؤسسات كثيرة إلى تحسين النماذج نفسها، لكن المشكلة الأهم في الذكاء الاصطناعي المؤسسي باتت في كيفية مراجعة المخرجات والتحقق من صحتها قبل وصولها إلى أصحاب القرار.
أدوات الذكاء الاصطناعي تمكّن الشركات من بناء أجزاء أكبر من أنظمتها داخلياً، ما يدفع موردي البرمجيات إلى إثبات قيمتهم عبر سرعة التحديثات وشفافية الأسعار وتقديم نتائج تشغيلية ملموسة.
أصبحت نماذج الذكاء الاصطناعي نفسها وسيطاً رئيسياً في تشكيل السمعة العامة لمؤسسي الشركات التي بنتها أو تنافسها، لكن النتائج تختلف بوضوح بين منصة وأخرى، ما يخلق فجوة معرفية قد تؤثر في الرأي العام وصنّاع القرار.
أطلقت OpenAI ميزة "الجلسات النشطة" في ChatGPT لتعزيز الشفافية والتحكم الأمني، لكن خبراء يرون أن التحدي الأكبر أمام المؤسسات لا يزال في حوكمة التحديثات المتسارعة للنماذج نفسها.
