تقرير جديد يكشف أن المؤسسات أصبحت تعتمد على الشيفرات التي ينتجها الذكاء الاصطناعي بوتيرة متسارعة، حتى مع إدراكها أن هذه الشيفرات قد تتضمن ثغرات أمنية خطيرة، في ظل فجوة متنامية بين سرعة التطوير وقدرة الحوكمة على المواكبة.
تزايد اعتماد الشركات على الذكاء الاصطناعي في خدمة العملاء والعمليات الداخلية يرفع من أهمية الإشراف البشري، خصوصاً مع عجز الاختبار الآلي وحده عن كشف أخطاء السلامة، والهلاوس، ومشكلات التجربة، والاعتماد المفرط على مخرجات تبدو صحيحة.
أصبح الذكاء الاصطناعي الوكلي أداة مركزية في هندسة البرمجيات، لكنه لم يختصر كل مراحل التطوير. فبينما زادت سرعة إنتاج الكود، برزت مشكلات أعمق تتعلق بالمتطلبات، والحوكمة، والأمن، ومراجعة الإنسان، وقياس الأداء الحقيقي.
لم يعد الذكاء الاصطناعي الظلّي مجرد موظفين يستخدمون أدوات غير مصرح بها، بل أصبح ظاهرة معمارية تتسلل عبر البرمجيات المعتمدة نفسها وعبر الوكلاء الذين يعملون بصلاحيات موروثة. ومع تسارع تبني الوكلاء الذكيين، تصبح الهوية الرقمية نقطة التحكم الأكثر أهمية لإدارة المخاطر.
تتجه مؤسسات كثيرة إلى تحسين النماذج نفسها، لكن المشكلة الأهم في الذكاء الاصطناعي المؤسسي باتت في كيفية مراجعة المخرجات والتحقق من صحتها قبل وصولها إلى أصحاب القرار.
أدوات الذكاء الاصطناعي تمكّن الشركات من بناء أجزاء أكبر من أنظمتها داخلياً، ما يدفع موردي البرمجيات إلى إثبات قيمتهم عبر سرعة التحديثات وشفافية الأسعار وتقديم نتائج تشغيلية ملموسة.
أصبحت نماذج الذكاء الاصطناعي نفسها وسيطاً رئيسياً في تشكيل السمعة العامة لمؤسسي الشركات التي بنتها أو تنافسها، لكن النتائج تختلف بوضوح بين منصة وأخرى، ما يخلق فجوة معرفية قد تؤثر في الرأي العام وصنّاع القرار.
أطلقت OpenAI ميزة "الجلسات النشطة" في ChatGPT لتعزيز الشفافية والتحكم الأمني، لكن خبراء يرون أن التحدي الأكبر أمام المؤسسات لا يزال في حوكمة التحديثات المتسارعة للنماذج نفسها.
تواجه تطبيقات الذكاء الاصطناعي في الشركات سقفاً جديداً يتمثل في ضعف التنسيق بين الأقسام. ومع انتقال المؤسسات من أدوات الإنتاجية الفردية إلى اتخاذ القرار على مستوى الشركة، يبرز التخطيط المستمر كطبقة تشغيلية تجمع البيانات والقيود والأهداف في مسار واحد قابل للحوكمة.
تتسارع قرارات وكلاء الذكاء الاصطناعي داخل الشركات بوتيرة تتجاوز قدرة مجالس الإدارة والفرق القانونية على المتابعة، ما يضع الحوكمة والضبط والمساءلة في قلب دور مدير التقنية. ومع اتساع استخدام الأنظمة الذاتية، تتزايد الحاجة إلى نموذج أمني يقوم على مبدأ الثقة الصفرية والتحقق المستمر.
يبرز بناء منصات الحوكمة المدعومة بالذكاء الاصطناعي أن النماذج التقليدية للرقابة المؤسسية لم تعد كافية، وأن الشركات تحتاج إلى متابعة آنية وسلوك تشغيلي قابل للرصد بدل الاكتفاء بالسياسات المكتوبة.
تشير التطورات التنظيمية الجديدة في الولايات المتحدة إلى أن البنوك والمؤسسات المالية أصبحت تتحمل المسؤولية الأكبر عن حوكمة نماذج الذكاء الاصطناعي التوليدي والوكيل، في ظل غياب قواعد فيدرالية تفصيلية ومحددة.
