من التجارب إلى التشغيل الفعلي
أصبح الذكاء الاصطناعي خلال العامين الماضيين جزءاً من خطط التحول الرقمي في عدد كبير من الشركات، لكن الانتقال من مرحلة التجربة إلى بيئات العمل الحساسة لا يزال بطيئاً نسبياً. فالمشكلة لم تعد في توفر الأدوات أو في قدرة الموظفين على استخدامها، بل في كيفية إدخال هذه الأدوات إلى العمليات الأساسية من دون تعريض البيانات أو القرارات أو الامتثال التنظيمي للخطر.
هذا التحول هو ما تراهن عليه شركة Cinchy، المتخصصة في حوكمة الذكاء الاصطناعي والتعاون بين البيانات، عبر طرحها منصة PeriMind بوصفها طبقة تحكم تتيح للمؤسسات مراقبة سلوك الأنظمة الذكية، وفرض السياسات، وتوثيق كل إجراء تنفذه الوكلاء الذكيون داخل الأنظمة الداخلية.
ويأتي هذا التوجه في وقت تتزايد فيه الضغوط على الشركات لتسريع تبني الذكاء الاصطناعي، بينما تظل الفرق القانونية والأمنية والامتثال في حاجة إلى إجابات واضحة حول من يملك القرار، وكيف تتم مراقبة النماذج، ومتى يجب أن يتدخل الإنسان.
لماذا أصبحت الحوكمة أولوية
تقوم رؤية Cinchy على أن الشركات لا تعاني من نقص في الأدوات الذكية بقدر ما تعاني من تعقيد تشغيلي يتسارع مع كل موجة تقنية جديدة. وفي حالة الذكاء الاصطناعي، يتضاعف هذا التعقيد لأن الأنظمة لم تعد تكتفي بإنتاج النصوص أو التوصيات، بل بدأت تتصل بتطبيقات الأعمال وقواعد البيانات وسير العمل الداخلي، وأحياناً تتخذ خطوات شبه مستقلة.
في القطاعات المنظمة مثل الخدمات المالية والرعاية الصحية والتأمين، لا يكفي أن يكون النموذج قادراً على العمل، بل يجب أيضاً إثبات من وافق على تشغيله، وما الصلاحيات الممنوحة له، وكيف يتم التعامل مع الأعطال أو انحراف الأداء أو تغير سلوك النموذج بمرور الوقت. ومن هنا تتحول الحوكمة من موضوع إداري إلى شرط أساسي لتشغيل الذكاء الاصطناعي على نطاق واسع.
وترى Cinchy أن هذا المسار يشبه إلى حد كبير تطور الأمن السيبراني قبل سنوات، عندما انتقل من كونه وظيفة تقنية محدودة إلى إطار تشغيلي متكامل يربط بين العمليات والمخاطر والرقابة الداخلية.
وكلاء الذكاء الاصطناعي يرفعون مستوى المخاطر
تزداد حساسية المشهد مع صعود ما يسمى بوكلاء الذكاء الاصطناعي، وهي أنظمة لا تكتفي بالرد أو التلخيص، بل تستطيع تنفيذ إجراءات داخلية مثل الموافقة على معاملات، أو الوصول إلى تطبيقات الشركة، أو التأثير في قرارات تشغيلية. هذا التحول يجعل أسئلة المساءلة أكثر إلحاحاً من أي وقت مضى.
في هذا السياق، لم يعد كافياً أن تسأل الشركة عما إذا كان النظام الذكي قد أنتج مخرجات صحيحة، بل يجب أن تعرف ما الذي فعله فعلياً، ولماذا فعله، ومن منح الصلاحية له، ومتى يتعين إيقافه أو استدعاء موظف بشري. فكل إجراء تنفذه الأنظمة الذاتية يترك أثراً تشغيلياً ومالياً وتنظيمياً، ويحتاج إلى سجل تدقيق واضح يمكن الرجوع إليه لاحقاً.
وتكتسب هذه النقطة أهمية خاصة في البيئات التي تخضع لمتطلبات امتثال صارمة، حيث قد يكون لأي قرار آلي أثر مباشر على التقارير المالية أو حماية العملاء أو متطلبات الإفصاح.
مخاطر الذكاء الاصطناعي الظل
كما عرف قطاع الأمن السيبراني لسنوات طويلة ظاهرة «تكنولوجيا الظل» التي يستخدمها الموظفون خارج القنوات الرسمية، بدأت المؤسسات تواجه نسخة جديدة من المشكلة مع الذكاء الاصطناعي. فالموظفون قد يلجأون إلى أدوات عامة أو نماذج خارجية بهدف زيادة الإنتاجية، لكن ذلك قد يفتح الباب أمام تسرب البيانات الحساسة أو الملكية الفكرية أو معلومات العملاء.
الخطر هنا لا يرتبط دائماً بسلوك متعمد، بل غالباً بحسن نية الاستخدام من دون ضوابط كافية. فإذا طلب موظف من نموذج عام تحليل وثيقة داخلية أو تلخيص معلومات مالية، فقد يمنح النظام وصولاً ضمنياً إلى بيانات لا ينبغي مشاركتها خارج البيئة المؤسسية.
لذلك تؤكد Cinchy أن المؤسسات تحتاج إلى رؤية شاملة لما يجري، إلى جانب سياسات وصول محكمة، وحدود واضحة للاستخدام، وسجلات مراجعة دقيقة. فالهدف ليس إبطاء التبني، بل جعله آمناً وقابلاً للتوسع.
الأمن السيبراني لم يعد منفصلاً عن الذكاء الاصطناعي
تتعامل الشركات التقليدية عادة مع الأمن السيبراني بوصفه منظومة لحماية الأجهزة والهوية والشبكات والسحابة. أما في بيئة الذكاء الاصطناعي، فإن سطح التهديد يتوسع ليشمل النماذج نفسها، ومطالبات الإدخال، وإدارة الامتيازات، واحتمالات الانحراف في النموذج، والاعتماد على مزودي النماذج الأساسية من الأطراف الثالثة.
هذا يعني أن أمن الذكاء الاصطناعي لا يحل محل الأمن السيبراني، بل يبنى فوقه. فالشركات ما زالت بحاجة إلى جميع الضوابط التقليدية، لكنها تحتاج أيضاً إلى طبقة إضافية تتعامل مع خصائص الذكاء الاصطناعي بوصفه نظاماً تشغيلياً قادراً على اتخاذ القرارات والتفاعل مع تطبيقات الإنتاج.
ومن هنا تبرز أهمية المنصات التي تجمع بين الرؤية الشاملة، والتحكم في الصلاحيات، والتدقيق، والاستجابة للحوادث، والمرونة التشغيلية، بدلاً من الاكتفاء بحماية المحيط الخارجي فقط.
ما الذي يجب أن تسأله مجالس الإدارة
مع توسع استخدام الذكاء الاصطناعي داخل الشركات، باتت مجالس الإدارة أكثر اهتماماً بملف الحوكمة. والسؤال الأساسي الذي ينبغي طرحه لم يعد متعلقاً بسرعة التبني فقط، بل بمدى قدرة الإدارة على إثبات أن الأنظمة الذكية تعمل تحت نفس مستوى الانضباط المفروض على بقية الأنظمة الحرجة في الشركة.
وتشمل الأسئلة الجوهرية هنا: أين يُستخدم الذكاء الاصطناعي؟ من يملك كل تطبيق أو نموذج؟ كيف تتم مراقبة القرارات؟ ما المخاطر المرتبطة بالاعتماد على مزود خارجي؟ وماذا يحدث إذا تعطلت الخدمة أو تغيرت خصائص النموذج؟
الإجابة عن هذه الأسئلة لا تمنح الشركة فقط امتثالاً أفضل، بل تساعدها أيضاً على تبني التقنية بثقة أكبر، لأن الثقة هي العامل الذي يسمح بنقل الذكاء الاصطناعي من المختبر إلى العمليات اليومية.
منعطف استراتيجي في السوق المؤسسية
تتوقع Cinchy أن الحوكمة ستتحول خلال السنوات الثلاث إلى الخمس المقبلة من ميزة تنافسية إلى متطلب أساسي لدخول السوق والاحتفاظ بالعملاء. ومع أن بعض الشركات لا تزال تنظر إلى الحوكمة باعتبارها طبقة إضافية من التعقيد، فإن الاتجاه العام يشير إلى العكس: المؤسسات التي تبني ضوابطها مبكراً ستكون أسرع في توسيع الاستخدامات الحساسة، بينما ستبقى الشركات الأخرى عالقة في المرحلة التجريبية.
وبهذا المعنى، لا ينحصر رهان Cinchy في بيع أداة تقنية، بل في الدفع نحو نموذج جديد لإدارة الذكاء الاصطناعي داخل المؤسسات، نموذج يجمع بين السرعة والرقابة والقدرة على التوثيق والمساءلة. ومع اتساع اعتماد الوكلاء الذكيين في بيئات العمل، يبدو أن الحوكمة ستصبح جزءاً ثابتاً من بنية أي مؤسسة تريد استخدام الذكاء الاصطناعي بثقة ومسؤولية.