كيف تبني فرق SRE أنظمة ذكاء اصطناعي قادرة على التعامل مع الحوادث دون فقدان السيطرة

تدخل هندسة الاعتمادية مرحلة جديدة مع صعود وكلاء الذكاء الاصطناعي القادرين على التعامل مع الحوادث المعقدة بسرعة أكبر من الأدوات التقليدية. لكن القيمة الحقيقية لهذه الأنظمة لا تقاس بقدرتها على اتخاذ القرار فقط، بل بقدرتها على التصرف بأمان عندما تكون البيئة مضطربة، والبيانات ناقصة، والضغط التشغيلي في أعلى مستوياته.

في بيئات الإنتاج، لا يكفي أن يبدو الوكيل الذكي واثقاً أو سريعاً. المطلوب هو نظام يمكن الوثوق به أثناء الانقطاع الفعلي، حين تتداخل التنبيهات، وتتغير الأولويات، وتصبح أي خطوة خاطئة قادرة على توسيع نطاق الضرر بدلاً من احتوائه.

المشهد التشغيلي في فرق SRE أصبح أكثر تعقيداً من أن تحله قواعد جامدة أو سكربتات ثابتة. الحوادث اليوم قد تشمل بيانات متفرقة من السجلات، ومقاييس الأداء، ومسارات التتبع، وسجل النشر، وتغييرات البنية، وسياقاً تجارياً لا يظهر في لوحة التحكم. لهذا السبب بدأت الفرق تنظر إلى الذكاء الاصطناعي كطبقة مساعدة في الفرز والتحليل واقتراح الخطوات التالية.

غير أن هذه الإمكانية تحمل مخاطرة واضحة: النموذج قد يقدّم توصية تبدو منطقية لكنها مبنية على فهم ناقص. لذلك فإن الهدف ليس استبدال المهندس، بل تقليص الوقت الضائع في البحث اليدوي، وتوحيد طريقة الاستجابة، وتقديم قرارات أولية أكثر دقة، من دون دفع النظام إلى استقلالية غير مضبوطة.

أي وكيل ذكي في مجال الاعتمادية يحتاج إلى أرضية صلبة من المراقبة المترابطة. يجب أن يقرأ النموذج ما يحدث عبر المقاييس والسجلات والمسارات والتغييرات الأخيرة وبنية الخدمات وتاريخ الحوادث السابقة. عندما تعمل هذه الإشارات معاً، يصبح من الممكن استنتاج ما إذا كان الخلل ناتجاً عن نشر جديد، أو ضغط على مورد معين، أو عطل جانبي في خدمة مترابطة.

من دون هذا السياق، يتحول الذكاء الاصطناعي إلى محلل سريع لكنه أعمى جزئياً. وقد تكون اللغة الواثقة في هذه الحالة أكثر خطراً من الخطأ الصريح، لأن الفريق قد يميل إلى الوثوق باستنتاج يبدو مرتباً بينما هو غير مكتمل أو غير ملائم للحالة التشغيلية الفعلية.

من أهم مبادئ بناء هذا النوع من الأنظمة فصل مرحلة التحليل عن مرحلة الفعل. يمكن للوكيل أن يجمع الإشارات، ويصنف الاحتمالات، ويقترح خطة معالجة، لكنه لا ينبغي أن يملك حق التنفيذ المباشر من دون طبقة أمان مستقلة تتحقق من الصلاحيات والمخاطر وحجم التأثير المحتمل.

هذا الفصل يقلل نصف قطر الضرر إذا أخطأ النموذج، ويجعل النظام قابلاً للإيقاف والمراجعة. عملياً، ينبغي أن تمر أي خطوة تغيّر حالة الإنتاج عبر بوابة تتحقق من شروط واضحة، مثل مستوى الخطورة، وحالة الخدمة، وما إذا كانت الخطة المقترحة قد اختُبرت في وضع المحاكاة، وما إذا كان هناك بديل أقل خطراً.

الضوابط الأكثر فاعلية غالباً ليست معقدة، بل صارمة ومباشرة. يبدأ ذلك بمبدأ الحد الأدنى من الصلاحيات، بحيث يحصل الوكيل على الوصول الضروري فقط. ثم تأتي حدود السرعة وعدد المحاولات، وإمكانية التشغيل في وضع محاكاة قبل أي تعديل فعلي، وآلية موافقة صريحة للخطوات الحساسة.

كما تحتاج فرق SRE إلى ما يشبه زر الإيقاف السريع، أي قدرة واضحة على سحب الامتيازات أو تعطيل السلوك الآلي فور ظهور مؤشرات خطر. ومن المهم أيضاً إنشاء مستويات مختلفة من الأفعال: المهام المنخفضة الخطورة يمكن أتمتتها بالكامل، بينما تتطلب المهام المتوسطة موافقة خفيفة، وتظل المهام عالية الخطورة خاضعة لقرار بشري مباشر.

• صلاحيات محدودة تمنع الوكيل من الوصول إلى أنظمة لا يحتاجها فعلاً.
• وضع المحاكاة يختبر النتيجة المتوقعة قبل أي تغيير في الإنتاج.
• حدود التكرار توقف الحلقات المفرطة أو الاستدعاءات المتكررة.
• مسارات موافقة تفصل بين الأفعال الروتينية والأفعال الحساسة.
• آلية إيقاف فوري تتيح للبشر استعادة السيطرة عند الحاجة.

الوكيل الذكي الذي لا يترك أثراً واضحاً لقراراته يصبح عبئاً أثناء التحقيق في الحوادث. لذلك يجب أن تكون كل خطوة قابلة للتتبع: ما السياق الذي جمعه، وما الأدوات التي استدعاها، وما الفرضيات التي بنى عليها استنتاجه، وما مستوى الثقة في كل توصية، ومن وافق أو رفض، وما النتيجة النهائية بعد التنفيذ.

هذا السجل التشغيلي لا يخدم التحقيق فقط، بل يساعد في تحسين النماذج والسياسات لاحقاً. فعندما يعرف الفريق أين أصاب الوكيل وأين أخطأ، يمكنه تعديل القيود أو إعادة تدريب النظام أو استبعاد أنماط معينة من الأفعال التي ثبت أنها غير آمنة في ظروف مشابهة.

إدخال الذكاء الاصطناعي إلى عمليات SRE لا يعني تقليص مسؤولية البشر، بل إعادة توزيعها. المهندس يظل مسؤولاً عن فهم الأثر على الخدمة، وتقدير حساسية الحالة، واتخاذ القرار النهائي عند غموض الصورة. أما الوكيل فيفترض أن يخفف الأعمال المتكررة، ويجمع المعلومات، ويقارن الاحتمالات، ويقترح الخطوات بسرعة واتساق.

النموذج التشغيلي الأفضل هو النموذج المتدرج. تبدأ الفرق بمهام قراءة فقط مثل تلخيص التنبيهات وربط الإشارات. ثم تنتقل إلى التوصية من دون تنفيذ. بعد ذلك يمكن السماح بأفعال منخفضة الخطورة ضمن سياسات واضحة. أما الاستقلالية الأعلى فلا تُمنح إلا بعد أداء مستقر، واختبارات متكررة، ودليل عملي على السلامة.

لا تكفي المقاييس المختبرية أو السيناريوهات المبسطة للحكم على جاهزية وكيل SRE. المطلوب هو تقييم يعتمد على حوادث سابقة حقيقية أو معاد تشغيلها، مع قياس قدرة النظام على اكتشاف الإشارات الصحيحة، وترتيب الأسباب المحتملة، واختيار تصرف آمن ضمن سياق تشغيلي واقعي.

وينبغي أن يشمل ذلك اختبارات على إساءة استخدام الأدوات، ومحاولات حقن تعليمات مضللة، وسيناريوهات التكرار اللانهائي، ومراجعات بشرية للحالات الحدودية، ومتابعة أي تراجع في الأداء بعد تحديث النموذج أو تغيير السياسة. المعيار الأهم هنا ليس أن يبدو الرد ذكياً، بل أن يختصر وقت التخفيف من الحادث من دون خلق مخاطرة تشغيلية جديدة.

• إعادة تشغيل حوادث سابقة لاختبار سلوك الوكيل تحت الضغط.
• مقارنة بين المسار المثالي ومسار الفشل لقياس دقة القرار.
• اختبارات عدائية لكشف إساءة استخدام الأدوات أو التضليل.
• مراجعة مستمرة للانحرافات بعد أي تحديث في النموذج أو السياسة.

الأنظمة الوكيلة تفشل أحياناً بطريقة أخطر من البرامج التقليدية، لأن الخطأ قد يخرج في صيغة توصية واثقة قبل أن يدرك أحد أنه خطأ. من أبرز هذه المخاطر أن يستنتج النموذج سبباً جذاباً لكنه غير صحيح، أو أن يكرر استدعاء أداة ما بلا نهاية، أو أن ينفذ خطوة سليمة في سياق خاطئ، أو أن يلتف على سير العمل المعتمد داخل الفريق.

كما أن هناك خطراً آخر أقل وضوحاً: أن تزداد السرعة بينما تتراجع المساءلة. وفي هذه الحالة، يبدو كل شيء أكثر كفاءة على السطح، لكن القدرة على تفسير القرار أو تكراره أو محاسبته تصبح أضعف. لهذا السبب يجب أن يُصمم النظام على أساس توقع الفشل، لا على افتراض الكمال.

أفضل طريقة لنشر وكلاء الذكاء الاصطناعي في هندسة الاعتمادية هي التعامل معهم كأدوات تشغيلية محدودة لا كعقول مستقلة. البداية المنطقية تكون في الاستخدامات القرائية: تلخيص الحادث، تجميع الإشارات، واقتراح فرضيات. ثم تأتي مرحلة التوصية، وبعدها الأتمتة المنضبطة، وأخيراً الاستقلالية الجزئية في الأفعال منخفضة المخاطر فقط.

هذا التسلسل يجب أن يصاحبه تعريف واضح للمالك التشغيلي، وسياسات وصول محددة، وسجل تدقيق قابل للمراجعة، وعمليات ما بعد الحادث تراجع ما حدث وتتحقق مما إذا كانت المخرجات قد حسّنت الأداء فعلاً. بهذه الطريقة يصبح الذكاء الاصطناعي مضاعفاً للموثوقية، لا مصدراً جديداً للتعقيد.

الثقة في وكلاء الذكاء الاصطناعي داخل فرق SRE لا تُمنح تلقائياً، بل تُكتسب عبر التصميم والاختبار والتدرج في الصلاحيات. الأنظمة الناجحة هي التي تعتمد على قياس واقعي، وقيود واضحة، ورؤية قابلة للتدقيق، وبشر يظلون في موقع القيادة عندما تصبح الحوادث معقدة أو مكلفة.

الهدف النهائي ليس إنشاء وكيل لا يخطئ، بل إنشاء نظام يعرف كيف يتصرف بأمان إذا أخطأ، وكيف يتراجع من دون خسائر كبيرة، وكيف يترك للمهندسين القدرة على السيطرة في اللحظة التي تكون فيها السيطرة أهم ما في الأمر.