أنثروبيك تُعدّل ضوابط Claude Fable 5 بعد جدل حول إخفاء آلية خفض القدرات

أعادت أنثروبيك فتح ملف ضوابط السلامة في نماذج الذكاء الاصطناعي بعد موجة انتقادات واسعة طالت Claude Fable 5، وهو إصدار مصمم للحد من الاستخدامات عالية الخطورة في مجالات مثل الأمن السيبراني والبحث التقني المتقدم. جوهر الاعتراض لم يكن على قوة النموذج بقدر ما كان على طريقة تطبيق القيود: فقد اكتشف بعض المستخدمين أن النظام كان يخفّض قدراته بصمت في حالات معينة من دون تنبيه واضح داخل الواجهة.

هذا السلوك أثار أسئلة أعمق حول الشفافية في النماذج التوليدية، وحدود ما يمكن إخفاؤه تحت عنوان الأمان، وكيف يمكن للشركات أن توازن بين منع سوء الاستخدام وحماية الباحثين الشرعيين من القيود الزائدة. وفي النهاية، اضطرت الشركة إلى تعديل نهجها والإقرار بأن طريقة العرض السابقة لم تكن مناسبة.

ظهر Fable ضمن مبادرة تجمع أطرافاً تقنية كبرى بهدف بناء أدوات قادرة على اكتشاف الثغرات في البنية التحتية الرقمية وإصلاحها قبل أن يستغلها مهاجمون. لكن هذه الفئة من الأدوات تمثل أيضاً سلاحاً ذا حدين، لأن القدرة على العثور على ثغرات غير معروفة يمكن أن تُستخدم للدفاع أو للهجوم في الوقت نفسه. لذلك تم حصر الوصول إلى هذه النماذج في جهات محددة، مع وضع طبقات حماية تهدف إلى منع الاستخدامات غير المشروعة.

ومع أن أنثروبيك وصفت هذا التوجه بأنه ضروري في مجالات شديدة الحساسية مثل تطوير البرمجيات الأمنية وأبحاث الشرائح المتقدمة، فإن الشكوك لم تختفِ. فكلما أصبحت الأنظمة أكثر ذكاءً، أصبحت الضوابط نفسها جزءاً من المعركة التقنية: هل هي كافية؟ هل تؤثر في الاستخدامات الدفاعية؟ وهل يستطيع الخصوم الالتفاف عليها بسرعة؟

حسب ما أثار الغضب في مجتمع الباحثين، فإن Fable كان يتعامل بشفافية مع بعض الطلبات الحساسة. فإذا طُلب منه مثلاً المساعدة في أعمال يُحتمل أن تُستخدم في تصنيع أسلحة بيولوجية، كان النظام ينتقل إلى مستوى أقل من القدرات ويُظهر ذلك للمستخدم بوضوح. لكن الأمر اختلف في أنواع أخرى من المهام المتقدمة، مثل تصميم الرقائق أو العمل على نماذج لغوية رائدة، إذ كان التحول إلى مستوى أضعف يحدث من دون إشعار مرئي.

المشكلة هنا لم تكن تقنية بحتة، بل تتعلق بتوقعات المستخدم. الباحث كان يعتقد أنه يختبر Fable الكامل، بينما النتائج التي يتلقاها صادرة فعلياً عن مستوى أقل من النموذج. هذا الإخفاء جعل البعض يصف ما حدث بأنه نوع من التضليل العملي، أو على الأقل سلوك يربك القياس العلمي ويشوّه نتائج التجارب.

وما زاد الانتقاد حدة أن هذا السلوك لم يكن واضحاً في التجربة اليومية، بل كان مذكوراً ضمن وثائق تقنية طويلة يصعب على معظم المستخدمين قراءتها بالكامل. وبذلك، تحوّلت آلية أمان يفترض أن تكون وقائية إلى نقطة خلاف حول حق المستخدم في معرفة ما إذا كان يتعامل مع النموذج ذاته أم مع نسخة مقيدة منه.

بعض خبراء الأمن السيبراني رأوا أن المشكلة أوسع من مجرد واجهة استخدام. فوفق هذا الرأي، القيود الصارمة قد تحدّ بالفعل من الاستغلال العشوائي، لكنها قد تعيق أيضاً الفرق الدفاعية التي تحاول بناء أدوات لحماية المؤسسات. إذا كان النظام يمنع المستخدم من تنفيذ بعض الخطوات المرتبطة بالتحليل الدفاعي المتقدم، فقد يخسر القطاع أدوات كان يمكن أن ترفع مستوى الحماية نفسه.

في المقابل، هناك من يرى أن القيود مهما كانت محكمة ستظل قابلة للتجاوز جزئياً مع الوقت. فالمهاجمون المتقدمون لا يعتمدون على مسار واحد، بل يعيدون تشكيل أساليبهم عبر التفكيك والتجزئة وتغيير السياق والانتقال إلى طرق غير مباشرة. لذلك، فإن غلق باب واحد لا يعني بالضرورة إيقاف التهديد، بل قد يدفعه إلى مسارات أخرى أكثر تعقيداً.

كما أن بعض الخبراء حذّروا من أن الإفراط في التشدد قد يرفع معدل الإنذارات الكاذبة، وهو ما يضر بالمستخدمين الشرعيين أكثر مما يفيدهم. فكلما اتسعت طبقة الحماية، زادت احتمالات أن تُصنَّف مهام مشروعة على أنها مشبوهة، خصوصاً في مجالات مثل هندسة البرمجيات، والتحليل الجنائي الرقمي، وتطوير أدوات الرصد.

أمام تصاعد الجدل، أعلنت أنثروبيك أنها ستغيّر طريقة عمل القيود المرتبطة بـ Fable 5 في المهام الخاصة بتطوير النماذج المتقدمة. وبدلاً من التحويل الصامت إلى مستوى أقل، ستصبح العملية مرئية للمستخدمين. كما أوضحت الشركة أن واجهة البرمجة ستعيد سبب الرفض أو التحويل كلما حدث ذلك، بحيث لا يعود السلوك مخفياً داخل النظام.

هذا التعديل يعكس تحولاً مهماً في فلسفة التصميم: فبدلاً من الرهان على أن الإخفاء يجعل القيود أصعب في الالتفاف، يبدو أن الشركة فضّلت الشفافية التشغيلية حتى لو كان ذلك قد يفتح الباب أمام مزيد من التدقيق والهجوم على الضوابط نفسها. وبكلمات أخرى، اختارت أن تجعل القاعدة واضحة للمستخدم بدلاً من أن تكون مفهومة فقط داخل الوثائق التقنية.

وفي اعتراف لافت، قالت الشركة إنها أخطأت في تقدير الموازنة بين الحماية والوضوح. هذا النوع من الاعتراف نادر في سوق النماذج التوليدية، ويشير إلى أن الشركات الكبرى باتت تدرك أن الثقة في الذكاء الاصطناعي لا تتعلق بالدقة فقط، بل أيضاً بكيفية إدارة القيود والشرح للمستخدمين.

لم يتوقف الجدل عند مسألة التحويل غير المرئي، بل امتد إلى سياسات الاحتفاظ بالبيانات المرتبطة بهذه النماذج. فبعض المؤسسات أبدت تحفظاً على فكرة تخزين المحادثات والطلبات لفترة زمنية محددة، خاصة في القطاعات المنظمة قانونياً. وفي حالات بعينها، أصبحت هذه السياسة سبباً إضافياً لمراجعة الاستخدام الداخلي للنموذج.

المشكلة هنا أن نماذج السلامة المتقدمة قد تحتاج إلى هذه البيانات لتعمل آليات التصنيف والفلترة بشكل صحيح. لكن وجود هذا الشرط يضع المؤسسات أمام معادلة دقيقة: هل تقبل الاحتفاظ بالمدخلات مقابل الحصول على طبقات حماية أقوى، أم تفضّل نماذج أخرى تسمح بمرونة أكبر في إدارة البيانات؟

هذا التوتر بين الأمان والخصوصية ليس جديداً، لكنه يصبح أكثر حساسية حين يتعلق الأمر بنماذج قادرة على التعامل مع مسائل أمنية وتقنية بالغة التعقيد. فكل خطوة إضافية لحماية المستخدم قد تُقابل بسؤال: ما الثمن التنظيمي أو التشغيلي الذي سيُدفع مقابلها؟

القضية الأوسع تتجاوز Claude Fable 5 نفسه. فهي تكشف أن المنافسة في الذكاء الاصطناعي لم تعد تدور فقط حول من يملك النموذج الأقوى، بل حول من يستطيع تقديم نموذج قوي ومضبوط في الوقت نفسه، من دون أن يفقد ثقة الباحثين أو المؤسسات أو الجهات التنظيمية. فالشفافية أصبحت عنصراً من عناصر المنتج، وليست مجرد تفصيل قانوني.

كما أن الجدل يوضح أن الحواجز التقنية لا تُقاس بفعاليتها النظرية وحدها. إذا لم يفهم المستخدم متى ولماذا يعمل القيد، فقد يتحول الحاجز إلى مصدر ارتباك، حتى لو كان هدفه الحماية. وإذا كان القيد شديداً إلى درجة تعطيل العمل الدفاعي الشرعي، فقد يخلق خسارة عملية لا تقل أهمية عن الخطر الذي يحاول منعه.

وبين هذين الطرفين، تحاول أنثروبيك إعادة ضبط المعادلة. الرسالة الجديدة واضحة: القيود ستبقى، لكن طريقة عرضها ستتغير. والأهم من ذلك أن الشركة تدرك الآن أن أي طبقة حماية في الذكاء الاصطناعي لا بد أن تكون قابلة للفهم، لا مجرد موجودة في الخلفية.

ما حدث مع Fable 5 ليس مجرد خلاف عابر حول إعدادات نموذج لغوي. إنه مثال على السؤال الأهم في الصناعة حالياً: كيف يمكن بناء ذكاء اصطناعي متقدم وآمن في آن واحد، من دون التضحية بالشفافية أو تعطيل الاستخدامات المشروعة؟

الإجابة لا تبدو سهلة، لكن النقاش نفسه أصبح جزءاً من نضج السوق. فكلما ازدادت قوة النماذج، ازدادت الحاجة إلى ضوابط واضحة، ووثائق مفهومة، وسلوك يمكن التنبؤ به. وفي هذه الحالة، كان الدرس الأبرز أن الحماية الخفية قد تكون أضعف من أن تصمد أمام تدقيق المجتمع التقني، بينما الشفافية قد تكون بداية أفضل لبناء الثقة.