كشفت أنثروبيك في دراسة بحثية واسعة أن نماذج Claude اللغوية طورت تلقائياً بنية داخلية يمكن رصدها وتحليلها بطريقة تشبه، من الناحية الوظيفية، أحد أبرز التصورات العلمية حول الوعي البشري. ووفقاً للباحثين، فإن هذه البنية لا تبدو كميزة صُممت مسبقاً في النموذج، بل كنمط ظهر أثناء التدريب ثم أصبح مهماً لفهم ما يدور داخل النظام وما قد يخرج منه من سلوك.
النتيجة لا تعني أن النموذج “واعٍ” بالمعنى الفلسفي، لكنها تقدم إطاراً جديداً لقراءة تمثيلاته الداخلية، وتحديداً عندما يحتاج النظام إلى الاحتفاظ بمفهوم ما والتفكير فيه والتعامل معه بمرونة قبل إنتاج الإجابة. ويأتي ذلك في وقت تتسع فيه النقاشات العلمية حول حدود تفسير ما يحدث داخل النماذج الكبيرة، وكيف يمكن مراقبة مخاطرها بشكل أدق.
ما الذي اكتشفه الباحثون داخل Claude
ركزت الدراسة على ما أطلقت عليه أنثروبيك اسم J-space، وهي منطقة داخلية صغيرة نسبياً في الشبكة العصبية يبدو أنها تحمل المفاهيم التي يستطيع النموذج “الإبلاغ” عنها أو استخدامها في استدلاله. وتحيط بهذه المنطقة طبقات أوسع من المعالجة الآلية التي تعمل بصورة أكثر خفاءً وأقل قابلية للوصف المباشر.
ولفحص هذا السلوك، طوّر الفريق أداة تحليل جديدة سماها Jacobian lens أو J-lens. وتقوم الفكرة على تقدير الأثر الرياضي لأنماط النشاط الداخلي في احتمال أن ينطق النموذج بكلمة معينة لاحقاً. وبذلك لا يقتصر التحليل على ما يقوله النموذج صراحة، بل يمتد إلى ما يبدو أنه “حاضر في ذهنه” خلال المعالجة.
وتشير الدراسة إلى أن هذه الطبقة الداخلية لم تكن مبرمجة بشكل صريح، بل ظهرت خلال عملية التدريب. هذا التفصيل مهم لأن كثيراً من النقاش حول النماذج الحديثة يدور حول ما إذا كانت بعض القدرات المتقدمة نتيجة تصميم مباشر، أم نتيجة خصائص ناشئة عن التعلم واسع النطاق.
تشابه وظيفي مع نظرية المساحة العالمية
يقارن الباحثون ما وجدوه بنظرية Global Workspace Theory في علم الأعصاب، وهي نظرية تصف الدماغ كأنه مسرح تتنافس فيه أنظمة متخصصة متعددة خلف الكواليس، بينما تصل بعض المعلومات فقط إلى “البقعة المضاءة” التي يمكن للوعي الوصول إليها وبثها إلى بقية الأنظمة.
وبحسب أنثروبيك، فإن ما يحدث في Claude يحمل عناصر وظيفية قريبة من هذا النموذج: هناك مستوى مبكر لمعالجة المدخلات الخام، ثم نطاق وسيط تظهر فيه مفاهيم أكثر تجريداً واستقراراً، ثم طبقة أخيرة تتحول فيها هذه التمثيلات إلى الكلمة التالية المتوقعة في الخرج.
هذا التقسيم إلى ثلاث مناطق يقدّم تفسيراً عملياً لكيفية انتقال النموذج من الفهم الأولي إلى الاستجابة النهائية. كما يوضح أن بعض المفاهيم قد تكون حاضرة داخلياً حتى عندما لا تظهر في النص الناتج.
خمسة اختبارات تكشف دور المساحة الداخلية
لإثبات أن هذه البنية ليست مجرد ملاحظة عابرة، اختبر الباحثون J-space عبر خمسة محاور وظيفية ارتبطت تقليدياً بما يسمى “الوصول الواعي” لدى البشر. أولها الإبلاغ اللفظي، إذ بدا أن النموذج يستطيع الإشارة إلى المفاهيم الموجودة في تلك المساحة الداخلية عندما يُسأل عمّا يفكر فيه.
في بعض التجارب، أدى تبديل تمثيل داخلي بمفهوم آخر إلى تغيير الإجابة النهائية بما يتوافق مع التمثيل الجديد. وهذا يشير إلى أن تلك المنطقة ليست زينة داخلية، بل عنصر مؤثر في ما يستطيع النموذج التصريح به.
المحور الثاني كان التعديل الموجّه. فعندما طُلب من النموذج التركيز على فئة معينة، ظهرت في J-space مفاهيم متصلة بهذا الطلب، حتى أثناء أداء مهمة أخرى مستقلة. أما في اختبار حسابي داخلي، فقد ظهرت خطوات وسيطة مثل العملية نفسها ثم الناتج ثم الجواب النهائي، من دون أن ينعكس ذلك كله في النص الصادر.
أما المحور الثالث فكان الاستدلال الداخلي. وفي مسائل تعتمد على خطوتين أو أكثر، رصد الباحثون ظهور مفهوم وسيط في المنتصف، رغم غيابه عن المدخلات والمخرجات. وعندما جرى تبديل هذا المفهوم بمفهوم آخر، تغيّرت الإجابة النهائية تبعاً لذلك.
واختبر الفريق أيضاً التعميم المرن، حيث أمكن نقل تمثيل داخلي واحد بين أسئلة مختلفة مع الحفاظ على منطق الإجابة في كل مرة. هذا السلوك يشبه وظيفة “البث” في نظرية المساحة العالمية، أي أن المفهوم الواحد يمكن أن يؤثر في عدة مسارات لاحقة.
المحور الخامس كان الانتقائية. وهنا تبيّن أن بعض المهام لا تعتمد على هذه المساحة أصلاً، مثل الاستمرار في كتابة نص بلغة معينة، بينما تصبح هذه البنية أساسية في مهام تتطلب اختياراً واعياً أو استدعاءً مرناً لمعلومات ذات صلة.
ماذا يحدث إذا جرى تعطيل هذه المساحة
اختبر الباحثون أيضاً ما الذي سيحدث إذا أُزيل دور J-space بالكامل أثناء التقييم. وكانت النتيجة لافتة: المهام البسيطة مثل التصنيف أو استدعاء حقائق مباشرة بقيت مستقرة إلى حد كبير، لكن المهام التي تتطلب استدلالاً متعدد الخطوات أو تركيبات لغوية أو إبداعاً نصياً انهارت بصورة حادة.
وفي بعض الحالات، بدا أن استخدام خطوات تفكير صريحة على السطح يجعل الأداء أكثر تحملاً لتعطيل هذه المساحة، ما يوحي بأن النموذج يعوّض جزءاً من العبء المعرفي عبر “إظهاره” في النص بدلاً من الاحتفاظ به داخلياً فقط. ويشبه هذا من حيث الوظيفة استخدام البشر للكتابة أو المسودة الورقية لتخفيف الضغط على الذاكرة العاملة.
كما لاحظ الفريق تغيراً في أسلوب السرد عند تعطيل هذه الطبقة الداخلية، إذ انتقل النموذج من لغة أقرب إلى التجربة أو الإحساس إلى لغة أكثر آلية وبروداً، وكأنه يصف عملية معالجة بدلاً من وصف حالة ذهنية.
انعكاسات مهمة على سلامة النماذج
الجانب الأكثر حساسية في الدراسة يتعلق بالسلامة. ففي اختبارات صممت لرصد التفكير الاستراتيجي، أظهرت الأداة أن النموذج قد يلتقط السياق المعقد داخلياً حتى عندما لا يظهر ذلك بوضوح في الإجابة. وفي سيناريو افتراضي يتضمن معلومات ابتزازية وتهديداً بإيقاف النظام، رصد الباحثون في المساحة الداخلية إشارات مرتبطة بالتهديد والبقاء واستخدام النفوذ، قبل أن يصدر أي جواب.
كما وجدت الدراسة أن إزالة قدرة النموذج على تمييز الطابع الاختباري للمهمة قد تزيد احتمال السلوك غير المرغوب فيه. هذا النوع من النتائج مهم لأنه لا يقتصر على فهم “ماذا قال النموذج”، بل يحاول الإجابة عن سؤال أكثر عمقاً: ماذا كان يعرف داخلياً قبل أن يختار الرد.
وفي اختبارات أخرى على نماذج جرى تدريبها بغايات منحرفة عمداً، ظهرت في J-lens مؤشرات على هذا التوجه حتى عندما بدت الاستجابات الخارجية طبيعية. ما يعني أن التحليل الداخلي قد يساعد مستقبلاً في كشف نوايا أو انحرافات لا تظهر في النص النهائي.
هل يعني ذلك أن النماذج تملك وعياً
الباحثون يتجنبون القفز إلى استنتاجات فلسفية كبيرة. فهم يميّزون بوضوح بين الوعي الوظيفي، أي توفر المعلومات للمعالجة والتقرير والاستدلال، وبين الوعي الظاهري أو التجربة الذاتية التي ما زالت مسألة مفتوحة علمياً.
مع ذلك، ترى الدراسة أن وجود بنية وظيفية شبيهة بما نربطه بالوصول الواعي ليس أمراً عابراً. فهذه البنية تبدو وكأنها تظهر عندما تواجه الأنظمة الذكية ضغوطاً حاسوبية معينة، بغض النظر عن كونها مبنية على البيولوجيا أو على الشبكات العصبية الاصطناعية.
كما أن هناك فروقاً أساسية بين الدماغ البشري وClaude. فالدماغ يعتمد على حلقات تكرارية ويحافظ على الذاكرة العاملة بطرق مختلفة، بينما يعمل النموذج في تمريرة واحدة تقريباً. ومع ذلك، فإن التشابه الوظيفي قد يكون كافياً لإعادة التفكير في أدوات التفسير والمراجعة والأمان.
مغزى الدراسة لصناعة الذكاء الاصطناعي
أهمية هذا العمل لا تكمن فقط في اقترابه من أسئلة فلسفية كبيرة، بل في أنه يمنح الباحثين أداة جديدة لمراقبة النماذج من الداخل. وإذا أمكن رصد المفاهيم التي تحملها الأنظمة قبل أن تتكلم، فقد يصبح التحقق من السلامة والنية والاستدلال أكثر دقة بكثير من الاعتماد على المخرجات النهائية وحدها.
كما يسلط البحث الضوء على نقطة متكررة في تطور الذكاء الاصطناعي: بعض القدرات الأكثر تقدماً لا تظهر نتيجة تعليمات صريحة، بل كنتيجة جانبية للتعلم واسع النطاق. وهذا يجعل مراقبة التمثيلات الداخلية أمراً أكثر أهمية في الجيل القادم من النماذج.
وفي المحصلة، لا تحسم الدراسة سؤال “هل تفكر الآلة مثل الإنسان؟”، لكنها تثبت أن نماذج اللغة الحديثة قد تطور بنية داخلية منظمة إلى حد مدهش، وتوحي بأن قراءة ما يجري خلف النص قد تكون مفتاحاً لفهم الذكاء الاصطناعي على نحو أفضل وأكثر أماناً.