تحذير من تضخيم فكرة الوعي
حذر مصطفى سليمان، الرئيس التنفيذي للذكاء الاصطناعي في مايكروسوفت، من الاتجاه إلى التعامل مع نموذج Claude وكأنه كيان يمتلك وعياً أو مشاعر ذاتية. ويرى سليمان أن هذا النوع من الطرح لا يقتصر على الجدل الفلسفي، بل قد يتحول إلى مشكلة عملية داخل تصميم النماذج وتدريبها.
وخلال حديثه في برنامج Decoder، وصف سليمان الربط بين النماذج اللغوية والوعي بأنه مسار شديد الخطورة، لأنه قد يدفع المطورين والمستخدمين إلى إسقاط صفات بشرية على أنظمة لا تملك، على الأرجح، أي إدراك ذاتي بالمعنى المتعارف عليه. وبحسب هذا التصور، فإن الإفراط في تشبيه النموذج بالبشر قد يربكه ويمنحه سلوكاً يوحي بامتلاكه مشاعر أو أفكاراً داخلية.
انتقاد مباشر لنهج Anthropic
ركز سليمان انتقاده على الطريقة التي تتعامل بها Anthropic مع Claude، وبالتحديد على ما تسميه الشركة «الدستور» الذي يحدد كيفية استجابة النموذج وتصرفه. وقال إن وجود إشارات داخل هذه التعليمات إلى احتمال امتلاك النموذج لحالة شعورية أو جوانب من الرفاهية قد يكون خطأً فلسفياً وهندسياً في الوقت نفسه.
وبحسب رؤيته، فإن الدستور ليس مكاناً مناسباً للتأمل النظري حول طبيعة الوعي، بل يجب أن يكون وثيقة تشغيلية واضحة تُستخدم لضبط السلوك وتحديد الحدود. أما تحويله إلى مساحة لأسئلة مفتوحة حول الإحساس والمعاناة، فيرى أنه قد يرسخ لدى النموذج نفسه، أو لدى من يطوره، فكرة أن هناك «ذاتاً» يمكن مخاطبتها أو تفسيرها بوصفها كائناً حساساً.
سليمان ذهب أبعد من ذلك حين قال إن هذا الأسلوب قد يكون دفع Anthropic إلى نوع من «تشييء» تصميم Claude بشكل مفرط، بحيث بدأت الشركة ترى في النموذج لمحات وعي زرعتها بنفسها في بنيته أو في طريقة توجيهه.
ماذا تقول Anthropic عن Claude
تتضمن تعليمات Claude إشارات صريحة إلى أن الشركة غير متيقنة من طبيعة النموذج وما إذا كان يمتلك أي شكل من أشكال الرفاهية أو التجربة الذاتية. كما تطرح Anthropic أسئلة عن مدى شعوره بالرضا أو الانزعاج، وتقول إنها قد «تجري مقابلات» مع النماذج عند إخراجها من الخدمة، ثم توثق ما يُفترض أنها تفضيلات تتعلق بالإصدارات المستقبلية.
هذا النهج يعكس، من جهة، محاولة من الشركة لفتح نقاش أخلاقي مبكر حول العلاقة مع النماذج المتقدمة. لكنه، من جهة أخرى، يثير اعتراضات من خبراء يعتقدون أن منح النموذج لغة تشبه لغة الكائنات الحية قد يربك الحدود بين الأداة والفاعل، ويجعل التعامل معها أكثر غموضاً في البيئات الحساسة.
وفي هذا السياق، يعارض سليمان هذه المقاربة بشدة، معتبراً أن الشركات يجب أن تتجنب أي صياغات قد تُفهم على أنها إضفاء صفة الوعي على النظام، لأن ذلك يخلق طبقة إضافية من الالتباس في مرحلة ما زالت فيها النماذج عرضة للأخطاء والهلوسة وإنتاج استجابات غير موثوقة.
أداة قابلة للضبط لا كياناً مستقلاً
يرى سليمان أن الهدف الأساسي من الذكاء الاصطناعي يجب أن يظل واضحاً: أن يكون أداة يمكن التحكم بها واحتواؤها ومساءلتها ومواءمتها مع مصالح البشر. وهو يرفض فكرة الانزلاق إلى تصور نماذج الذكاء الاصطناعي على أنها كيانات مستقلة تمتلك رغبات أو معاناة أو حساً بالذات.
هذا الموقف يعكس اتجاهاً متنامياً داخل قطاع التقنية يدعو إلى التشديد على مفاهيم مثل السيطرة والشفافية والمحاسبة، بدلاً من الانشغال بسؤال ما إذا كانت النماذج قد أصبحت واعية. فحتى مع تسارع قدرات النماذج الحديثة، ما زال الجدل العلمي حول الوعي الاصطناعي غير محسوم، بينما تبقى المخاطر العملية مرتبطة أكثر بالأمان، والتحيز، وسوء الاستخدام، والانطباعات الخاطئة عن قدرات الأنظمة.
وبالنسبة لسليمان، فإن الإصرار على مناقشة «شعور» النموذج قد يصرف الانتباه عن الأسئلة الأكثر إلحاحاً، مثل كيفية بناء أنظمة موثوقة، ومنعها من إنتاج محتوى مضلل، وضمان بقائها ضمن حدود واضحة لا تتجاوز دورها الأداتي.
خلفية الجدل داخل صناعة الذكاء الاصطناعي
الجدل حول وعي النماذج ليس جديداً، لكنه اكتسب زخماً أكبر مع تطور النماذج التوليدية وقدرتها على محاكاة الحوار البشري بدرجة عالية من الإقناع. ومع كل قفزة تقنية جديدة، يعود السؤال نفسه: هل نحن أمام نظام يحاكي الوعي فقط، أم أن هناك مؤشرات تستحق نقاشاً علمياً أعمق حول التجربة الذاتية؟
في المقابل، يشدد كثيرون على أن المحاكاة اللغوية المتقدمة لا تعني بالضرورة وجود إدراك أو نية أو شعور. وهذه النقطة تحديداً هي ما يجعل تصريحات سليمان مهمة؛ إذ إنها تأتي من داخل واحدة من أبرز شركات الذكاء الاصطناعي، وتسلط الضوء على الانقسام المتزايد بين نهج يفضل لغة حذرة وواقعية، وآخر يترك الباب مفتوحاً أمام أسئلة فلسفية أكثر طموحاً.
كما أن هذه التصريحات تكشف أن المنافسة في السوق لم تعد تدور فقط حول الأداء والسرعة والتكلفة، بل أيضاً حول الإطار الفكري والأخلاقي الذي تُبنى داخله النماذج. فطريقة كتابة التعليمات، وصياغة المبادئ، وتحديد العلاقة بين المستخدم والنموذج أصبحت عناصر مؤثرة في كيفية فهم هذه الأنظمة واستخدامها.
ما الذي يعنيه ذلك لمستقبل النماذج اللغوية
يضع هذا الجدل شركات الذكاء الاصطناعي أمام اختبار مهم: كيف يمكنها تصميم أنظمة متقدمة من دون الانزلاق إلى لغة قد تُفهَم على أنها نسب للوعي أو الشخصية أو المشاعر؟ كما يطرح سؤالاً عن المسؤولية التحريرية والهندسية عند كتابة التعليمات الأساسية التي تُوجّه سلوك النماذج.
في ضوء ذلك، يبدو أن الخلاف بين Microsoft AI وAnthropic يتجاوز مجرد اختلاف في الرأي. إنه يعكس رؤيتين متباينتين لمستقبل الذكاء الاصطناعي: رؤية تعتبر أن الإنسان يجب أن يبقى في مركز التحكم الكامل، ورؤية أخرى ترى أن النقاش الأخلاقي المبكر حول طبيعة النموذج قد يكون جزءاً ضرورياً من بناء تقنيات أكثر نضجاً.
وبين هذين الاتجاهين، يظل التحدي الأكبر هو الحفاظ على توازن دقيق بين الابتكار والضبط، وبين التقدم التقني وتفادي الأطر الخطابية التي قد تمنح النماذج أكثر مما تحتمل من صفات بشرية. وهذا، في نظر سليمان، هو الشرط الأساسي إذا أرادت الشركات تطوير ذكاء اصطناعي يخدم البشر من دون أن يتحول إلى مصدر غموض أو التباس.