تواجه المنصات الرقمية منذ سنوات تحدياً متصاعداً يتمثل في الرسائل المزعجة والمحتوى الآلي، لكن توسع استخدام النماذج اللغوية الكبيرة جعل المشكلة أكثر تعقيداً. فالأدوات التي ساعدت على إنتاج النصوص بسرعة أصبحت أيضاً في يد المخترقين ومشغلي الحسابات الوهمية، ما أدى إلى طفرة في حجم الرسائل المخالفة التي تصل إلى المستخدمين يومياً.
في هذا السياق، تتجه Reddit إلى استخدام الأدوات نفسها تقريباً لمعالجة الخلل الذي ساهمت تقنيات الذكاء الاصطناعي في تضخيمه. وتعمل المنصة على تطوير أنظمة رصد جديدة تعتمد على نماذج لغوية كبيرة، بهدف كشف الأنماط غير الطبيعية في النشر والتعليق، والتمييز بين السلوك البشري الحقيقي والأنشطة الآلية المنسقة.
أرقام توضح حجم التحدي
بحسب ما أعلنته Reddit، فإن أدواتها الجديدة أصبحت قادرة على فحص نحو 23 مليون عرض لمحتوى مزعج يومياً. كما تشير البيانات إلى أن هذه الأنظمة تساعد في إزالة ما يقارب 25 ألف منشور وتعليق مخالف كل يوم، وهو رقم يعكس حجم المشكلة على المنصة، وكذلك اتساع نطاق الاعتماد على الأتمتة في إدارتها.
هذه الأرقام لا تعني فقط قدرة تقنية أكبر، بل تكشف أيضاً أن إدارة المجتمعات الرقمية باتت تحتاج إلى أدوات تحليل أكثر تقدماً من الأنظمة التقليدية. فالرسائل المزعجة لم تعد مجرد نصوص متكررة وسهلة الكشف، بل أصبحت أحياناً أكثر تنوعاً ومرونة بفضل النماذج اللغوية التي تولد محتوى يبدو أقرب إلى اللغة البشرية الطبيعية.
مواجهة النار بالنار
الفكرة الجوهرية في نهج Reddit تقوم على استخدام الذكاء الاصطناعي لمقاومة أثر الذكاء الاصطناعي. ورغم أن هذا التوجه يبدو متناقضاً في الظاهر، فإنه يعكس واقعاً عملياً داخل المنصات الكبرى، حيث لم يعد كافياً الاعتماد على قواعد ثابتة أو مراجعة يدوية شاملة لملايين التفاعلات.
وتوضح المنصة أن النماذج المتقدمة أصبحت أفضل في التقاط أنماط السلوك المزيفة التي قد تفلت من الفلاتر التقليدية. ويشمل ذلك الحسابات التي تنشر بكثافة، أو التعليقات المنسقة، أو المحتوى الذي يتكرر بصيغ مختلفة بهدف تجاوز أنظمة الحظر. وبذلك تتحول النماذج اللغوية من أداة إنتاج إلى أداة فرز وتحليل ومراقبة.
انخفاض في التعرض للمحتوى المزعج
تقول Reddit إن استخدام هذه الأدوات ساعد على تقليل تعرض المستخدمين للمحتوى المزعج بنسبة 20% خلال الربع الأول من العام مقارنة بالربع السابق. ورغم أن هذه النسبة لا تلغي المشكلة، فإنها تشير إلى تحسن ملموس في فعالية آليات الرقابة الآلية، خاصة في بيئة ضخمة ومتجددة مثل المنتديات المفتوحة.
ويكتسب هذا التطور أهمية إضافية لأن المنصة تقوم على المجتمعات الفرعية والمحادثات المفتوحة، ما يجعل الحفاظ على جودة النقاش تحدياً يومياً. فكلما اتسع نطاق المشاركة، زادت الحاجة إلى أدوات قادرة على العمل بسرعة وعلى نطاق واسع دون تعطيل تجربة المستخدمين العاديين.
دور الإشراف البشري يبقى حاسماً
رغم التقدم في أدوات الكشف الآلي، لا يبدو أن Reddit أو غيرها من المنصات تستطيع الاستغناء عن العنصر البشري. فخبراء المحتوى الرقمي يشيرون دائماً إلى أن الأنظمة القائمة على الذكاء الاصطناعي تكون أكثر فعالية عندما تعمل إلى جانب مراجعة بشرية مباشرة، خصوصاً في الحالات الرمادية التي يصعب فيها التمييز بين السخرية والمخالفة أو بين النقد المشروع والتلاعب المنظم.
هذا التوازن بين الأتمتة والإشراف اليدوي أصبح معياراً مهماً في إدارة المنصات الاجتماعية. فالذكاء الاصطناعي يستطيع التعامل مع الكميات الهائلة من البيانات، لكنه لا يملك دائماً الحس السياقي الذي يتيح تقدير النية أو فهم الفروق الدقيقة في اللغة والتفاعل الاجتماعي.
اتجاه أوسع في الصناعة الرقمية
لا تتحرك Reddit وحدها في هذا الاتجاه. فقد بدأت منصات مثل YouTube وInstagram وMeta بالسماح للمستخدمين برفع المحتوى المنتج بالذكاء الاصطناعي، بشرط الإفصاح عنه بوضوح. كما تمنح TikTok المستخدمين خيارات للتحكم في مستوى ظهور هذا النوع من المحتوى داخل الخوارزميات.
هذا التطور يعكس مرحلة جديدة في تنظيم المحتوى الرقمي، حيث لم يعد السؤال مقتصراً على منع المحتوى الآلي بالكامل، بل على كيفية تصنيفه، وتحديد حجمه، وقياس تأثيره، ثم ضبطه من دون التضييق على الاستخدامات المشروعة للتقنية. وفي هذا الإطار، تصبح أدوات الرصد والتحقق جزءاً أساسياً من البنية التشغيلية لأي منصة اجتماعية كبيرة.
بالنسبة إلى الشركات الناشئة العاملة في مجال أدوات الإشراف الرقمي، تحمل تجربة Reddit دلالة واضحة: السوق يتجه نحو حلول أكثر ذكاءً وقدرة على التكيّف مع المحتوى المتغير بسرعة. ومع استمرار تطور النماذج اللغوية، سيزداد الطلب على أنظمة قادرة على التحقق من النشر الآلي، وكشف الحسابات المضللة، وموازنة السلامة الرقمية مع حرية التفاعل.
وتُظهر هذه الحالة أيضاً أن الذكاء الاصطناعي لم يعد مجرد أداة للابتكار في المنتجات، بل أصبح جزءاً من البنية الدفاعية للمنصات الرقمية. وفي عالم تتزايد فيه الرسائل المولدة آلياً، تبدو قدرة الشركات على بناء طبقات دقيقة من الفلترة والتحليل عاملاً حاسماً في حماية المجتمعات الإلكترونية واستدامة المشاركة فيها.