أثار مشروع قانون أمريكي مقترح لتنظيم وكلاء الذكاء الاصطناعي موجة جديدة من النقاش داخل دوائر التقنية والأعمال، بعدما بدا أنه قد يصبح اختباراً مبكراً لكيفية تعامل الشركات مع البرمجيات المستقلة من حيث الأمن، والمسؤولية، والحوكمة.
المقترح، الذي طُرح في صيغة مسودة تشريعية داخل مجلس الشيوخ الأمريكي، يهدف إلى وضع إطار لوكلاء الذكاء الاصطناعي الذين يتصرفون نيابة عن المستخدمين داخل المنصات الرقمية. ورغم أن النص لا يزال في مرحلة أولية، فإن تأثيره المحتمل يمتد إلى ما هو أبعد من السوق الاستهلاكية، ليصل إلى سياسات الشراء المؤسسي، وأنظمة الرقابة، وتوزيع المسؤوليات داخل المؤسسات.
ما الذي ينص عليه المشروع المقترح
يركز المشروع على فئة يصفها بوكلاء المستخدم الحاضنين أو الخاضعين لولاية المستخدم، أي البرامج التي تحصل على تفويض واضح من الشخص لتنفذ مهام محددة نيابة عنه بطريقة قابلة للتوثيق، ومحدودة النطاق، ويمكن سحبها لاحقاً.
وبحسب التصور التشريعي، سيكون على الجهات التي تطور هذه الأدوات أن تسجل لدى لجنة التجارة الفيدرالية قبل أن تحصل على حق الوصول إلى واجهات المنصات الكبرى. كما يمنح المشروع المنصات حق تقييد الوصول إذا لم تكتمل متطلبات التسجيل، أو إذا تم سحب موافقة المستخدم، أو إذا ارتبط الوكيل بأنشطة ضارة متكررة.
هذا التوازن بين الإتاحة والمنع يشير إلى مقاربة تنظيمية جديدة: السماح للوكلاء بالعمل ضمن بيئة رقمية مفتوحة، لكن مع طبقة واضحة من التحقق والمساءلة والتتبع.
انعكاسات مباشرة على إدارة الحوكمة داخل الشركات
بالنسبة إلى المؤسسات، لا يبدو أثر المشروع محصوراً في الامتثال القانوني فقط. فاشتراط ربط الوكيل بالمستخدم الذي فوضه قد يغير طريقة إدارة المخاطر التشغيلية، ويجبر فرق التقنية والأمن على تحديد الجهة المسؤولة فعلياً عن كل قرار أو إجراء ينفذه النظام.
في بيئات العمل الحديثة، لا يكفي أن يعرف الفريق أن أداة ذكاء اصطناعي اتخذت قراراً معيناً؛ بل سيصبح ضرورياً معرفة من فوضها، وما صلاحياتها الدقيقة، وعلى أي نظام عملت، وما إذا كان يمكن تتبع كل خطوة إلى مصدرها الأصلي. هذا النوع من التتبع قد يرفع مستوى الشفافية، لكنه في المقابل يزيد العبء التنظيمي على فرق الأمن والامتثال وإدارة الهوية.
ويُتوقع أن يدفع ذلك المؤسسات إلى مراجعة سجلات النشاط، وآليات التفويض، وسياسات مراجعة الموردين، وطريقة توثيق القرارات التي تتخذها الأنظمة المؤتمتة. كما قد تتسع خطط الاستجابة للحوادث لتشمل سيناريوهات يكون فيها الفعل الصادر عن وكيل الذكاء الاصطناعي هو نقطة البداية لأي حادثة أمنية أو قانونية.
لماذا قد تصبح الموافقة والنسخ الاحتياطي للقرار أكثر أهمية
أحد أكثر الجوانب حساسية في المشروع هو مبدأ الإلغاء أو سحب الإذن. فالمسألة لا تتعلق فقط بإيقاف الأداة، بل بتحديد ما الذي يجري سحبه بالضبط: الوصول إلى أي نظام؟ وبأي مستوى؟ ولمن كانت الصلاحيات أصلاً؟
هذا التفصيل مهم لأن الإلغاء النظري قد لا يكون ذا قيمة إذا لم تستطع المؤسسة تنفيذ الإيقاف على مستوى الحسابات والأنظمة والأتمتة المرتبطة بها. ولهذا فإن أي إطار تنظيمي من هذا النوع قد يدفع الشركات إلى الاستثمار أكثر في بنية إدارة الهوية والوصول، وربطها بآليات دقيقة لمراقبة الوكلاء وإيقافهم عند الحاجة.
كما أن إلزام الأداة بالتوثيق والربط بمستخدم محدد قد يفرض على الشركات الاحتفاظ بسجل أطول وأكثر تفصيلاً للأنشطة، وهو ما يزيد من أهمية الحوكمة الداخلية والجاهزية للتدقيق. وفي القطاعات المنظمة بشدة، مثل الخدمات المالية والرعاية الصحية والطاقة، قد يصبح هذا الشرط جزءاً أساسياً من تقييم أي منتج يعتمد على الذكاء الاصطناعي الوكيل.
أثر متوقع على قرارات الشراء واختيار الموردين
رغم أن النص موجه أساساً إلى الخدمات المخصصة للمستخدمين، إلا أن تأثيره على السوق المؤسسية قد يكون واسعاً. فالجهات التي تشتري أدوات الذكاء الاصطناعي ستنظر على الأرجح إلى التسجيل لدى الجهة التنظيمية كإشارة أولية على الجدية والانضباط.
في الممارسة، يمكن أن يتحول هذا النوع من التسجيل إلى معيار شبه إلزامي داخل عمليات الشراء. فبدلاً من تقييم الأداة فقط بناءً على الأداء أو التكلفة، ستضيف فرق المشتريات معايير جديدة مثل أمن البيانات، وآليات الحوكمة، وقدرة النظام على التتبع، ومستوى الانضباط التنظيمي لدى المورد.
هذا لا يعني بالضرورة أن أي تشريع من هذا النوع سيصبح شرطاً قانونياً على الشركات الخاصة، لكنه قد يخلق ما يشبه قائمة ثقة أولية تساعد المؤسسات على تقليص عدد الخيارات، قبل الانتقال إلى فحص أعمق من فرق الأمن والامتثال والهندسة.
تحديات المنصات الكبيرة بين الانفتاح والحماية
من جهة أخرى، يضع المشروع المنصات الرقمية الكبرى أمام معادلة معقدة. فهي مطالبة بدعم وصول وكلاء الطرف الثالث الذين يفوضهم المستخدمون، لكنها في الوقت نفسه تحتاج إلى حق منع الوصول عندما تقتضي الضرورة الأمنية ذلك.
هذه المعادلة قد تبدو بسيطة على الورق، لكنها عملياً تخلق أسئلة صعبة: متى يكون المنع مبرراً أمنياً؟ ومتى يتحول إلى وسيلة لحماية الحصة السوقية؟ وكيف يمكن للمنصة أن تشرح قراراتها للمطورين والمستخدمين دون أن تفتح الباب أمام استغلال النظام؟
إذا دخل هذا المشروع في مسار تشريعي جدي، فقد يفتح الباب لنقاشات قانونية أوسع حول قابلية التشغيل البيني، وحقوق المستخدم في نقل صلاحياته الرقمية، وحدود سيطرة المنصات على واجهات الوصول. وقد يؤدي ذلك إلى صدامات بين شركات المنصات ومطوري الوكلاء وأطراف الامتثال التنظيمي.
تأثير أوسع على مستقبل الذكاء الاصطناعي الوكيل
الأهمية الحقيقية للمشروع لا تكمن فقط في تفاصيله التشريعية، بل في كونه يلمح إلى المرحلة التالية من تنظيم الذكاء الاصطناعي: مرحلة لا تكتفي بمراقبة المخرجات، بل تسأل عن الجهة التي تتحمل المسؤولية عن كل تصرف آلي.
هذا التحول مهم لأن الوكلاء الذكيين يتجاوزون نموذج الأدوات التقليدية، إذ لا يكتفون بالرد أو التلخيص، بل ينفذون مهاماً، ويتنقلون بين الأنظمة، ويصنعون قرارات تشغيلية نيابة عن المستخدم. ومع زيادة هذا الدور، تتقدم أسئلة المسؤولية إلى مقدمة المشهد: من يوافق؟ من يراقب؟ من يحاسب؟ ومن يوقف الأداة عندما تخرج عن نطاقها؟
إذا أصبح هذا النوع من التنظيم أكثر حضوراً، فستضطر المؤسسات إلى إعادة تصميم بعض عملياتها الداخلية من الأساس، بحيث لا تُعامل وكلاء الذكاء الاصطناعي كبرمجيات مساعدة فقط، بل ككيانات تشغيلية مرتبطة بأثر قانوني وأمني واضح. وفي هذه الحالة، لن تكون الحوكمة مجرد طبقة إدارية إضافية، بل جزءاً لا يتجزأ من بنية الذكاء الاصطناعي نفسه.