Anthropic تقترح مشروع قانون لضمان سلامة الذكاء الاصطناعي مع قيود على حظر النماذج

في ظل تصاعد المخاوف من المخاطر المحتملة للذكاء الاصطناعي، قدمت شركة Anthropic مشروع قانون جديد يهدف إلى تنظيم سلامة الذكاء الاصطناعي بطريقة توازن بين الحماية والحرية في نشر النماذج. ويهدف القانون إلى تحديد حالات يمكن فيها حظر نشر نموذج ذكاء اصطناعي في حال وجود خطر كارثي متوقع.

معايير الحظر في مشروع القانون

ينص المشروع على إمكانية حظر إطلاق أي نموذج ذكاء اصطناعي إذا تبين وجود "خطر وشيك ومتوقع" قد يؤدي إلى وفاة أكثر من 50 شخصاً أو خسائر مادية تتجاوز مليار دولار. وتشمل هذه المخاطر حدوث هجوم بيولوجي ناتج عن الذكاء الاصطناعي أو تحايل النموذج على ضوابط مطوره أو هجوم إلكتروني.

تشابه هذه المعايير مع قانون ولاية كاليفورنيا الأخير Senate Bill 53، الذي صنف مثل هذه السيناريوهات على أنها مخاطر كارثية.

آلية التقييم والقرار القضائي

يقترح مشروع القانون تعيين مقيمين مستقلين مسجلين لدى وزارة التجارة الأمريكية لتقييم المخاطر المحتملة للنماذج. ويُسمح أن تكون هذه التقييمات ممولة من مختبرات الذكاء الاصطناعي، شريطة ألا تعتمد المدفوعات على نتائج التقييم.

عندما يحدد المقيمون وجود خطر وشيك وكارثي، يجب عليهم إبلاغ وزارة التجارة خلال 72 ساعة. بعدها، يتعين على الوزارة طلب أمر قضائي من محكمة في واشنطن العاصمة لمنع إطلاق النموذج، ولن يُسمح لأي وكالة فيدرالية أخرى بحظر النموذج من تلقاء نفسها.

نقد وتحديات محتملة

رغم أن القانون يهدف إلى حماية المجتمع من مخاطر الذكاء الاصطناعي، تبرز تساؤلات حول مدى استقلالية التقييمات ومدى تأثير التمويل من قبل المختبرات على نتائجها. كما أن الاعتماد على إذن قضائي لحظر النماذج قد يبطئ الإجراءات عند حدوث تهديدات فورية.

وقد أشار بعض المسؤولين في الصناعة، مثل Demis Hassabis من DeepMind، إلى أهمية إنشاء هيئة تنظيم مستقلة تشبه هيئة تنظيم القطاع المالي لضمان معايير واضحة وحيادية.

توجهات الصناعة تجاه التنظيم

يعد مشروع قانون Anthropic خطوة أبعد قليلاً مقارنةً بمواقف شركات أخرى مثل Nvidia التي عارضت الحاجة إلى قوانين جديدة، معتبرة أن الصناعة كفيلة بضمان السلامة دون تدخل حكومي مكثف.

في الوقت نفسه، تقدم شركات مثل Anthropic نظام "المقيمين المدمجين" كحل تطوعي لمراقبة المخاطر داخل مؤسسات الذكاء الاصطناعي، لكن هذه المبادرات تثير شكوكاً حول مدى حياديتها وفعاليتها.

تداعيات ومحاذير مستقبلية

يبدو أن مشروع القانون يعكس محاولة متوازنة بين الحاجة إلى سلامة الذكاء الاصطناعي والرغبة في الحفاظ على تقدم الابتكار. ومع ذلك، ستظل مسألة استقلالية التقييمات وسرعة الاستجابة للمخاطر من أهم التحديات التي ستواجه تطبيق هذا الإطار القانوني.

ومن المتوقع أن تثير هذه المبادرة نقاشات أوسع في الأوساط التشريعية والتقنية حول أفضل السبل لضبط التكنولوجيا المتطورة دون الإضرار بتطورها.