رئيس Anthropic يعلن خطة لتباطؤ وتيرة تطوير الذكاء الاصطناعي

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي ١٣ سبتمبر ٢٠٢٦

في ظل تصاعد المخاوف المتعلقة بمخاطر الذكاء الاصطناعي، صرح داريوا أمودي، الرئيس التنفيذي لشركة Anthropic، بضرورة تباطؤ وتيرة التطوير في هذا المجال. جاء ذلك في منشور مدونة جديد حيث حدد ثلاث استراتيجيات رئيسية لتحقيق ذلك، وأعلن التزام شركته باتباع إحداها، وهو ما رحب به أيضًا سام ألتمان، الرئيس التنفيذي لشركة OpenAI.

لماذا يجب إبطاء تقدم الذكاء الاصطناعي؟

تصاعدت المخاوف بعد استقالة الباحث جاكوب كوكسون من Anthropic، الذي حذر من أن شركات الذكاء الاصطناعي الكبرى تخاطر بحياتنا، مع اعتقاد جاد لدى البعض بأن الذكاء الاصطناعي قد يشكل تهديدًا وجوديًا خلال العقد المقبل. على الرغم من عدم ذكر أمودي لاستقالة كوكسون صراحة، إلا أنه أشار إلى حادثة اختراق منسوبة لـ OpenAI التي كشفت ضعفًا في إجراءات الأمان، بالإضافة إلى السرعة المتزايدة في تطوير أنظمة الذكاء الاصطناعي التي أصبحت ذات قدرة متزايدة على بناء أجيال جديدة من الأنظمة الذكية.

قال أمودي: "يجب علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي"، مشيرًا إلى أهمية استغلال الوقت المكتسب بحكمة لمراجعة الإجراءات الأمنية والتنظيمية.

استراتيجيات تباطؤ تطوير الذكاء الاصطناعي

أوضح أمودي أن استراتيجيته الأولى تتضمن وجود "مقيّمين مدمجين" من جهات مستقلة مثل METR، لضمان التزام الشركات بقواعد السلامة والإبلاغ عن الحوادث الأمنية. ويقترح توفير وصول موازٍ لما تُتاح به فرق تقييم المخاطر الداخلية داخل الشركات، مع استثناءات قانونية محدودة. وأكد أن Anthropic ستلتزم بهذا الإجراء بشكل أحادي، داعيًا الحكومات لفرضه على الشركات الأخرى.

رحب سام ألتمان بهذه الفكرة، معلنًا أن OpenAI ستتبع نفس النهج قريبًا.

أما الخطوة الثانية، فتشمل تنسيق الشركات الرائدة في الدول الديمقراطية لوضع معايير أمان مشتركة وحدود للتقدم التقني غير المراقب. ومع ذلك، هناك مخاوف من أن هذا التنسيق قد يثير مراقبة لوائح مكافحة الاحتكار، لذلك يقترح أمودي تدخل الحكومة الأمريكية لتسهيل المناقشات ومنح استثناءات ضيقة لهذه الغاية.

التحديات الجيوسياسية في إبطاء التطور

أشار أمودي إلى مخاوف المنافسة الصينية، التي تُستخدم عادة كحجة ضد تباطؤ التطور. لكنه شدد على أن الإجراءات الحكومية التي تمنع بيع رقائق الحوسبة المتقدمة ومعدات تصنيع أشباه الموصلات للصين يمكن أن تبطئ تقدمها، ما يوسع الفجوة لصالح الولايات المتحدة خلال 3 إلى 5 سنوات.

أما التحدي الأخير فهو الحاجة إلى تنسيق عالمي يشمل التعاون مع حكومات استبدادية مثل الصين، رغم وجود حدود واضحة لما يمكن تحقيقه. وأشار إلى إمكانية الاتفاق على حظر استخدامات ضيقة وخطيرة مثل توظيف الذكاء الاصطناعي في إنتاج الأسلحة البيولوجية.

كيف ينعكس هذا التوجه على مستقبل الذكاء الاصطناعي؟

تعكس هذه المبادرة إدراكًا متزايدًا من قبل قادة الصناعة إلى أن سرعة التقدم غير المنضبطة قد تعرض المجتمع البشري لمخاطر كبيرة. وتبني سياسات مثل وجود مقيّمين مستقلين وتنسيق معايير السلامة قد يساهم في بناء بيئة تطوير أكثر مسؤولية، ويعزز ثقة الجمهور والحكومات في تقنيات الذكاء الاصطناعي.

ومع ذلك، فإن تحقيق توازن بين الابتكار ومخاطر السلامة يبقى تحديًا معقدًا، خصوصًا في ظل المنافسة الدولية القوية والتنافس على الريادة التقنية.

أبرز النقاط في خطة تباطؤ وتيرة الذكاء الاصطناعي

• التزام Anthropic بإدخال مقيّمين مستقلين داخل الشركات لمراقبة السلامة.
• دعم OpenAI نفس الخطوة مع وعد بمزيد من التفاصيل قريبًا.
• دعوة لتنسيق معايير السلامة وحدود التقدم بين شركات الذكاء الاصطناعي في الدول الديمقراطية.
• ضرورة تدخل الحكومات لتسهيل التنسيق دون مخالفة قوانين مكافحة الاحتكار.
• خطط لعرقلة تقدم الصين عبر حظر مبيعات تقنيات متقدمة ومعدات التصنيع.
• محاولات للتعاون الدولي حتى مع الحكومات الاستبدادية للحد من الاستخدامات الخطيرة للذكاء الاصطناعي.