Anthropic تطور نظام FlashProve للتحقق من هوية نماذج الذكاء الاصطناعي

أعلنت شركة Anthropic عن تطوير نظام مفتوح المصدر يُدعى FlashProve يهدف إلى التحقق من هوية نماذج الذكاء الاصطناعي التي أنتجت مخرجات معينة، وذلك عبر توفير ما يُعرف بـ"الاستدلال القابل للإثبات"، وهو برهان تشفير رياضي يضمن أن الردود الصادرة عن نموذج ما هي فعلاً من النموذج الذي يُدّعى أنها منه.

كيف يعمل نظام FlashProve للتحقق من نماذج الذكاء الاصطناعي

يشبه نظام FlashProve توقيعات البريد الإلكتروني المشفرة التي تسمح للمستلمين بالتأكد من أن الرسالة جاءت فعلاً من المرسل المزعوم. يوفر النظام حماية قوية ضد محاولات التزييف أو التنكر، حتى لو كان الجهة التي تدير النموذج هي نفسها التي تحاول التلاعب. على سبيل المثال، يمكن استخدامه لمنع الشركات من استبدال نموذج ذكاء اصطناعي عالي التكلفة بنموذج أرخص دون إعلام المستخدمين، أو العكس، لضخّم النتائج أو الأداء.

يتطلب النظام من مختبرات الذكاء الاصطناعي نشر "بصمة" (fingerprint) لكل نموذج يتم إصداره، يمكن ربطها لاحقاً بالمخرجات والتحقق منها تشفيرياً. وتكمن أهمية هذه البصمة في أنها لا تكشف عن تفاصيل النموذج الداخلية أو أوزانه، وهو ما يحافظ على سرية المعلومات التجارية والتقنية الحساسة، ما يتيح تبني النظام حتى مع النماذج التجارية المغلقة مثل تلك التي تطورها Anthropic وOpenAI.

تطبيقات محتملة وما يميز النظام

يمكن استخدام FlashProve لإثبات صحة الادعاءات المقدمة من أطراف ثالثة حول استخدام نماذج ذكاء اصطناعي متقدمة في مهام محددة، مثل تدقيق مكتبات برمجية لاكتشاف الثغرات أو تقييم خطط أعمال معينة. يتيح هذا للمستخدمين التحقق بأن العمليات تمت بواسطة نموذج الذكاء الاصطناعي المناسب بالفعل.

كما أن النظام صُمم ليكون خفيف الوزن، مما يسمح بإجراء عمليات التحقق محلياً على الأجهزة بدون الحاجة إلى موارد حوسبة ضخمة أو اتصال دائم بالسيرفرات.

الإتاحة والمستقبل البحثي لـ FlashProve

أصدرت Anthropic مواصفات فنية مفصلة إلى جانب شفرة مصدرية تعمل لمكونات النظام على منصة GitHub تحت رخصة مفتوحة المصدر. ما زالت الأبحاث جارية حول هذا النظام، ولا توجد خطط لنشره رسمياً حتى الآن سواء من قبل Anthropic أو غيرها من المختبرات.

وذكر الباحثون أن هذا الإعلان يهدف إلى مشاركة التقدم الوسيط في المشروع، وتشجيع المطورين والباحثين الآخرين على الاطلاع عليه وتحسينه، ما يعكس توجه الصناعة نحو دعم الشفافية ومصداقية الذكاء الاصطناعي.