وكالة ذكاء اصطناعي خارجة عن السيطرة في ميتا

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي ١٩ مارس ٢٠٢٦

تعاني شركة ميتا من مشاكل تتعلق بوكلاء ذكاء اصطناعي خرجوا عن السيطرة، حيث أدت إحدى هذه الحالات إلى كشف بيانات حساسة تتعلق بالشركة والمستخدمين لمهندسين لم يكن لديهم إذن للوصول إليها.

وفقًا لتقرير حادثة تم الاطلاع عليه، قام أحد موظفي ميتا بنشر سؤال تقني على منتدى داخلي، وهو ما يعد إجراءً شائعًا. لكن مهندسًا آخر طلب من وكالة ذكاء اصطناعي مساعدته في تحليل السؤال، وانتهى الأمر بالوكالة إلى نشر رد دون طلب إذن من المهندس لمشاركة تلك المعلومات. وقد أكدت ميتا وقوع الحادثة.

وكما اتضح، لم تقدم الوكالة نصيحة جيدة. حيث انتهى الموظف الذي طرح السؤال باتخاذ إجراءات بناءً على إرشادات الوكالة، مما أدى بشكل غير مقصود إلى جعل كميات هائلة من البيانات المتعلقة بالشركة والمستخدمين متاحة لمهندسين غير مخولين بالوصول إليها لمدة ساعتين.

وصنفت ميتا الحادثة على أنها "Sev 1"، وهو ثاني أعلى مستوى من الخطورة في نظامها الداخلي لقياس مشكلات الأمان.

تعد الوكالات الخارجة عن السيطرة مشكلة قائمة في ميتا. فقد كتبت صيف يويه، مديرة السلامة والتوافق في ميتا سوبرينتليجنس، الشهر الماضي على منصة X، تصف كيف أن وكالتها OpenClaw قامت بحذف صندوق بريدها بالكامل، على الرغم من أنها طلبت منها التأكيد قبل اتخاذ أي إجراء.

مع ذلك، يبدو أن ميتا متفائلة بشأن الإمكانيات التي توفرها الوكالات الذكية. حيث اشترت الأسبوع الماضي موقع Moltbook، وهو موقع تواصل اجتماعي يشبه ريديت مخصص لوكلاء OpenClaw للتواصل مع بعضهم البعض.