العلامة التقنية

موقع تقني عربي متخصص في أخبار التكنولوجيا والذكاء الاصطناعي

KiloClaw تستهدف إدارة الذكاء الاصطناعي المستقل

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي
KiloClaw تستهدف إدارة الذكاء الاصطناعي المستقل

KiloClaw تطلق أداة جديدة لإدارة الذكاء الاصطناعي المستقل وتعزيز الحوكمة على الوكلاء المستقلين داخل المؤسسات.

أطلقت شركة Kilo أداة جديدة تدعى KiloClaw تهدف إلى تعزيز الحوكمة على الوكلاء المستقلين وإدارة الذكاء الاصطناعي المستقل (Shadow AI) داخل المؤسسات. تأتي هذه الخطوة في وقت أصبح فيه الموظفون يفضلون تجاوز القنوات الرسمية، حيث بدأ المطورون والعاملون في المعرفة بنشر الوكلاء المستقلين على البنى التحتية الشخصية الخاصة بهم بهدف أتمتة مهامهم اليومية.

هذه الممارسة، المعروفة باسم Bring Your Own AI أو BYOAI، تعرض بيانات المؤسسات الحساسة إلى بيئات خارجية غير خاضعة للرقابة. ولتصحيح هذه الثغرة، أطلقت شركة Kilo منصة KiloClaw for Organizations، وهي منصة مصممة خصيصًا للمؤسسات تهدف إلى السيطرة على نشر الوكلاء المستقلين واستعادة الإشراف المعماري.

فهم التحديات المرتبطة بالوكلاء المستقلين

تستهدف Kilo غياب الرؤية حول نشر الوكلاء. عندما يقوم المهندسون بإعداد وكالات مستقلة لتحليل سجلات الأخطاء، أو عندما يقوم محللو البيانات بنشر سكريبتات محلية لمطابقة جداول البيانات، فإنهم غالبًا ما يفضلون الكفاءة الفورية على البروتوكولات الأمنية. هذه الوكلاء تصل بانتظام إلى قنوات Slack الخاصة بالشركة، وألواح Jira، ومستودعات الشيفرة الخاصة عبر مفاتيح API شخصية.

نظرًا لأن هذه الاتصالات تحدث خارج نطاق تكنولوجيا المعلومات الرسمية، فإنها تخلق نقاط عمياء تسهل تسرب البيانات وخرق الملكية الفكرية. يقدم KiloClaw مساحة تحكم مركزية لفرق الأمان لتحديد ومراقبة وتقييد هذه الكيانات المستقلة دون التأثير على إنتاجية الموظفين.

الحدود الآمنة حول العمليات المستقلة

تشبه التحولات الحالية تلك التي حدثت في عصر Bring Your Own Device (BYOD) في أوائل العقد الثاني من القرن الحادي والعشرين، عندما كان الموظفون يستخدمون هواتفهم الشخصية للبريد الإلكتروني المؤسسي، مما أجبر إدارات تكنولوجيا المعلومات على اعتماد إدارة الأجهزة المحمولة. ومع ذلك، تحمل النسخة المتعلقة بالذكاء الاصطناعي مخاطر أكبر. فقد يكشف الهاتف الم compromised معلومات ثابتة، لكن وكيلًا مستقلاً غير مراقب يمتلك صلاحيات تنفيذ نشطة، مما يعني أنه يمكنه قراءة وكتابة وتعديل وحذف البيانات عبر المنصات المدمجة بسرعة تفوق ما يمكن أن يحققه البشر.

تعتمد هذه السكريبتات المستقلة أيضًا في كثير من الأحيان على القوة الحاسوبية الخارجية. قد يقوم موظف بتشغيل وكيل محلي بينما يقوم الوكيل بإرسال بيانات الشركة إلى خوادم استدلال طرف ثالث لمعالجة الاستفسارات. إذا استخدم مقدمو الخدمات البيانات المدخلة لتدريب نماذج مستقبلية، فإن المؤسسة تفقد السيطرة على ملكيتها الفكرية.

إدارة الهوية والوصول لوكلاء الذكاء الاصطناعي المستقلين

تتطلب إدارة الأنظمة المستقلة بنية تقنية مختلفة عن إدارة القوى العاملة البشرية. تم بناء أنظمة إدارة الهوية والوصول التقليدية لإدارة بيانات الاعتماد البشرية أو الاتصال الثابت بين التطبيقات. ومع ذلك، فإن الوكلاء المستقلين ديناميكيون، حيث يقومون بسلسلة من المهام بشكل متتابع، مما يتطلب أذونات محدودة ومؤقتة.

يمكن لـ KiloClaw إصدار رموز وصول قصيرة الأجل ومحددة بدقة بدلاً من السماح للمطورين بإدخال مفاتيح API دائمة ذات مستوى عالٍ في نماذج تجريبية. إذا حاول وكيل مصمم لتلخيص رسائل البريد الإلكتروني التسويقية الأسبوعية تنزيل قاعدة بيانات العملاء، فإن المنصة ستكتشف انتهاك النطاق وتلغي الوصول. يحد هذا من دائرة الأضرار داخل شبكة الشركة في حال تصرف نموذج مفتوح المصدر بشكل غير متوقع.

توازن الأدوات مثل KiloClaw بين السرعة والامتثال

فرض حظر شامل على أدوات الأتمتة المخصصة غالبًا ما يكون غير فعال؛ إذ إنه يدفع السلوك إلى الظلام، مما يشجع المهندسين على إخفاء الحركة وعمليات العمل. تهدف منصات مثل KiloClaw إلى إنشاء بيئة معتمدة حيث يمكن للموظفين تسجيل أدواتهم بأمان. لكي تعمل هذه الإطار الحوكمي، يجب على قادة تكنولوجيا المعلومات إعطاء الأولوية للتكامل.

يتصل KiloClaw مباشرة مع خطوط أنابيب التكامل المستمر والنشر التي تستخدمها فرق البرمجيات بالفعل. ومن خلال أتمتة عمليات التحقق من الأمان وتوفير الأذونات، يتم إزالة الاحتكاك الذي يدفع الموظفين إلى تجاوز القواعد. يمكن للمؤسسات إنشاء قوالب أساسية توضح البيانات التي يمكن للنماذج الخارجية معالجتها، مما يسمح للعمال بنشر الوكلاء ضمن الحدود المعتمدة مسبقًا.

تشير أدوات حوكمة الذكاء الاصطناعي المستقل إلى مرحلة جديدة من تنظيم الخوارزميات. كانت ردود الفعل المبكرة من الشركات على النماذج التوليدية تركز على سياسات الاستخدام المقبولة لروبوتات الدردشة النصية. لكن الآن، بدأ التركيز يتحول نحو التنسيق، والاحتواء، والمساءلة بين الأنظمة. كما تنظر الجهات التنظيمية في جميع أنحاء العالم في كيفية مراقبة الشركات للأنظمة الآلية، مما يدفع إلى فرض رقابة قابلة للتحقق كالتزام قانوني.

مع تزايد عدد الوكلاء الرقميين داخل الشبكات المؤسسية، أصبح مفهوم جدار حماية الوكيل عنصرًا قياسيًا في ميزانية تكنولوجيا المعلومات. ستشكل المنصات التي ترسم العلاقات بين نوايا البشر، وتنفيذ الآلات، وبيانات الشركات أساس عمليات الأمان المستقبلية. إن دخول KiloClaw إلى مجال حوكمة المؤسسات يسلط الضوء على واقع متغير للقيادات التنفيذية، حيث يتضمن التهديد الفوري إحالة مفاتيح الشبكة إلى آلات غير خاضعة للرقابة. إن إقامة سلطة هيكلية على هذه الكيانات غير البشرية ضرورية للاستفادة بأمان من إمكانياتها.

المصدر: AI News

أحدث في الذكاء الاصطناعي

مقالات سابقة في الذكاء الاصطناعي