تزايد دور نظم الذكاء الاصطناعي يستدعي تحسين الحوكمة

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي ٦ أبريل ٢٠٢٦

تشهد نظم الذكاء الاصطناعي تطوراً ملحوظاً، حيث بدأت تتجاوز الردود البسيطة لتصبح قادرة على التخطيط واتخاذ القرارات وتنفيذ المهام دون الحاجة لتدخل بشري كبير. لم يعد الأمر مقتصراً على مدى صحة الإجابات التي تقدمها النماذج، بل يتعلق بكيفية تصرف هذه النماذج عندما تُمنح القدرة على العمل بشكل مستقل.

تحتاج الأنظمة المستقلة إلى حدود واضحة وقواعد تحدد ما يمكن أن تصل إليه، وما هو مسموح لها القيام به، وكيفية تتبع أفعالها. من دون هذه الضوابط، يمكن أن تخلق الأنظمة المدربة بشكل جيد مشكلات يصعب اكتشافها أو عكسها.

الجهود المبذولة من قبل ديلويت

تعمل شركة ديلويت على تطوير أطر حوكمة وأساليب استشارية لمساعدة المؤسسات في إدارة نظم الذكاء الاصطناعي بشكل فعال. بينما تعتمد معظم نظم الذكاء الاصطناعي الحالية على توجيهات بشرية، فإن الذكاء الاصطناعي الوكيل يغير هذا النمط. يمكن لهذه الأنظمة تقسيم هدف معين إلى خطوات، واختيار الأفعال، والتفاعل مع أنظمة أخرى لإتمام المهام.

تتطلب هذه الاستقلالية الجديدة تحديات إضافية، حيث أن النظام الذي يتصرف بمفرده قد يتخذ مسارات لم يتم توقعها تماماً أو يستخدم بيانات بطرق غير مقصودة. تركز جهود ديلويت على مساعدة المؤسسات في الاستعداد لهذه المخاطر، من خلال النظر إلى كيفية تكامل الذكاء الاصطناعي في العمليات التجارية.

دمج الحوكمة في دورة حياة النظام

لا ينبغي إضافة الحوكمة بعد نشر النظام، بل يجب أن تُبنى في جميع مراحل دورة حياة نظام الذكاء الاصطناعي. يبدأ ذلك من مرحلة التصميم، حيث تحتاج المؤسسات إلى تحديد ما يمكن للنظام القيام به وحدود قدراته. يتضمن ذلك وضع قواعد حول استخدام البيانات وكيفية استجابة النظام في حالات عدم اليقين.

في مرحلة النشر، يركز مفهوم الحوكمة على الوصول والتحكم، بما في ذلك من يمكنه استخدام النظام وما يمكن أن يتصل به. بعد أن يصبح النظام فعالاً، يصبح الرصد هو الشغل الشاغل. يمكن للنظم المستقلة أن تتغير مع مرور الوقت، ومع التفاعل مع بيانات جديدة، مما يتطلب فحوصات منتظمة لضمان عدم انحرافها عن الهدف الأصلي.

أهمية الشفافية والمساءلة

مع تزايد مسؤوليات نظم الذكاء الاصطناعي، يصبح من الصعب تتبع كيفية اتخاذ القرارات. وهذا يخلق طلباً أكبر على الشفافية. تبرز جهود ديلويت أهمية تتبع كيفية عمل الأنظمة، بما في ذلك تسجيل الأفعال وتوثيق القرارات. تساعد هذه السجلات المؤسسات في تحديد ما حدث إذا حدث خطأ ما.

إذا اتخذ نظام مستقل إجراءً ما، يجب أن يكون هناك وضوح حول من يتحمل المسؤولية. تظهر الأبحاث التي أجرتها ديلويت أن اعتماد نظم الذكاء الاصطناعي الوكيل يتحرك بسرعة أكبر من الضوابط اللازمة لإدارتها، حيث تستخدم حوالي 23% من الشركات هذه الأنظمة، ومن المتوقع أن تصل هذه النسبة إلى 74% خلال عامين.

مراقبة في الوقت الحقيقي لنظم الذكاء الاصطناعي

بمجرد أن يصبح النظام المستقل نشطاً، ينتقل التركيز إلى كيفية تصرفه في الظروف الواقعية. القواعد الثابتة ليست كافية دائماً، ويجب رصد الأنظمة أثناء عملها. تشمل طريقة ديلويت المراقبة في الوقت الحقيقي، مما يسمح للمؤسسات بتتبع ما يفعله نظام الذكاء الاصطناعي أثناء أداء المهام. إذا تصرف النظام بشكل غير متوقع، يمكن للفِرق التدخل بسرعة.

تساعد هذه المراقبة أيضاً في الامتثال، حيث تحتاج الشركات في الصناعات المنظمة إلى إثبات أن الأنظمة تتبع القواعد والمعايير. في الواقع، بدأت هذه الضوابط بالظهور في البيئات التشغيلية، حيث تصف ديلويت سيناريوهات حيث تراقب نظم الذكاء الاصطناعي أداء المعدات في مواقع متعددة.

تحدد أطر الحوكمة الإجراءات التي يمكن أن يتخذها النظام، ومتى تكون الموافقة البشرية مطلوبة، وكيفية تسجيل القرارات. تعمل هذه العملية عبر أنظمة متعددة، لكن من وجهة نظر المستخدم، تظهر كإجراء واحد.

ستكون الحوكمة جزءًا من المناقشات في AI & Big Data Expo North America 2026، الذي سيعقد في 18-19 مايو في سانتا كلارا، كاليفورنيا. تم إدراج ديلويت كراعٍ ماسي للحدث، مما يجعلها من بين الشركات التي تسهم في المحادثات حول كيفية نشر الأنظمة المستقلة والتحكم بها في الممارسة العملية.

التحدي لا يقتصر على بناء أنظمة أكثر ذكاءً، بل يهدف أيضاً إلى ضمان تصرفها بطرق يمكن للمؤسسات فهمها وإدارتها والثقة بها على مر الزمن.