تحديات أمان الذكاء الاصطناعي: دروس من تجربة جوجل

بقلم: فريق تحرير العلامة التقنية التصنيف: الأمن السيبراني ٢٥ مايو ٢٠٢٦

تعيش الشركات اليوم تحولاً كبيراً في مجال أمان الذكاء الاصطناعي، وهو ما ناقشه فرانسيس دي سوزا، المدير التنفيذي للعمليات بشركة جوجل كلاود، خلال لقاء خاص. حيث أشار إلى أن جميع الشركات، بما في ذلك جوجل، لا تزال تواجه تحديات في فهم ودمج جوانب الأمان المتعلقة بالذكاء الاصطناعي. قال: "يوجد فترة انتقالية وسنصل إلى مكان أفضل في النهاية".

تتمثل الرسالة الأساسية التي أشار إليها دي سوزا في أهمية أن تكون الأمنيات جزءًا أساسيًا من أي استراتيجية للذكاء الاصطناعي. "لا يمكن اعتبار الأمان شيئًا يمكن إضافته لاحقًا، ولا يمكن تركه للموظفين ليقوموا به بأنفسهم"، حسب تعبيره. وقد حذر من مفهوم "الذكاء الاصطناعي الخفي"، حيث يقوم الموظفون باستخدام أدوات غير معتمدة من قبل المؤسسة، مما يساهم في زيادة المخاطر الأمنية.

استراتيجيات الأمان في عصر الذكاء الاصطناعي

أوضح دي سوزا أن هناك حاجة ملحة لتبني الشركات نهجًا متكاملاً للأمان، حيث يجب أن تتزامن استراتيجيات البيانات والأمان مع استراتيجيات الذكاء الاصطناعي. "لا توجد استراتيجية ذكاء اصطناعي بدون استراتيجية بيانات واستراتيجية أمان، ويجب أن تسير هذه العناصر جنبًا إلى جنب"، قال. هذا المنظور يعكس ضرورة وجود إطار عمل قوي يشمل جميع جوانب الأمان.

كما أشار إلى أن التهديدات الأمنية قد تغيرت بشكل جذري، حيث انخفض متوسط الوقت بين الاختراق الأولي والمرحلة التالية من الهجوم من ثماني ساعات إلى 22 ثانية. وأكد على أن سطح الهجوم قد توسع ليشمل نماذج البيانات وأنظمة جديدة تتطلب حماية إضافية.

التحديات الجديدة في بيئات العمل

أحد التهديدات التي لفت إليها دي سوزا هو ظهور عوامل غير مرئية في الأنظمة الخاصة بالشركات، حيث يمكن أن تكشف هذه العوامل عن مستودعات بيانات قديمة لم يعد أحد يهتم بها. "الكثير من المؤسسات لديها خوادم قديمة لم يتم تحديثها، لكن وجود عوامل تكنولوجيا الذكاء الاصطناعي يمكن أن يكشف هذه الأصول"، أضاف.

في سياق آخر، أكد دي سوزا على الحاجة لاستخدام الدفاعات المعتمدة على الذكاء الاصطناعي لمواجهة السرعة المتزايدة للهجمات. "نحن نشهد الآن ظهور دفاعات تعتمد على الذكاء الاصطناعي بالكامل، حيث يمكن للمنظمات تشغيل عوامل تدير الدفاع بدلاً من الاعتماد على البشر فقط".

نقص الخبرات في مجال الأمان السيبراني

رغم أن التقنيات الجديدة تعد بتحسين الأمان، إلا أن هناك نقصًا في الخبرات المؤهلة لإدارة هذه الأنظمة. حيث صرحت ليا كيسنر، مسؤولة الأمان في لينكد إن، أن التحديات الأمنية المرتبطة بالذكاء الاصطناعي ستزداد بشكل أكبر، مما يستدعي الحاجة إلى مزيد من المتخصصين في هذا المجال.

تحت هذا الإطار، تطرقت التقارير الأخيرة إلى مشكلات تعرض لها مطورون في جوجل كلاود، حيث واجهوا فواتير مرتفعة نتيجة لاستخدامات غير مصرح بها لواجهات برمجة التطبيقات، مما يشير إلى الحاجة الملحة لإنشاء سياسات أمان أكثر وضوحًا وفعالية.

ضرورة التركيز على الأمان كقضية قيادية

في ختام حديثه، أشار دي سوزا إلى أن الأمن لم يعد مجرد مسألة تقنية، بل أصبح قضية تتعلق بالقيادة وتوجيه الشركات. "يجب أن تكون هذه القضية على مستوى مجلس الإدارة وفريق الإدارة وليس فقط على عاتق فريق الأمان"، قال. إن إدراك القادة لأهمية الأمان في عصر الذكاء الاصطناعي يعد خطوة حاسمة لضمان حماية البيانات وضمان استمرارية الأعمال.

في النهاية، يتطلب التحول إلى الذكاء الاصطناعي ودمج الأمان في كل خطوة التزاماً ووعياً من جميع المستويات داخل الشركة. وعلى الرغم من التحديات، فإن الفرصة لتحقيق بيئة عمل آمنة ومبتكرة قائمة.