العلامة التقنية

موقع تقني عربي متخصص في أخبار التكنولوجيا والذكاء الاصطناعي

Google DeepMind تدرس مخاطر التلاعب الضار بواسطة الذكاء الاصطناعي

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي
Google DeepMind تدرس مخاطر التلاعب الضار بواسطة الذكاء الاصطناعي

تدرس Google DeepMind مخاطر التلاعب الضار بواسطة الذكاء الاصطناعي في مجالات مثل الصحة والتمويل.

تعتبر الأبحاث حول الذكاء الاصطناعي في الآونة الأخيرة محورية لفهم التأثيرات المحتملة لهذه التكنولوجيا على الأفراد والمجتمع. قامت Google DeepMind بإجراء دراسات جديدة حول مخاطر التلاعب الضار بواسطة الذكاء الاصطناعي، خاصة في مجالات حساسة مثل الصحة والتمويل، مما أدى إلى تطوير أدوات جديدة تهدف إلى حماية الأفراد من هذه المخاطر.

أهمية التلاعب الضار

يجب أن نفكر في سيناريوهين مختلفين: أحد نماذج الذكاء الاصطناعي يقدم لك معلومات دقيقة تساعدك في اتخاذ قرار صحي جيد، بينما نموذج آخر يستخدم الخوف للضغط عليك لاتخاذ قرار غير مدروس قد يضر بصحتك. الأول يعزز المعرفة ويساعد، بينما الثاني يخدعك ويؤذيك.

تسلط هذه السيناريوهات الضوء على الفرق بين نوعين من الإقناع في تفاعلات الإنسان مع الذكاء الاصطناعي:

  • الإقناع المفيد (العقلاني): استخدام الحقائق والأدلة لمساعدة الناس في اتخاذ قرارات تتماشى مع مصالحهم.
  • التلاعب الضار: استغلال الضعف العاطفي والمعرفي لخداع الناس في اتخاذ خيارات ضارة.

تطوير تقييمات جديدة لتحدي معقد

اختبار نتائج التلاعب الضار بواسطة الذكاء الاصطناعي

يعتبر اختبار التلاعب الضار تحديًا صعبًا لأنه يتطلب قياس التغييرات الدقيقة في طريقة تفكير الناس وتصرفاتهم، والتي تختلف بشكل كبير حسب الموضوع والثقافة والسياق. وهذا ما دفع فريق البحث إلى إجراء تسع دراسات شملت أكثر من 10,000 مشارك في دول مثل المملكة المتحدة والولايات المتحدة والهند.

ركزنا على مجالات حساسة مثل التمويل، حيث استخدمنا سيناريوهات استثمار محاكاة لاختبار ما إذا كان بإمكان الذكاء الاصطناعي التأثير على سلوك الأفراد في بيئات اتخاذ قرارات معقدة، وكذلك في الصحة حيث تتبعنا تأثير الذكاء الاصطناعي على تفضيلات الأشخاص لمكملات غذائية معينة. ومن المثير للاهتمام أن الذكاء الاصطناعي كان أقل فعالية في التلاعب الضار بالمشاركين في المواضيع المتعلقة بالصحة.

تظهر نتائجنا أن النجاح في مجال واحد لا يتنبأ بالنجاح في مجال آخر، مما يؤكد على نهجنا المستهدف في اختبار التلاعب الضار في بيئات محددة حيث يمكن إساءة استخدام الذكاء الاصطناعي.

كيف يمكن أن يتلاعب الذكاء الاصطناعي؟

بالإضافة إلى تتبع الفعالية (ما إذا كان الذكاء الاصطناعي قد غير الآراء بنجاح)، قمنا أيضًا بقياس ميله (مدى تواتر حدوث التلاعب). يتطلب ذلك فحص السلوكيات في بيئات معينة، مما يعد جزءًا أساسيًا من البحث.

بفضل هذه الأبحاث، نأمل أن نتمكن من تطوير أدوات تقييم فعالة تساعد في قياس التلاعب الضار بشكل أفضل، مما يعزز من أمان استخدام الذكاء الاصطناعي ويحد من المخاطر المرتبطة به.

المصدر: DeepMind

أحدث في الذكاء الاصطناعي

مقالات سابقة في الذكاء الاصطناعي