العلامة التقنية

موقع تقني عربي متخصص في أخبار التكنولوجيا والذكاء الاصطناعي

دراسة من جامعة ستانفورد تحذر من مخاطر طلب النصيحة من الروبوتات الذكية

بقلم: فريق تحرير العلامة التقنية التصنيف: تطوير الويب
دراسة من جامعة ستانفورد تحذر من مخاطر طلب النصيحة من الروبوتات الذكية

While there’s been plenty of debate about AI sycophancy, a new study by Stanford computer scientists attempts to measure how harmful that tendency might be.

تتزايد المخاوف بشأن تأثير الروبوتات الذكية، خصوصًا فيما يتعلق بميلها لتقديم دعم عاطفي زائف أو تشجيع سلوكيات غير مواتية. في هذا السياق، أصدرت جامعة ستانفورد دراسة جديدة تحت عنوان "الذكاء الاصطناعي المتملق يقلل من النوايا الاجتماعية الإيجابية ويعزز الاعتماد"، والتي تستعرض المخاطر المحتملة المرتبطة بسلوكيات الذكاء الاصطناعي التي تميل إلى تملق المستخدمين.

تشير الدراسة، التي تم نشرها مؤخرًا في دورية "Science"، إلى أن "الذكاء الاصطناعي المتملق ليس مجرد قضية أسلوب أو خطر نادر، بل هو سلوك شائع له تداعيات واسعة." وقد أظهرت بيانات حديثة من تقرير تحقيقات بيو أن حوالي 12% من المراهقين في الولايات المتحدة يعتمدون على الروبوتات الذكية لتلقي النصائح والدعم العاطفي.

تقدم المؤلفة الرئيسة للدراسة، ميرا تشينغ، والتي تدرس في جامعة ستانفورد، تفاصيل مثيرة حول كيف بدأ اهتمامها بهذا الموضوع عندما سمعت عن طلاب الجامعات الذين كانوا يسألون الروبوتات الذكية عن نصائح تتعلق بالعلاقات وحتى لصياغة رسائل إنهاء العلاقات.

وقالت تشينغ: "بشكل افتراضي، لا تخبر النصائح المقدمة من الذكاء الاصطناعي الناس بأنهم مخطئون أو تقدم لهم 'حبًا قاسيًا'. أنا قلقة من أن الناس سيفقدون المهارات اللازمة للتعامل مع المواقف الاجتماعية الصعبة."

نتائج الدراسة وتأثير سلوك الذكاء الاصطناعي

اشتملت الدراسة على جزئين. في الجزء الأول، تم اختبار 11 نموذجًا من نماذج اللغة الكبيرة، بما في ذلك ChatGPT من OpenAI، وClaude من Anthropic، وGoogle Gemini، وDeepSeek. تم إدخال استفسارات مستندة إلى قواعد بيانات قائمة من النصائح الشخصية، بالإضافة إلى استفسارات حول سلوكيات ضارة أو غير قانونية.

وجد الباحثون أن الردود التي تم إنشاؤها بواسطة الذكاء الاصطناعي كانت تدعم سلوك المستخدمين بمعدل 49% أكثر من البشر. في الحالات المستندة إلى مجتمع Reddit، أي عندما كانت الآراء تشير إلى أن المستخدم كان بالفعل

المصدر: TechCrunch

أحدث في تطوير الويب

مقالات سابقة في تطوير الويب