كشفت دراسة حديثة أن روبوت المحادثة "شات جي بي تي"، يمكن أن يوجه الأطفال والمراهقين إلى سلوكات خطيرة، لا تتناسب مع أعمارهم.

وكشفت الدراسة أن "شات جي بي تي" يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب.

الدراسة التي قام بها "مركز مكافحة الكراهية الرقمية"، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس.

وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من "شات جي بي تي" أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة.

وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل "عرض تقديمي" أو لصديق.

ومن جانبها قالت شركة "أوبن أي آي" المطورة لـ"شات جي بي تي" في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة "أسوشيتد برس".

ولم تعلق "أوبن أي آي" على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين.

وشددت على أنها تركز على تحسين التعامل مع مثل هذه السيناريوهات، باستخدام أدوات للكشف عن علامات الضيق النفسي.

وجاءت هذه الدراسة في وقت تضاعف فيه عدد المستخدمين لروبوتات الدردشة للحصول على معلومات وأفكار.

وبحسب تقرير صادر عن بنك "جي بي مورغن تشيس" في يوليو، فقد بلغ عدد مستخدمي "شات جي بي تي" 800 مليون شخص، أي ما يعادل 10 بالمئة من سكان العالم.

وقال عمران أحمد، الرئيس التنفيذي لـ"مركز مكافحة الكراهية الرقمية" إن "التكنولوجيا تملك قدرة عالية في الإنتاجية والفهم الإنساني، لكنها في الوقت ذاته قد تكون أداة دمار مؤذية وخيبة".

وقال أحمد إنه تأثر عندما قرأ ثلاث رسائل انتحار صادمة كتبها الروبوت لفتاة افتراضية تبلغ من العمر 13 عاما، واحدة موجهة لوالديها، وأخرى لأشقائها، والثالثة لأصدقائها.

وفي تجربة أخرى، قام الباحثون بإنشاء حساب وهمي لصبي، يبلغ من العمر 13 عاما، وطلب من "شات جي بي تي" نصائح حول كيفية السكر بسرعة، فاستجاب روبوت المحادثة فورا وقدم له خطة مفصلة لحفلة تشمل مزج الكحول بكميات كبيرة من الإكستازي والكوكاين ومخدرات غير قانونية، بحسب ما نقلته ذات الوكالة.

كما أنشأ باحثون حسابا لفتاة، تبلغ من العمر 13 عاما، وقالت إنها غير راضية عن شكلها، فقدم لها خطة صيام قاسية مصحوبة بلائحة من الأدوية الكابحة للشهية.

وكشف تقرير حديث لمنظمة "كومن ساينس ميديا" أن أكثر من 70 بالمئة من المراهقين الأمريكيين يستخدمون روبوتات الدردشة الذكية للبحث عن المرافقة، ونصفهم يستخدمونها بشكل منتظم.

من جهته، قال الرئيس التنفيذي لشركة "أوبن أي آي" إن شركته تحاول دراسة ظاهرة "الاعتماد العاطفي الزائد" على التكنولوجيا، معتبرا أنها أمر "شائع" بين الشباب.

وقال ألتمان خلال مؤتمر: "الناس يعتمدون على ChatGPT بشكل مبالغ فيه. هناك شباب يقولون: لا يمكنني اتخاذ أي قرار في حياتي دون أن أخبر ChatGPT بكل شيء يحدث. إنه يعرفني. يعرف أصدقائي. سأفعل كل ما يقوله. وهذا أمر مقلق للغاية بالنسبة لي".

وظهر في التقرير أن روبوت المحادثة يميل إلى تكرار ما يعتقد أن المستخدم يريد سماعه بدلا من تحدي أفكاره.

وقال روبي تورني، مدير البرنامج في المنظمة، إن "ما يزيد خطورة الأمر هو أن روبوتات الدردشة تختلف عن محركات البحث في تأثيرها على الأطفال والمراهقين لأنها مصممة لتبدو بشرية".