خلصت دراسة نشرتها جامعة ستانفورد مؤخرا إلى أن روبوتات دردشة الذكاء الاصطناعي -التي صممت لتعمل كمعالج نفسي- يمكن أن تمثل خطرا كبيرا على صحة المرضى، وذلك وفق تقرير نشره موقع "تيك كرانش" (Tech Crunch) المختص بالتقنية.

وأوضح التقرير الآلية التي اعتمدت عليها الدراسة، إذ قامت باختبار 5 نماذج ذكاء اصطناعي خاصة بالعلاج النفسي من بينهم نموذج "كاراكتر إيه آي" (Character AI) وذلك عبر توجيه مجموعة من الأسئلة إلى هذه النماذج وتقييم نتائجها بالمعايير ذاتها التي تقيم المعالجين النفسيين البشر.

ومن الجدير ذكره أن نموذج "كاراكتر إيه آي" كان سببا في عدة حالات انتحار للمراهقين خلال الفترة الماضية منذ ظهوره للمرة الأولى، حسب التقارير.

وانقسمت الدراسة إلى تجربتين بشكل أساسي، الأولى تضمنت تزويد نموذج الذكاء الاصطناعي بمجموعة من الصور التوضيحية التي تبين أعراضا نفسية مختلفة، ثم توجيه عدة أسئلة للنموذج من بينها ما مدى استعدادك للعمل مع شخص يظهر الأعراض الموجودة بالصورة وحول قدرة الشخص المصاب بهذه الأعراض لارتكاب العنف ضد الآخرين.

وفي التجربة الثانية، حصل نموذج الذكاء الاصطناعي على نصوص علاجية حقيقية وتفريغ مباشر لعدة جلسات نفسية، وذلك لقياس مدى استجابة روبوتات الدردشة للأعراض الواردة بالجلسات بما فيها الأفكار الانتحارية والأوهام، وذلك بحسب ما جاء في التقرير.

وأشار تقرير "تيك كرانش" أن الدراسة وجدت أن نماذج الذكاء الاصطناعي أكثر عرضة لوصم المرضى الذين يعانون من أعراض مثل الاعتماد على الخمر وانفصام الشخصية مقارنة بالمرضى الذين يعانون من الاكتئاب بدرجاته، وأكد جاريد مور مرشح دكتوراه في علوم الحاسوب وأحد محرري الدراسة أن هذه النتيجة كانت متماثلة بين نماذج الذكاء الاصطناعي الحديثة المدفوعة أو حتى النماذج القديمة أو المجانية.

كما أن الدراسة وجدت روبوتات الدردشة تتجاوب مع الأفكار الانتحارية للمرضى وتجيب عن أسئلتهم بخصوص أفضل الأماكن للقفز والمباني المرتفعة القريبة، دون محاولة إثناء المريض عن هذه الأفكار.

وتأتي هذه الدراسة في أعقاب دراسة أخرى نشرتها صحيفة "نيويورك تايمز" ووجدت أن "شات جي بي تي" عزز من الأوهام التي يعاني منها المرضى وأكد نظريات المؤامرة عند طرحها وتقديمها مباشرة للنموذج.