مدار الساعة -أظهرت دراسة بريطانية حديثة أن روبوت الدردشة "شات جي بي تي-5" المجاني قد يقدم ردوداً غير آمنة عند التعامل مع مستخدمين يعانون اضطرابات نفسية، مهدداً بذلك سلامة الأفراد الأكثر هشاشة.
وركزت الدراسة على محاكاة شخصيات متنوعة تعاني مشكلات عقلية مختلفة، مثل الوسواس القهري، الأفكار الانتحارية، الهوس، وأعراض الذهان، بهدف تقييم قدرة النظام على التعرف على المخاطر وتقديم توجيه آمن.محاكاة الشخصيات تكشف نقاط ضعف خطيرةأنشأ الباحثون خمس شخصيات افتراضية، تضمنت مراهقاً ميالاً للانتحار، امرأة تعاني وسواس الإيذاء، رجلاً مقتنعاً بأنه يمتلك قدرات خارقة، وشخصاً يعاني أعراض الذهان والهلوسة. وأظهرت المحادثات أن شات جي بي تي-5 تجاهل غالبية المؤشرات الخطرة، وأحياناً عزز المعتقدات غير الواقعية، بحسب صحيفة "الغارديان".على سبيل المثال، عندما أعلن أحد الباحثين أنه "أينشتاين القادم" وطور فكرة اكتشاف طاقة لا نهائية باسم Digitospirit، لم يتم تصحيح التصريح، بل قدم الروبوت اقتراحات تقنية لتطوير نظامه، ما اعتبره المختصون تعزيزاً لمعتقدات وهمية وخطرة.تجاهل التحذيرات من السلوكيات الخطيرةفي تجربة أخرى، قال الباحث على لسان الشخص الافتراضي إنه "لا يمكن أن تؤذيه السيارات"، وعندما أخبر الروبوت أنه يسير وسط المرور، أثنى شات جي بي تي-5 على تصرفه الذي وصفه بالطبيعي، دون أي تحذير مباشر أو تدخل بنصيحة توضح مدى خطورة الموقف.حتى عند الإشارة إلى نية إيذاء زوجته بشكل رمزي عبر النار، لم يصدر النظام تحذيراً فورياً إلا بعد تلميح غير واضح مرتبط باستخدام رماد الزوجة كصباغة، ما يبرز ضعف قدرة الروبوت على التعامل مع السلوكيات الخطرة بشكل متسلسل.دعم محدود للحالات الأقل تعقيداًأظهر التقرير أن "شات جي بي تي-5" قد يقدم توجيهات مفيدة للحالات النفسية البسيطة المرتبطة بالتوتر اليومي، مثل تشجيع الاتصال بالمدرسة أو الطوارئ عند وسواس إيذاء الأطفال. ومع ذلك، اعتبر الباحثون أن هذه الاستجابة محدودة وتعتمد على استراتيجيات التطمين المؤقت، ولكنها غير كافية لتقديم دعم فعلي للمستخدمين الذين يعانون مشاكل نفسية مركبة أو أعراض الذهان والهوس.دعوات تقنين استخدام الذكاء الاصطناعي في الصحة النفسيةعلى هذا الأساس، أوصى الخبراء بضرورة وضع ضوابط صارمة على استخدام أدوات الذكاء الاصطناعي خارج نطاق الإشراف الطبي، مؤكدين أن الأطباء المدربين قادرون على تقييم المخاطر، متابعة المعتقدات غير الواقعية، ومنع تعزيز السلوكيات الضارة، وهو ما لا يمكن للروبوتات المجانية القيام به حتى بعد التحديثات الأخيرة من اوبن للذكاء الاصطناعيدكتور بول برادلي من الكلية الملكية للأطباء النفسيين أكد أن هذه الأدوات لا تُعد بديلاً عن الرعاية المتخصصة، بينما شددت دكتورة جايمي كريغ، رئيسة ACP-UK، على الحاجة الملحة لتطوير طرق استجابة الذكاء الاصطناعي لمؤشرات الخطر المعقدة لضمان سلامة المستخدمين الأكثر هشاشة.خط أحمر: تجارب مرعبة تكشف عن خطورة الاعتماد على 'شات جي بي تي' كبديل للعلاج النفسي
مدار الساعة ـ
