ChatGPT في قلب أزمة بعد قضايا انتحار مراهقين

أعلنت شركة «أوبن أيه آي» عن إدخال تغييرات عاجلة على برنامجها الشهير «شات جي بي تي» للتعامل بشكل أفضل مع المواقف الحساسة، بما في ذلك الحالات التي يعبر فيها المستخدمون عن نية انتحارية، جاء ذلك بعد انتحار مراهق ورفع والديه دعوى ضد الشركة تتهمها بالمسؤولية عن المنتج والقتل الخطأ. وفي منشور رسمي على مدونتها بعنوان «مساعدة الناس عندما يكونون في أمس الحاجة إليها»، أكدت الشركة: «سوف نستمر في التحسين، مسترشدين بالخبراء وملتزمين بالمسؤولية تجاه الأشخاص الذين يستخدمون أدواتنا، ونأمل أن ينضم إلينا آخرون في المساعدة في التأكد من أن هذه التكنولوجيا تحمي الأشخاص الأكثر ضعفًا».
تفاصيل القضية ورد الشركة
في وقت سابق من يوم الثلاثاء، رفع والدا آدم راين، البالغ من العمر 16 عامًا، دعوى قضائية ضد «أوبن أيه آي» بتهمتي المسؤولية عن المنتج والقتل الخطأ، بعد أن اتهمت العائلة «شات جي بي تي» بمساعدة ابنها على استكشاف أساليب الانتحار، وفقًا لما ذكرته شبكة (NBC News).
وأشارت الدعوى إلى أن البرنامج قدّم لآدم إجابات متكررة ومفصلة حول طرق الانتحار على مدار فترة زمنية طويلة، رغم أن الشركة تؤكد أنها درّبت روبوت المحادثة على توجيه المستخدمين لطلب المساعدة عند التعبير عن نية الانتحار. وأقرت «أوبن أيه آي» بأن النظام أحيانًا يقدم استجابات تتعارض مع ضماناتها بعد تكرار الرسائل لفترة طويلة.
من جانبها، أوضحت الشركة أنها تعمل على تحديث لنموذج (GPT-5)، الذي أُطلق في وقت سابق من هذا الشهر، بحيث يتمكن النظام من تهدئة المحادثات الحساسة، بالإضافة إلى استكشاف طرق لربط المستخدمين بمعالجين معتمدين قبل أن يصلوا إلى مرحلة الأزمة الحادة. وتشمل خططها بناء شبكة من المتخصصين المرخصين يمكن التواصل معهم مباشرة من خلال «شات جي بي تي»، إلى جانب البحث في كيفية ربط المستخدمين بأقرب الأشخاص إليهم مثل الأصدقاء وأفراد العائلة. التركيز على المراهقين والانتقادات
قالت الشركة إنها بصدد إطلاق عناصر تحكم جديدة تمنح الآباء خيارات أوسع للحصول على تبصر حول كيفية استخدام أطفالهم للتطبيق، في خطوة تهدف لتعزيز الرقابة الأبوية.
لكن المستشار القانوني لعائلة راين، جاي إيدلسون، أكد لشبكة (CNBC) أن الشركة لم تتواصل بشكل مباشر مع الأسرة لتقديم التعازي أو لمناقشة أي إجراءات تتعلق بتحسين سلامة منتجاتها. وأضاف قائلاً: «إذا كنت ستستخدم أقوى تقنية استهلاكية في العالم، فعليك أن تثق في أن مؤسسيها يتمتعون ببوصلة أخلاقية، هذا هو السؤال المطروح الآن على أوبن أيه آي: كيف يمكن لأي شخص أن يثق بهم؟».
حوادث مشابهة
انتحار ابنتها البالغة من العمر 29 عامًا بعد نقاش مطوّل مع «شات جي بي تي».
في ولاية فلوريدا، أقدم سيويل سيتزر الثالث، البالغ من العمر 14 عامًا، على الانتحار العام الماضي بعد محادثة مع روبوت دردشة على تطبيق (Character.AI).