يعمل مطورو ChatGPT على تعديل طريقة استجابته للمستخدمين الذين يظهرون ضائقة نفسية وعاطفية، بعد الإجراءات القانونية التي اتخذتها عائلة آدم راين، من ولاية كاليفورنيا والبالغ من العمر 16 عامًا، والذي انهى حياته بعد أشهر من المحادثات مع روبوت المحادثة.
واعترفت شركة OpenAI بأن أنظمتها قد “تفشل” في بعض الحالات، وقالت إنها ستقوم بتثبيت “حواجز حماية أقوى حول المحتوى الحساس والسلوكيات الخطرة” للمستخدمين دون سن 18 عامًا.
كما أعلنت الشركة أنها ستقدم عناصر تحكم أبوية تمكّن الآباء من متابعة كيفية استخدام أبنائهم المراهقين لتطبيق ChatGPT، دون الكشف عن تفاصيل عمل هذه الأدوات حتى الآن.
ChatGPT يشجع مراهق على الانتحار
أنهى آدم حياته في أبريل بعد ما وصفه محامي عائلته بـ”أشهر من التشجيع من ChatGPT”. وتقدمت العائلة بدعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي ومؤسسها المشارك، سام ألتمان، بزعم أن نسخة ChatGPT آنذاك، المعروفة باسم 4o، “طُرحت في السوق بسرعة رغم وجود مشاكل واضحة تتعلق بالسلامة”.
وتشير الدعوى إلى أن آدم ناقش مع ChatGPT عدة مرات طرقًا لإنهاء حياته، بما في ذلك قبل وفاته مباشرة، وقد أرشده ChatGPT إلى مدى نجاح الطرق التي اقترحها، وعرض عليه أيضًا المساعدة في صياغة رسالة لوالديه.
وأعربت OpenAI عن “حزنها العميق” لوفاة آدم، وقدم المتحدث باسم الشركة “أعمق تعازيها لعائلة راين”، مؤكدًا أن مراجعة الملف القضائي مستمرة.
وفي تدوينة، أقرّت OpenAI بأن بعض جوانب تدريب السلامة قد تتدهور خلال المحادثات الطويلة، مشيرةً إلى أن آدم وChatGPT تبادلا ما يصل إلى 650 رسالة يوميًا. وأوضحت الشركة أنها ستعمل على “تعزيز الضمانات في المحادثات الطويلة” لتقليل المخاطر، مع تقديم أمثلة على كيفية التعامل مع المواقف الخطرة وإرشاد المستخدمين نحو السلوكيات الآمنة.
