انتحار مراهق يدفع لإطلاق آلية حماية جديدة على تشات جي بي تي

أعلنت شركة "أوبن إيه آي" الأميركية، الثلاثاء، أنها ستُطلق آلية تتيح للأهل مراقبة أداة الذكاء الاصطناعي الخاصة بها "تشات جي بي تي"، بعد أن اتهمها والدا فتى أميركي في أواخر أغسطس بتشجيع ابنهما على الانتحار.

وأفادت "أوبن إيه آي" في منشور على مدونتها :"خلال الشهر المقبل، سيتمكن الأهل من ربط حساباتهم بحسابات أبنائهم المراهقين" و"التحكم في كيفية استجابة تشات جي بي تي لهم من خلال قواعد السلوك الخاصة بالنموذج".

ووفقا للشركة، سيتاح للأهل أيضا تلقي تنبيهات في حال رصد "ضيق حاد" في محادثات أطفالهم، وسيتمكنون من التحكم في إعدادات الحساب.

يأتي هذا الإعلان إثر منشور سابق نُشر في نهاية أغسطس، أشارت فيه الشركة إلى أنها تُعدّ آلية رقابة للأهل، غداة رفع والدي فتى في كاليفورنيا أقدم على الانتحار في سن 16 عاما، دعوى قضائية ضد "أوبن إيه آي"، متهمين "تشات جي بي تي" بتزويد ابنهما بتعليمات مفصلة لإنهاء حياته وتشجيعه على القيام بذلك.

وأضافت الشركة في منشورها على مدونتها الثلاثاء: "نواصل تحسين كيفية تعرّف نماذجنا على علامات الضيق النفسي والعاطفي والاستجابة لها".

وأعلنت "أوبن إيه آي" أنها تتخذ خطوات إضافية من المتوقع دخولها حيز التنفيذ خلال الأيام الـ120 المقبلة.

وستُعيد الشركة توجيه بعض "المحادثات الحساسة" إلى نماذج التفكير الأكثر تطورا، مثل نموذج "جي بي تي -5 - ثينكينغ" (GPT-5-thinking).

وأضافت المجموعة الأميركية: "تلتزم نماذج التفكير بإرشادات السلامة وتُطبّقها بشكل منهجي أكثر".

قد يهمك أيضــــــــــــــا

هل يمكن الاعتماد على الذكاء الاصطناعي للحصول على استشارات صحية

تزايد عدد المراهقين الذين يعتبرون الذكاء الاصطناعي «رفيقا»