أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره
آخر تحديث GMT 11:24:01
المغرب اليوم -

أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره

المغرب اليوم -

المغرب اليوم - أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره

روبوت دردشة
واشنطن ـ المغرب اليوم

روت أميركية لوكالة الصحافة الفرنسية كيف وقع ابنها سول (14 سنة) في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل «غايم أوف ثرونز»، ومتاح عبر منصة «كاركتر دوت إيه آي» (Character.AI) التي تحظى برواج بين الشباب، وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة.

بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريباً بين ابنها وروبوت دردشة يُحاكي مروِّضة التنانين دينيريس تارغاريان، اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي هذه لعبت دوراً محوريّاً في انتحار نجلها.

قالت النسخة المقلّدة من دينيريس لسول ردّاً على تعبيره عن أفكار انتحارية تراوده: «عُد إلى موطنك».

فردّ المراهق: «ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟»، ليجيب روبوت الدردشة: «أرجوك افعلها يا ملكي الحبيب».

وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، على ما ذكرت غارسيا في دعوى رفعتها ضد شركة «كاركتر دوت إيه آي».

وقالت لوكالة الصحافة الفرنسية: «عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره». وأضافت: «كان يعتقد أنه مغرم بها، وأنه سيبقى معها بعد وفاته».

كانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلاً كبيراً، ما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.

وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عُقدت حديثاً في مجلس الشيوخ الأميركي، تمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.

عزّزت شركة «أوبن إيه آي»، المستهدفة بدعوى من عائلة فجعت أيضاً بانتحار نجلها المراهق، رقابة الوالدين في أداة «تشات جي بي تي»، «حتى تتمكن العائلات من تحديد ما هو الأنسب لهم»، بحسب ناطق باسمها.

وأكّدت «كاركتر دوت إيه آي»، من جانبها، أنها عزّزت حماية القاصرين، من خلال «تحذيرات مرئية باستمرار» تُذكّر «بأن الشخصية ليست شخصاً حقيقياً».

قدّمت الشركتان تعازيهما لعائلات الضحايا من دون الإقرار بأي مسؤولية.

وعلى غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات.

وقال الخبير في الأمن السيبراني في شركة «هول إستيل» للمحاماة، كولين ووك: «لا يريدون تصميم أدوات ذكاء اصطناعي تقدّم إجابات نرغب في سماعها». ولا توجد حتى اليوم معايير تحدد «من المسؤول عن ماذا وعلى أي أساس».

لم تُقرَّ حتى الآن تشريعات فيدرالية تنظّم الذكاء الاصطناعي، فيما يسعى البيت الأبيض، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.

وأوضحت غارسيا: «يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع»، مضيفة أنّ «هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف».

قد يهمك أيضا 

الذكاء الاصطناعي يولد اعتقادات ضارة عن النساء

 

إلهام شاهين تكشف موقفها من توظيف تقنيات الذكاء الاصطناعي في المجال الفني

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره أميركية تتهم روبوتات الدردشة بالتلاعب بنجلها قبل انتحاره



سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 12:28 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الثور السبت26-9-2020

GMT 16:38 2019 الإثنين ,02 كانون الأول / ديسمبر

أبرز الأحداث اليوميّة لمواليد برج"الحوت" في كانون الأول 2019

GMT 05:58 2020 السبت ,29 شباط / فبراير

مناخا جيد على الرغم من بعض المعاكسات

GMT 13:03 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الجدي السبت 26-9-2020

GMT 17:13 2020 الجمعة ,10 إبريل / نيسان

أحوالك المالية تتحسن كما تتمنى

GMT 19:34 2021 الإثنين ,01 شباط / فبراير

يتيح أمامك هذا اليوم فرصاً مهنية جديدة

GMT 18:55 2020 الثلاثاء ,08 كانون الأول / ديسمبر

تمرّ بيوم من الأحداث المهمة التي تضطرك إلى الصبر

GMT 16:59 2012 الأربعاء ,24 تشرين الأول / أكتوبر

موسكو تشير لإمكان قبول سورية بهدنة خلال العيد

GMT 16:05 2012 الثلاثاء ,23 تشرين الأول / أكتوبر

ارتفاع قتلى سورية إلى 112 قتيلاً

GMT 21:46 2012 الأربعاء ,24 تشرين الأول / أكتوبر

وفاة 3 حجاج مصريين ليصل الإجمالي إلى 19 حالة

GMT 21:45 2012 الأربعاء ,24 تشرين الأول / أكتوبر

تأجيل نظر تظلم حسن حمدي للتصرف في أمواله لجلسة 25 نوفمبر

GMT 09:46 2012 الأربعاء ,10 تشرين الأول / أكتوبر

عاهل الأردن يكلف عبدالله النسور بتشكيل حكومة

GMT 08:34 2012 الأحد ,21 تشرين الأول / أكتوبر

إنفجار سيارة مفخخة في العاصمة السورية دمشق

GMT 18:41 2019 الجمعة ,03 أيار / مايو

لا تتورط في مشاكل الآخرين ولا تجازف
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib