الذكاء الاصطناعي والقنبلة النووية أسئلة أخلاقية

الذكاء الاصطناعي والقنبلة النووية... أسئلة أخلاقية

المغرب اليوم -

الذكاء الاصطناعي والقنبلة النووية أسئلة أخلاقية

بقلم: مأمون فندي

هل تختلف الأسئلة الأخلاقية التي يطرحها الذكاء الاصطناعي عن بقية الأسئلة التي طرحتها التكنولوجيا من قبل بما فيها انشطار النواة والقنبلة النووية على علماء مثل نيلز بور وروبرت أوبنهايمر؟ وما الذي يمكن أن نتعلمه من نقاشهم؟ وأين تفقد المقارنة بُعدَيها النفعي والأخلاقي معاً؟ ربما البداية تتعلق بسلطة من بيدهم اتخاذ القرار: قلة تملك التقنية، فيما يتحمل تبعاتها أناس لا بدَّ لهم فيها. القنبلة سلاح غايته التدمير، بينما يدخل الذكاء الاصطناعي فيمكن الحديث عنه في إطار ثنائي الاستخدام؛ إذ يمكن قراءته في إطار منفعة البشرية، وكذلك في تدميرها، وقد شاهدنا خلال العامين الماضيين كيف استُخدم الذكاء الاصطناعي في أعمال عسكرية مدمرة، وربما وباستدراك يمكن القول ذاته عن الطاقة النووية.

في الثامن من سبتمبر (أيلول) الماضي، أعلن جاكوب كوكسون، الباحث في تدريب النماذج لدى «أنثروبيك» والسابق في «أوبن إيه آي»، استقالته. وحذّر من أن المنافسة تدفع الشركتين إلى تطوير أنظمة تستطيع تحسين قدراتها بنفسها وقد تتجاوز قدرة البشر على ضبطها. يمكن الاختلاف معه في تقدير احتمال هذا الخطر، لكن اعتراضه يطرح سؤالاً قائماً بذاته: بأي تفويض يحدد مجلس إدارة شركة مقدار الخطر الذي ينبغي للآخرين أن يقبلوه؟

بالطريقة نفسها وفي يوليو (تموز) 1944، حذّر نيلز بور، مؤسس معهد الفيزياء النظرية بجامعة كوبنهاغن والمشارك في المشروع الذري للحلفاء، الرئيس روزفلت، من أن التفوق العسكري المؤقت قد يخلّف خطراً دائماً، ودعا إلى اتفاق دولي مبكر. كان يرى أن ما تعدّه دولة ضماناً لأمنها قد يدفع دولة أخرى إلى تسريع تسلّحها. وهذا وجه الشبه مع سباق الذكاء الاصطناعي: قد تدرك كل شركة فائدة التمهّل، لكنَّها تخشى أن تمنح منافسيها فرصة للسبق. وعندئذ يصبح الاتفاق على شروط الاختبار أهم من حسن نية أي شركة بمفردها. وقصة الذكاء الاصطناعي كما شهدنا في الانتخابات النصفية لتجديد الكونغرس الأميركي، اتخذت حيزاً معتبراً في اختيارات الناخبين، على الأقل فيما يعرف بـ«الداتا سنترز» أو مراكز البيانات وتأثيرها في البيئة.تابع القرارات

وفي يونيو (حزيران) 1945، اقترحت لجنة ترأسها جيمس فرانك، أستاذ الكيمياء الفيزيائية بجامعة شيكاغو، اختبار قوة القنبلة في مكان غير مأهول إذا كان الهدف هو استعراض قوة الدمار الذي أحدثته وردع الأعداء. كذلك طالب ليو زيلارد، الفيزيائي في مختبر الجامعة التابع لمشروع مانهاتن، بإعلان شروط الاستسلام وإمهال اليابان قبل اللجوء إلى السلاح. وذكّر بأنَّ هزيمة ألمانيا أزالت الخطر الذي دفعه إلى العمل على القنبلة. ويقابل ذلك سؤالان اليوم: هل اختُبر النظام في ظروف تكشف عيوبه قبل تعريض الناس لخطر القنبلة؟ وهل تملك جهة مستقلة وقف استخدام السلاح النووي إذا تغيّرت المعطيات التي بررت إطلاقه؟

أميركا استخدمت القنبلة ضدّ هيروشيما وناغازاكي رغم أنَّ ألمانيا كانت قد هزمت، ولم يكن هناك داعٍ لاستعراض القوة.

بعد هيروشيما بيومين، اعترض ألبير كامو، رئيس تحرير «كومبا»، على حماسة الصحافة للقنبلة. وكتب برتراند راسل، الفيلسوف والمحاضر في كلية ترينيتي بجامعة كمبردج، عن اجتماع الانتصار العلمي والفشل الأخلاقي والسياسي. أما جورج أورويل، الروائي والصحافي، فسأل في «تريبيون» عن شكل العالم حين تتركز القوة في أيدٍ قليلة. وفي حالة الذكاء الاصطناعي، يمكن أن تصل الأداة إلى ملايين الناس، بينما يظل قرار ما تجمعه عنهم وكيف تستخدمه في أيدي عدد قليل من الشركات. انتشار الأداة شيء، وتوزيع السلطة عليها شيء آخر.تابع القرارات

وفي نوفمبر (تشرين الثاني) 1945، اعترض أوبنهايمر، المدير العلمي لمختبر لوس ألاموس خلال مشروع مانهاتن، على انفراد دولة بمسؤولية سلاح يمسّ البشرية كلها. وبعد نحو عقد، وصف غونتر أندرس، الفيلسوف والكاتب المقيم في فيينا، الفجوة بين قدرتنا على صنع الأشياء وقدرتنا على تخيّل عواقبها. وللفجوة اليوم صورة عادية: قد يطمئن المسؤول إلى أن نسبة الخطأ واحد في المائة، بينما يقضي شخصٌ وقع عليه ذلك الخطأ شهوراً يحاول معرفة لماذا حُرم من وظيفة أو إعانة.

هنا يتَّضح ما لا تفسّره المقارنة بالقنبلة؛ ففي الطب يمكن للطبيب مراجعة توصية النظام قبل أن يتصرف على أساسها؛ وفي التوظيف قد لا يعرف المتقدم أصلاً أن برنامجاً استبعد طلبه؛ وفي الحرب قد تأتي مراجعة توصية الاستهداف بعد فوات الأوان. لذلك يتحدد الواجب الأخلاقي بحسب أثر القرار وإمكان الرجوع عنه. وقد يكفي في بعض الحالات أن يعرف الإنسان كيف يطلب مراجعة قرار، بينما تقتضي حالات أخرى وجود شخص يملك سلطة إيقاف التنفيذ قبل وقوع الضرر. وهنا يأتي دور مؤسسات تعمل بوصفها فرامل ضد استئثار فرد أو جماعة بتك القوة الخارقة.

لا أرى أنَّ أسئلة اليوم حول الذكاء الاصطناعي من منظور أخلاقي ترقى إلى الأربعينات من القرن الماضي. والسؤال هو: هل كان الوازع الأخلاقي في الأربعينات أرقى مما نحن عليه الآن؟ ربما هذا استعجال مني في الحكم؛ فقد سجّل بعض العلماء اعتراضاتهم، ولكن القنبلة ألقيت على بشر وأبادتهم في نهاية الأمر. واليوم يعترض بعض الباحثين من داخل شركات الذكاء الاصطناعي، ولدينا مبادئ معلنة، منها توصية «اليونسكو» لأخلاقيات الذكاء الاصطناعي. والمعيار في الحالتين هو أثر الاعتراض في القرار. قد يكون الاعتراض شجاعاً، لكن قيمته العملية تظل محدودة إذا كان بوسع من يملك السلاح أو النظام أن يمضي في طريقك من دون مراجعة أو مؤسسات قادرة على إيقافه.

درس القنبلة هو أنَّ القدرة على صنع شيء لا تمنح صاحبه حق فرض مخاطره على الآخرين. ويضيف الذكاء الاصطناعي إلى هذا الدرس أنَّ الضرر قد يقع في قرار يومي لا يراه الجمهور، وقد لا يعرف المتضرر حتى أنَّ آلة شاركت في اتخاذه. وحين نطبّق الدرس على نظام بعينه، يصبح الامتحان محدداً: من يستطيع إيقافه قبل أن يضرّ بالناس؟ وإذا وقع الضرر، فمن يشرح القرار للمتضرر ويملك سلطة تصحيحه؟

هذا هو تحدي الكونغرس الأميركي الجديد وكذلك تحدي برلمانات العالم كلها؛ فالفارق بين الإنسان وما سواه هو ذلك الضمير الحي والوازع الأخلاقي؛ فهل ننجح في عالم الذكاء الاصطناعي من منظور أخلاقي فيما فشلنا فيه في استخدام القنبلة؟ هذا هو السؤال.

 

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

الذكاء الاصطناعي والقنبلة النووية أسئلة أخلاقية الذكاء الاصطناعي والقنبلة النووية أسئلة أخلاقية



GMT 04:29 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

فلسطينيو الداخل يمارسون القوة الناعمة

GMT 04:28 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

دعهم يسافرون

GMT 04:25 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

بين الذكاء الاصطناعي ومشروع عملاق

GMT 04:24 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

لكنْ ماذا عن إيران؟

GMT 04:23 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

إعادة الاصطفاف في الشرق الأوسط!

GMT 04:21 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

السجين والحرية والسجان

GMT 04:20 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

النظام الإيراني... عليّ وعلى أصدقائي

GMT 04:18 2026 الأربعاء ,18 تشرين الثاني / نوفمبر

قمة «أبيك»... عالم أم نظام متعدد الأقطاب؟

سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 12:28 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الثور السبت26-9-2020

GMT 16:38 2019 الإثنين ,02 كانون الأول / ديسمبر

أبرز الأحداث اليوميّة لمواليد برج"الحوت" في كانون الأول 2019

GMT 05:58 2020 السبت ,29 شباط / فبراير

مناخا جيد على الرغم من بعض المعاكسات

GMT 13:03 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الجدي السبت 26-9-2020

GMT 17:13 2020 الجمعة ,10 إبريل / نيسان

أحوالك المالية تتحسن كما تتمنى

GMT 19:34 2021 الإثنين ,01 شباط / فبراير

يتيح أمامك هذا اليوم فرصاً مهنية جديدة

GMT 18:55 2020 الثلاثاء ,08 كانون الأول / ديسمبر

تمرّ بيوم من الأحداث المهمة التي تضطرك إلى الصبر

GMT 16:59 2012 الأربعاء ,24 تشرين الأول / أكتوبر

موسكو تشير لإمكان قبول سورية بهدنة خلال العيد

GMT 16:05 2012 الثلاثاء ,23 تشرين الأول / أكتوبر

ارتفاع قتلى سورية إلى 112 قتيلاً

GMT 21:46 2012 الأربعاء ,24 تشرين الأول / أكتوبر

وفاة 3 حجاج مصريين ليصل الإجمالي إلى 19 حالة

GMT 21:45 2012 الأربعاء ,24 تشرين الأول / أكتوبر

تأجيل نظر تظلم حسن حمدي للتصرف في أمواله لجلسة 25 نوفمبر
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib