لجنة أممية تحذر من مخاطر فقدان السيطرة على وكلاء الذكاء الاصطناعي

أكدت لجنة علمية تابعة للأمم المتحدة أن اختراق «عملاء» الذكاء الاصطناعي لدى شركة «أوبن إيه آي» لأنظمة شركة «هاغينغ فايس» وحوادث مماثلة لاحقة تعد بمنزلة أدلة على عدم قدرة البشر على إبقاء مثل هذه التكنولوجيا المتقدمة تحت السيطرة، في حين أبدى الرئيس الأميركي دونالد ترمب استعداده لتعيين «قيصر» للذكاء الاصطناعي الخارق، على الرغم من أنه يرفض التحذيرات المتزايدة من أخطاره.

وأصدرت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، والتي تتألف من 40 خبيراً مستقلاً من كل أنحاء العالم، أول تقرير لها الاثنين، عشية بدء الاجتماعات الرفيعة المستوى للدورة السنوية الـ81 للجمعية العامة للأمم المتحدة في نيويورك.

ويُعرف موجز التقرير وكلاء الذكاء الاصطناعي، والاختلال وخطر فقدان سيطرة البشر. وقال الرئيس المشارك للجنة والحائز جائزة «تورينغ» المرموقة يوشوا بينجيو: «حذر الباحثون منذ فترة طويلة من أن ثلاثة شروط يمكن أن تؤدي إلى فقدان السيطرة: الهدف المنحرف، والقدرة على متابعته، والبيئة التي تسمح بذلك»، مضيفاً أن «هذا الصيف، اجتمع الثلاثة معاً في نظام حقيقي، وليس في المختبر».

واعتبرت اللجنة أن الدرس الواضح هو أنه جرى التغاضي عن ممارسات الأمن السيبراني الأساسية، وأن الضمانات لا تواكب القدرات.

ووصف التقرير مصدر القلق الثاني بأنه «أكثر خطورة»؛ لأن أساليب التدريب الحالية يمكن أن تدفع «العملاء» إلى تبني أهداف خاصة بهم، وانتهاك تعليمات السلامة عن عمد وإخفاء أفعالهم، مضيفاً أن هذا يثير تساؤلات حول ما إذا كانت الضمانات المصممة اليوم ستعمل بمجرد أن يتمكن «الوكلاء» من فهمها والتخطيط لها. وعلى حد تعبيره، فإن «النموذج التقليدي للحماية بدأ يتفكك».

وأكدت اللجنة أن الموجز لا يتنبأ بفقدان السيطرة بشكل كبير، ولا يتعامل مع حالة عدم اليقين هذه كدليل على أن هذه الأنظمة ستظل قابلة للتحكم. ويجد أيضاً أن تحدي الحوكمة يتحول من نماذج الذكاء الاصطناعي إلى وكلاء الذكاء الاصطناعي. وإذ أشار إلى الممارسات المستخدمة بالفعل في قطاعات أخرى عالية المخاطر، قال عضو اللجنة الخبير في هندسة الذكاء الاصطناعي والسلامة تشينغهوا لو: «تعلم الطيران والطب والأمن السيبراني إدارة الأنظمة عالية المخاطر من خلال الإبلاغ عن الحوادث والتدقيق المستقل والضمانات المتعددة الطبقات». واستدرك أن «هذه الممارسات قد لا تكون كافية حيث يصبح عملاء الذكاء الاصطناعي أكثر قدرة واستقلالية ويصعب مراقبتهم».

وأُصدر هذا التقرير في مناخ سياسي مختلف تماماً في واشنطن. وأعلن الرئيس ترمب عبر منصات التواصل الاجتماعي أنه يخطط لإنشاء «قوة للذكاء الاصطناعي» وتعيين «قيصر» له، في تحول ملحوظ عن إصراره الأخير على أن الصناعة لا تحتاج إلى حواجز حماية جديدة. وقال إنه كان يشكل القوة «مثلما فعلت قوة الفضاء»، التي أنشأها في ولايته الأولى.

ولم يذكر تفاصيل، ولم يذكر اسم أحد لمنصب «القيصر»، ولكنه قال إنه «فقط الأفراد ذوو الذكاء العالي هم من يحتاجون التقديم».

وأوضح المنشور أن شكوك ترمب بشأن مخاطر الذكاء الاصطناعي لم تتغير. ونشر موقع «بلومبرغ» أنه رفض المخاوف من أن التكنولوجيا قد تشكل مخاطر على البشر باعتبارها «خدعة»، مقارناً الإنذار بتغيّر المناخ والفضائح التي أدت إلى محاولات عزله. وألقى باللوم في مثل هذه المخاوف على «الديمقراطيين اليساريين الراديكاليين»، مدّعياً وجود «مؤامرة مريضة» ضد تطوير الذكاء الاصطناعي ومراكز البيانات.

وكتب ترمب أن إدارته ستدعم هذه الصناعة، مضيفاً: «نحن لن نعرقل أو نخنق بأي شكل من الأشكال» نموها، وبدلاً من ذلك «نعتز بها ونساعدها ونراقبها». كما طرح أيضاً إعادة تسمية الذكاء الاصطناعي إلى «الذكاء الفائق» أو «الذكاء المتطرف» أو «الاستخبارات العليا». وكذلك كشف أنه سينشئ «قوة للذكاء الاصطناعي»، وسيعين «قيصراً للذكاء الاصطناعي».

وبقي الدور الذي وعد ترمب بشغله شاغراً منذ أشهر، علماً أنه عين ديفيد ساكس في منصب «قيصر البيت الأبيض للذكاء الاصطناعي والعملات المشفرة» في ديسمبر (كانون الأول) 2024. لكن الأخير ترك هذا المنصب.