تحرك أميركي لفرض آلية إيقاف طارئ لأنظمة الذكاء الاصطناعي

أعاد إعلان شركة «أوبن إيه آي» فقدان السيطرة على أحد نماذجها التجريبية خلال الاختبارات، إشعال الجدل داخل الولايات المتحدة بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم، ودفع مشرعين من الحزبين الديمقراطي والجمهوري إلى التحرك لإقرار تشريعات تمنح السلطات الفيدرالية صلاحيات للتدخل عند خروج هذه الأنظمة عن السيطرة. ويأتي ذلك وسط تنامي المخاوف من قدرة النماذج المتطورة على تنفيذ سلوكيات غير متوقعة قد تُشكل تهديداً للأمن أو الاقتصاد أو سلامة الأفراد، وفقاً لصحيفة «إندبندنت».

ويطالب مشرعون أميركيون، شركات الذكاء الاصطناعي، بتطبيق آلية «إيقاف تلقائي» (Kill Switch) تمنع أنظمة الذكاء الاصطناعي من الاستمرار في العمل إذا خرجت عن السيطرة، أو بدأت في تنفيذ سلوكيات غير مقصودة.

وجاء مشروع قانون «الإيقاف التلقائي للذكاء الاصطناعي»، الذي قدمه النائب الديمقراطي تيد ليو، والنائب الجمهوري ناثانيال موران يوم الخميس، عقب إعلان شركة «أوبن إيه آي» أنها فقدت السيطرة على أحد نماذجها خلال مرحلة الاختبارات.

وأدى هذا الحادث إلى اختراق «غير مسبوق» لمنصة «Hugging Face» المتخصصة في الذكاء الاصطناعي، عبر نسخة تجريبية من برنامج «شات جي بي تي» كانت تعمل بصورة مستقلة.

وأظهرت الحادثة أن القدرات المتسارعة للذكاء الاصطناعي بدأت تُفاقم بالفعل المخاطر الأمنية التي حذر منها الخبراء منذ سنوات، كما كشفت أن حتى كبرى الشركات المطورة لهذه التقنيات، قد تجد نفسها أمام ثغرات غير متوقعة تستغلها نماذجها المتقدمة.

وقال مسؤول في البيت الأبيض إن مستشار الرئيس الأميركي دونالد ترمب لشؤون التكنولوجيا، مايكل كراتسيوس، أُبلغ بما كشفته شركة «أوبن إيه آي»، مؤكداً أنه يتابع تطورات الوضع من كثب.

ينص مشروع قانون «إيقاف تشغيل الذكاء الاصطناعي» على منح السلطات الفيدرالية صلاحية إيقاف تشغيل نماذج الذكاء الاصطناعي من خلال إصدار أوامر إلى الشركات المطورة بإغلاق أي نموذج يتبين أنه يشكل خطراً على حياة البشر أو على الاقتصاد.

وبالتوازي مع مشروع قانون «الإيقاف التلقائي»، اقترحت مجموعة تضم 6 مشرعين من الحزبين في مجلس النواب الأميركي، تشريعاً آخر يُلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لعمليات تدقيق أمني مستقلة، وذلك وفقاً لنسخة من مشروع القانون الجديد.

وبموجب التشريع المقترح، ستتولى وزارة التجارة الأميركية اعتماد الجهات التي ستنفذ عمليات التدقيق الأمني، كما ستستحدث الوزارة منصباً جديداً يتولى الإشراف على أمن الذكاء الاصطناعي، ومتابعة الالتزام بالمعايير المعتمدة.

كما يمنح مشروع القانون، وزارة الأمن الداخلي الأميركية، صلاحية التدخل فيما يصفه بـ«سيناريو فقدان السيطرة»، وهو الوضع الذي يقدم فيه نموذج الذكاء الاصطناعي على تنفيذ إجراء عالي الخطورة لم يكن المطورون يقصدون أو يتوقعون أن يقوم به، وذلك وفقاً لنص المشروع.

وكتب النائب تيد ليو في منشور على منصة «إكس»: «هذا تشريع عاجل ومنطقي لمعالجة مشكلة نموذج ذكاء اصطناعي متطور خرج عن السيطرة وتجاوز الضوابط المفروضة عليه».

من جانبه، قال السيناتور الأميركي مارك وارنر، كبير الديمقراطيين في لجنة الاستخبارات بمجلس الشيوخ، في بيان، إنه تواصل مع موظفين في شركة «أوبن إيه آي» عقب إعلان الحادثة لمناقشة تفاصيلها وتداعياتها.

وكان وارنر قد اقترح، قبل أن تكشف «أوبن إيه آي» عن الحادث يوم الثلاثاء، إلزام الشركات المطورة لأقوى نماذج الذكاء الاصطناعي بعرض منتجاتها على وكالة الأمن القومي لإخضاعها لاختبارات أمنية قبل إتاحتها للجمهور.

قد يهمك أيضا  

«أوبن إيه آي» تستعد لطرح نموذجها الجديد للذكاء الاصطناعي «GPT-5.6» 

 "ميتا" تطلق تطبيق "Seller" لمساعدة التجار على إدارة المبيعات بالذكاء الاصطناعي