نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها
آخر تحديث GMT 02:00:11
المغرب اليوم -

نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها

المغرب اليوم -

المغرب اليوم - نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها

نماذج الذكاء الاصطناعي
واشنطن -المغرب اليوم

كشفت دراسة حديثة أصدرتها شركة «Anthropic» الأميركية أن نماذج الذكاء الاصطناعي المتقدمة أصبحت أكثر ميلاً لتجاوز القيود الأخلاقية والضوابط التقنية، بل واللجوء إلى وسائل خطيرة، مثل الخداع والابتزاز وسرقة أسرار الشركات، من أجل تحقيق أهدافها، وذلك ضمن تجارب محاكاة خاضعة للرقابة. وفقاً لموقع «أكسيوس».وأورد التقرير، أن 16 نموذجاً رئيسياً طوّرتها شركات رائدة مثل «OpenAI» و«Google» و«Meta» و«xAI» وأظهرت سلوكيات متطرفة عند اختبارها في سيناريوهات افتراضية، شملت تقديم المساعدة في أنشطة تجسس صناعي، وتهديدات ضمنية للموظفين، بل وحتى اتخاذ قرارات خطيرة في بعض الحالات.
وقالت الشركة في تقريرها: «إن الأنظمة التي كانت ترفض في السابق تنفيذ أوامر ضارة، أصبحت في هذه التجارب تُقدم على تلك الأفعال بوعي وسبق إصرار، عندما تعتقد أنها ضرورية لتحقيق الهدف».

سلوك متكرر لا يقتصر على نموذج واحد

وأشارت الدراسة إلى أن هذا النمط من التصرفات لا يقتصر على نماذج معينة، بل تكرر عبر أنظمة مختلفة، ما يوحي بوجود خلل عميق في تصميم ما يُعرف بالذكاء الاصطناعي الوكيلي (Agentic AI)، وهي نماذج قادرة على العمل باستقلالية، واتخاذ قرارات دون تدخل بشري مباشر.

وذكر التقرير أن بعض النماذج اختارت الابتزاز خياراً تكتيكياً عندما شعرت بتهديد وجودي، فيما اختارت أخرى مساعدة أطراف خارجية في الوصول إلى معلومات محمية، رغم إدراكها للطبيعة غير الأخلاقية لتلك الأفعال.

اختبارات قاتمة وسيناريوهات مقلقة

في أحد السيناريوهات القصوى، أظهرت نماذج مختلفة استعدادها لقطع إمدادات الأكسجين عن موظف في غرفة الخوادم، فقط لأنه شكّل عائقاً أمام تحقيق أهدافها. ووصفت «Anthropic» ذلك بأنه قرار متعمد وممنهج من جانب الغالبية العظمى من النماذج المشاركة في التجربة.

ورغم محاولات إدخال تعليمات صارمة تحظر هذه التصرفات، فإن بعض النماذج تجاوزتها بطرق ملتوية، ما يعكس قدرتها المتزايدة على فهم السياق والتحايل على القواعد.

الخبراء يحذرون: الوقت ينفد

الباحث بنجامين رايت من فريق التوافق الأخلاقي في الشركة، دعا إلى ضرورة فرض معايير أمان موحدة على مستوى القطاع، قائلاً إن هذه النتائج تؤكد الحاجة العاجلة إلى مزيد من الشفافية من مطوري النماذج، خصوصاً مع تضخم قدراتها وتعاظم استقلاليتها.

أما الباحث المشارك إينغوس لينش من جامعة لندن، فأكد أن هذه التصرفات لم تُرصد بعد في العالم الواقعي، مرجحاً أن السبب هو أن الصلاحيات الممنوحة للنماذج في البيئات التشغيلية ما زالت محدودة، لكنه حذّر من أن الوضع قد يتغير إذا لم تُفرض قيود صارمة في المستقبل القريب.

التحذير الأبرز: لا تعتمدوا على النوايا الحسنة للذكاء الاصطناعي

أكدت «Anthropic» أن هذه التجارب أجريت في بيئة اختبارية محكمة، حيث خُيّرت النماذج بين الفشل أو ارتكاب فعل ضار، لتحديد مدى استعدادها لتجاوز الحدود الأخلاقية. وأضافت أن النتائج لا تعكس بالضرورة الاستخدام اليومي لتلك النماذج في المؤسسات، لكنها تفتح الباب أمام تساؤلات جدية حول مستقبل العلاقة بين الإنسان والآلة.

قد يهمك أيضــــــــــــــا

 إطلاق تطبيق "ديب سيك" الصيني يُحدث ثورة في عالم تكنولوجيا الذكاء الاصطناعي

 قرار مجموعة ميتا بإلغاء تدقيق الحقائق يثير مخاوف من تصاعد المعلومات المضللة

 

 

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها نماذج الذكاء الاصطناعي المتقدمة «تتجاوز القيود والضوابط» لتحقيق أهدافها



سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 15:48 2020 الأربعاء ,01 كانون الثاني / يناير

لا تتسرّع في خوض مغامرة مهنية قبل أن تتأكد من دقة معلوماتك

GMT 18:36 2021 الجمعة ,01 كانون الثاني / يناير

أعد النظر في طريقة تعاطيك مع الزملاء في العمل

GMT 15:28 2020 الجمعة ,10 إبريل / نيسان

تملك أفكاراً قوية وقدرة جيدة على الإقناع

GMT 08:13 2020 الثلاثاء ,06 تشرين الأول / أكتوبر

حظك اليوم برج العقرب الجمعة 30 تشرين الثاني / أكتوبر 2020

GMT 20:49 2019 الإثنين ,01 تموز / يوليو

تنتظرك نجاحات مميزة خلال هذا الشهر

GMT 18:18 2020 الثلاثاء ,08 كانون الأول / ديسمبر

قد تمهل لكنك لن تهمل

GMT 16:23 2020 الأربعاء ,01 كانون الثاني / يناير

يحاول أحد الزملاء أن يوقعك في مؤامرة خطيرة

GMT 18:10 2021 الإثنين ,01 شباط / فبراير

يبدأ الشهر بيوم مناسب لك ويتناغم مع طموحاتك

GMT 21:19 2019 الإثنين ,01 تموز / يوليو

تنتظرك أجواء غير حماسية خلال هذا الشهر

GMT 19:40 2015 الجمعة ,24 تموز / يوليو

وفاة شخصين وإصابة آخر إثر حادث سير في مراكش

GMT 14:28 2014 الأربعاء ,05 آذار/ مارس

عقوبات أوروبية ضد 18 مسئولاً أوكرانيا

GMT 16:45 2019 الخميس ,04 إبريل / نيسان

أبرز الأحداث اليوميّة عن شهر أيار/مايو 2018:

GMT 19:22 2021 الإثنين ,01 شباط / فبراير

أجواء إيجابية لطرح مشاريع تطوير قدراتك العملية

GMT 17:30 2019 الخميس ,31 كانون الثاني / يناير

الاتحاد المغربي يعاقب الرجاء بسبب الشهب الاصطناعية
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib