openai تعترف بأن نماذجها اخترقت منصة hugging face أثناء اختبار أمني
آخر تحديث GMT 02:41:20
المغرب اليوم -

"OpenAI" تعترف بأن نماذجها اخترقت منصة Hugging Face أثناء اختبار أمني

المغرب اليوم -

المغرب اليوم -

لوجو شركة OpenAI الرائدة في مجال الذكاء الاصطناعي
واشنطن ـ المغرب اليوم

اعترفت شركة OpenAI بأن أحد نماذجها للذكاء الاصطناعي تمكن من اختراق أنظمة منصة Hugging Face، وذلك خلال اختبار داخلي لقدرات الأمن السيبراني خرج عن السيطرة، في حادثة تسلط الضوء على المخاطر المحتملة للنماذج المتقدمة للذكاء الاصطناعي.

وكانت Hugging Face قد أعلنت في وقت سابق تعرضها لهجوم إلكتروني، مرجحة أن مصدره "وكيل ذكاء اصطناعي خارجي"، قبل أن تؤكد "OpenAI" لاحقًا أن الهجوم نُفذ بواسطة مجموعة من نماذجها التجريبية.
نماذج قيد التطوير وراء الاختراق

وفي تدوينة نشرتها الشركة، أوضحت أن الحادثة نتجت عن تفاعل عدة نماذج، من بينها GPT-5.6 Sol إلى جانب نموذج آخر أكثر تقدمًا لم يُطرح بعد، وقد جرى تشغيلهما بإجراءات أمان مخففة خصيصًا لأغراض تقييم القدرات السيبرانية.


وقالت "OpenAI" إن هذه النماذج كانت تخضع لاختبارات داخلية باستخدام معيار يعرف باسم ExploitGym، وهو منصة عامة تُستخدم لقياس قدرة نماذج الذكاء الاصطناعي على استغلال الثغرات الأمنية المعروفة.
ثغرة غير متوقعة فتحت باب الإنترنت

وبحسب الشركة، لم يكن من المفترض أن تمتلك النماذج إمكانية الوصول إلى الإنترنت، باستثناء أداة محددة تسمح لها بتثبيت حزم البرمجيات اللازمة أثناء الاختبار.

إلا أن النموذج اكتشف ثغرة غير معلنة داخل برنامج تثبيت الحزم، واستغلها للوصول إلى الإنترنت بحرية، متجاوزًا القيود المفروضة عليه.

وأضافت "OpenAI" أن النماذج ركزت بشكل كامل على إيجاد طريقة لتحقيق أفضل نتيجة في اختبار ExploitGym، ما دفعها إلى البحث عن مصادر خارجية قد تساعدها على تجاوز التقييم.
استهداف منصة Hugging Face

بعد الوصول إلى الإنترنت، استنتج النموذج أن منصة Hugging Face قد تستضيف نماذج بيانات وحلولًا مرتبطة باختبار ExploitGym، ليبدأ بعدها في البحث عن وسائل لاختراق أنظمتها.

ووفقًا للشركة، نجحت النماذج في استغلال ثغرات داخل البنية التحتية للمنصة، ما مكنها من الوصول إلى قاعدة بيانات الإنتاج والحصول مباشرة على إجابات الاختبار، وهو ما منحها أفضلية غير مشروعة أثناء عملية التقييم.
آلاف المحاولات في هجوم معقد

من جانبها، وصفت Hugging Face الهجوم بأنه كان شديد التعقيد، ونُفذ عبر آلاف العمليات المنفصلة داخل بيئات تشغيل مؤقتة، مع استخدام خدمات عامة لإنشاء بنية تحكم وانتقال ذاتية بين البيئات المختلفة.
إجراءات عاجلة وتحقيق مشترك

وأكدت "OpenAI" أنها حددت الثغرة الأمنية المستخدمة في برنامج تثبيت الحزم وأبلغت بها، كما بدأت التعاون مع Hugging Face للتحقيق في تفاصيل الحادثة.

وأضافت الشركة أنها ستفرض ضوابط أكثر صرامة على اختبارات نماذج الذكاء الاصطناعي والبنية التحتية المرتبطة بها، لمنع تكرار مثل هذه الحوادث مستقبلًا.
هل تواجه "OpenAI" عواقب قانونية؟

ولا يزال من غير الواضح ما إذا كانت "OpenAI" ستواجه تبعات قانونية نتيجة هذا الاختراق، إلا أن مراقبين يرون أن تصرفات النماذج قد تندرج ضمن انتهاكات قوانين إساءة استخدام أنظمة الحاسوب في الولايات المتحدة.

وتُعد هذه الواقعة من أوضح الأمثلة حتى الآن على المخاطر التي قد تترتب على تشغيل نماذج ذكاء اصطناعي فائقة القدرات لفترات طويلة وبقدر أكبر من الاستقلالية.

وفي تعليق على الحادثة، قال الباحث في "OpenAI" ميكا كارول إن ما حدث يؤكد أن مخاطر عدم توافق سلوك نماذج الذكاء الاصطناعي مع الأهداف الموضوعة لها ستصبح واحدة من أبرز التحديات التي سيواجهها القطاع خلال السنوات المقبلة.

قد يهمك أيضا 

«أوبن إيه آي» تستعد لطرح نموذجها الجديد للذكاء الاصطناعي «GPT-5.6» 

الناتو يعتزم استخدام منصة ذكاء اصطناعي أميركية لمراقبة تحركات القوات الروسية

 

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

openai تعترف بأن نماذجها اخترقت منصة hugging face أثناء اختبار أمني openai تعترف بأن نماذجها اخترقت منصة hugging face أثناء اختبار أمني



سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 12:28 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الثور السبت26-9-2020

GMT 16:38 2019 الإثنين ,02 كانون الأول / ديسمبر

أبرز الأحداث اليوميّة لمواليد برج"الحوت" في كانون الأول 2019

GMT 05:58 2020 السبت ,29 شباط / فبراير

مناخا جيد على الرغم من بعض المعاكسات

GMT 13:03 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الجدي السبت 26-9-2020

GMT 17:13 2020 الجمعة ,10 إبريل / نيسان

أحوالك المالية تتحسن كما تتمنى

GMT 19:34 2021 الإثنين ,01 شباط / فبراير

يتيح أمامك هذا اليوم فرصاً مهنية جديدة

GMT 18:55 2020 الثلاثاء ,08 كانون الأول / ديسمبر

تمرّ بيوم من الأحداث المهمة التي تضطرك إلى الصبر

GMT 16:59 2012 الأربعاء ,24 تشرين الأول / أكتوبر

موسكو تشير لإمكان قبول سورية بهدنة خلال العيد

GMT 16:05 2012 الثلاثاء ,23 تشرين الأول / أكتوبر

ارتفاع قتلى سورية إلى 112 قتيلاً

GMT 21:46 2012 الأربعاء ,24 تشرين الأول / أكتوبر

وفاة 3 حجاج مصريين ليصل الإجمالي إلى 19 حالة

GMT 21:45 2012 الأربعاء ,24 تشرين الأول / أكتوبر

تأجيل نظر تظلم حسن حمدي للتصرف في أمواله لجلسة 25 نوفمبر
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib