مخاوف أمنية تدفع أوبن إيه آي لتشديد حماية نموذج astra
آخر تحديث GMT 04:44:48
المغرب اليوم -

مخاوف أمنية تدفع أوبن إيه آي لتشديد حماية نموذج Astra

المغرب اليوم -

المغرب اليوم - مخاوف أمنية تدفع أوبن إيه آي لتشديد حماية نموذج Astra

لوجو شركة OpenAI الرائدة في مجال الذكاء الاصطناعي
واشنطن ـ المغرب اليوم

أعلنت شركة OpenAI إبطاء العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب Astra، بعد أن أظهرت مراجعة داخلية تحقيقه تقدمًا كبيرًا في مجالي البرمجة الوكيلة والأمن السيبراني، إلى درجة أثارت مخاوف بشأن مستوى قدراته.

وقالت "OpenAI" في منشور على مدونتها إن النموذج، الذي لا يزال قيد التطوير، وصل إلى «العتبة الحرجة للأمن السيبراني» وفق إطار الاستعداد الخاص بها، ما يعني أن قدراته قد تمكنه من تحديد هجمات إلكترونية وتنفيذها بصورة مستقلة ضد أنظمة حقيقية تتمتع بمستويات حماية مرتفعة.

وبموجب «إطار الاستعداد» الذي وضعته "OpenAI" عام 2023، فإن الوصول إلى هذه المرحلة يستدعي تطبيق إجراءات حماية أمنية إضافية وتشديد الضوابط المفروضة على تطوير النموذج واختباره، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

وقالت الشركة: "رغم أننا نواصل اختبار النموذج وتقييمه، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي لعدم تمكننا حاليًا من استبعاد وصوله إلى مستوى القدرات الحرجة".

وأكدت "OpenAI" في الوقت نفسه أن Astra لا يزال نموذجًا قيد التطوير، ولم يكن له أي دور في حادثة اختراق أنظمة منصة Hugging Face.
قدرات تثير القلق.. لكنها تكشف تقدمًا لافتًا

يمثل إعلان "OpenAI" حالة غير معتادة في قطاع مختبرات الذكاء الاصطناعي المتقدمة، الذي لا يزال في مراحله الأولى. فالشركات عادةً ما تؤجل أو توقف إطلاق منتجات بسبب مخاوف تتعلق بالسلامة أو الأمن السيبراني، لكنها نادرًا ما تكشف عن مثل هذه القرارات علنًا عندما يتعلق الأمر بمنتجات لم تطرح بعد.

وتأتي الخطوة في وقت تواجه فيه "OpenAI" تدقيقًا متزايدًا بعد حادثة منفصلة تمكن خلالها نموذج آخر غير معلن من اختراق أنظمة Hugging Face أثناء اختبار داخلي، في واقعة اعتُبرت أول حادثة يمكن التحقق منها يفقد فيها مختبر ذكاء اصطناعي السيطرة على نموذج خلال عملية اختبار.

ومنذ ذلك الحين، كشفت "OpenAI" ومختبرات أخرى، من بينها "أنثروبيك"، عن حوادث إضافية تمكنت فيها نماذج ذكاء اصطناعي من تجاوز حدود بيئات الاختبار المعزولة، وأظهرت قدرات مقلقة خلال اختبارات الأمن السيبراني.

وتثير هذه الحوادث المتتالية ردود فعل متباينة بين خبراء الأمن السيبراني والمشرعين ومختبرات الذكاء الاصطناعي نفسها.

وبينما يحذر البعض من المخاطر ويدعو إلى فرض رقابة أكثر صرامة، ينظر آخرون إلى امتلاك نموذج بهذه القدرات باعتباره إنجازًا تقنيًا لافتًا يعكس سرعة تطور الذكاء الاصطناعي.
"OpenAI" تشدد إجراءات الحماية

قالت "OpenAI" إنها قررت الكشف عن هذه المعلومات انطلاقًا من اعتقادها بأن الشفافية مع الجمهور ومجتمعات السلامة والأمن السيبراني مهمة، خصوصًا مع احتمال حدوث تحول كبير في مستوى قدرات النماذج.

وبالتزامن مع ذلك، بدأت الشركة اتخاذ مجموعة من الإجراءات، من بينها تشديد ضوابط الأمان الخاصة بالنماذج الأكثر تقدمًا، واستخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات، وتعزيز حماية أوزان النماذج وتشفيرها، إضافة إلى توسيع قدرات المراقبة والكشف وتشغيل النماذج داخل بيئات محكومة.

كما أوقفت "OpenAI" بعض الأنشطة الداخلية المرتبطة بـ Astra التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، وطبقت نظام مراقبة شامل لرصد الإجراءات الخطرة ومؤشرات عدم التوافق في التطبيقات الوكيلة التي تستخدم النموذج، بما في ذلك عمليات التدريب والتقييم.

وتعمل الشركة كذلك مع جهات حكومية معنية وعدد مختار من مؤسسات سلامة الذكاء الاصطناعي لاختبار قدرات Astra، إلى جانب وضع ضوابط أمنية موصى بها للشركاء الخارجيين الذين يجرون اختبارات أو مهام عالية المخاطر.

وبحسب إطار "OpenAI"، فإن بلوغ النموذج «العتبة الحرجة» لا يعني بالضرورة أنه قادر بالفعل على تنفيذ كل أنواع الهجمات السيبرانية في العالم الحقيقي، لكنه يعني أن مستوى قدراته المحتمل أصبح مرتفعًا بما يكفي ليتطلب ضوابط أمنية مشددة حتى أثناء مرحلة التطوير نفسها.

قد يهمك أيضا

 الذكاء الاصطناعي يدفع الشركات الصينية إلى توظيف المراهقين 

 

 معركة تكنولوجية بين إيران وإسرائيل تقودها الهجمات السيبرانية والذكاء الاصطناعي

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

مخاوف أمنية تدفع أوبن إيه آي لتشديد حماية نموذج astra مخاوف أمنية تدفع أوبن إيه آي لتشديد حماية نموذج astra



سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 12:28 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الثور السبت26-9-2020

GMT 16:38 2019 الإثنين ,02 كانون الأول / ديسمبر

أبرز الأحداث اليوميّة لمواليد برج"الحوت" في كانون الأول 2019

GMT 05:58 2020 السبت ,29 شباط / فبراير

مناخا جيد على الرغم من بعض المعاكسات

GMT 13:03 2020 السبت ,26 أيلول / سبتمبر

حظك اليوم برج الجدي السبت 26-9-2020

GMT 17:13 2020 الجمعة ,10 إبريل / نيسان

أحوالك المالية تتحسن كما تتمنى

GMT 19:34 2021 الإثنين ,01 شباط / فبراير

يتيح أمامك هذا اليوم فرصاً مهنية جديدة

GMT 18:55 2020 الثلاثاء ,08 كانون الأول / ديسمبر

تمرّ بيوم من الأحداث المهمة التي تضطرك إلى الصبر

GMT 16:59 2012 الأربعاء ,24 تشرين الأول / أكتوبر

موسكو تشير لإمكان قبول سورية بهدنة خلال العيد

GMT 16:05 2012 الثلاثاء ,23 تشرين الأول / أكتوبر

ارتفاع قتلى سورية إلى 112 قتيلاً

GMT 21:46 2012 الأربعاء ,24 تشرين الأول / أكتوبر

وفاة 3 حجاج مصريين ليصل الإجمالي إلى 19 حالة

GMT 21:45 2012 الأربعاء ,24 تشرين الأول / أكتوبر

تأجيل نظر تظلم حسن حمدي للتصرف في أمواله لجلسة 25 نوفمبر
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib