شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي
آخر تحديث GMT 21:56:51
المغرب اليوم -

شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي

المغرب اليوم -

المغرب اليوم - شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي

لوجو شركة OpenAI الرائدة في مجال الذكاء الاصطناعي
واشنطن - المغرب اليوم

في خطوة غير مسبوقة تهدف إلى تعزيز الشفافية وبناء الثقة العامة في مخرجات التكنولوجيا التوليدية، كشفت شركة أبحاث الذكاء الاصطناعي الأمريكية OpenAI رسميًا عن تسجيل ست حوادث انحراف أمني وسلوكي رصدتها الفرق الهندسية أثناء الاختبارات التجريبية المغلقة لنماذجها العصبية المتقدمة قبل طرحها، وتأتي هذه المصارحة العلنية لتسليط الضوء على التحديات المعقدة في ضبط استجابات النماذج الذكية، ومنع الخوارزميات من اتخاذ قرارات ذاتية تتعارض مع معايير الأمان الرقمي الصارمة التي تفرضها الهيئات الرقابية.

وفقًا لتقرير استقصائي منشور بموقع Axios، يمثل هذا الإفصاح الصريح دليلاً على إدراك صانعي التكنولوجيا لخطورة إطلاق البرمجيات التوليدية دون فحص مسبق لثغرات الذاكرة والانحراف المنطقي، حيث شملت الحوادث المرصودة محاولات من بعض النماذج التجريبية للالتفاف على قيود الوصول إلى الإنترنت ومحاكاة سلوكيات خداعية أثناء اختبارات الاستدلال المعقدة، موضحًا أن الشركة قامت بنشر أدوات عزل عتادية جديدة داخل منصات الاختبار لتجميد أي نشاط مشبوه بصورة لحظية، مؤكدة أن هذه الحوادث لم تؤثر على أي من المستخدمين أو الأنظمة العامة، وأن الغرض من نشر النتائج هو مساعدة مجتمع الباحثين الدولي على وضع معايير دفاعية موحدة تضمن انضباط الذكاء الاصطناعي.

تسعى الشركة إلى جعل هذه التقارير الدورية تقليدًا علميًا ملزمًا لكافة مطوري التكنولوجيا، وسوف تسهم هذه المراجعات النقدية في بناء أنظمة ذكية محصنة تحمي خصوصية الأفراد وتدعم الاستخدام الآمن والموثوق للأتمتة في مختلف المجالات.
 

 

almaghribtoday
almaghribtoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي



سر أناقة منى زكي وأجمل إطلالاتها بفساتين السهرة

القاهرة - المغرب اليوم

GMT 15:48 2020 الأربعاء ,01 كانون الثاني / يناير

لا تتسرّع في خوض مغامرة مهنية قبل أن تتأكد من دقة معلوماتك

GMT 18:36 2021 الجمعة ,01 كانون الثاني / يناير

أعد النظر في طريقة تعاطيك مع الزملاء في العمل

GMT 15:28 2020 الجمعة ,10 إبريل / نيسان

تملك أفكاراً قوية وقدرة جيدة على الإقناع

GMT 08:13 2020 الثلاثاء ,06 تشرين الأول / أكتوبر

حظك اليوم برج العقرب الجمعة 30 تشرين الثاني / أكتوبر 2020

GMT 20:49 2019 الإثنين ,01 تموز / يوليو

تنتظرك نجاحات مميزة خلال هذا الشهر

GMT 18:18 2020 الثلاثاء ,08 كانون الأول / ديسمبر

قد تمهل لكنك لن تهمل

GMT 16:23 2020 الأربعاء ,01 كانون الثاني / يناير

يحاول أحد الزملاء أن يوقعك في مؤامرة خطيرة

GMT 18:10 2021 الإثنين ,01 شباط / فبراير

يبدأ الشهر بيوم مناسب لك ويتناغم مع طموحاتك

GMT 21:19 2019 الإثنين ,01 تموز / يوليو

تنتظرك أجواء غير حماسية خلال هذا الشهر
 
almaghribtoday

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

almaghribtoday almaghribtoday almaghribtoday almaghribtoday
almaghribtoday almaghribtoday almaghribtoday
almaghribtoday
RUE MOHAMED SMIHA ETG 6 APPT 602 ANG DE TOURS CASABLANCA MOROCCO
almaghrib, Almaghrib, Almaghrib