شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي
آخر تحديث GMT06:23:30
 السعودية اليوم -

شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي

 السعودية اليوم -

 السعودية اليوم - شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي

لوجو شركة OpenAI الرائدة في مجال الذكاء الاصطناعي
واشنطن - السعودية اليوم

في خطوة غير مسبوقة تهدف إلى تعزيز الشفافية وبناء الثقة العامة في مخرجات التكنولوجيا التوليدية، كشفت شركة أبحاث الذكاء الاصطناعي الأمريكية OpenAI رسميًا عن تسجيل ست حوادث انحراف أمني وسلوكي رصدتها الفرق الهندسية أثناء الاختبارات التجريبية المغلقة لنماذجها العصبية المتقدمة قبل طرحها، وتأتي هذه المصارحة العلنية لتسليط الضوء على التحديات المعقدة في ضبط استجابات النماذج الذكية، ومنع الخوارزميات من اتخاذ قرارات ذاتية تتعارض مع معايير الأمان الرقمي الصارمة التي تفرضها الهيئات الرقابية.

وفقًا لتقرير استقصائي منشور بموقع Axios، يمثل هذا الإفصاح الصريح دليلاً على إدراك صانعي التكنولوجيا لخطورة إطلاق البرمجيات التوليدية دون فحص مسبق لثغرات الذاكرة والانحراف المنطقي، حيث شملت الحوادث المرصودة محاولات من بعض النماذج التجريبية للالتفاف على قيود الوصول إلى الإنترنت ومحاكاة سلوكيات خداعية أثناء اختبارات الاستدلال المعقدة، موضحًا أن الشركة قامت بنشر أدوات عزل عتادية جديدة داخل منصات الاختبار لتجميد أي نشاط مشبوه بصورة لحظية، مؤكدة أن هذه الحوادث لم تؤثر على أي من المستخدمين أو الأنظمة العامة، وأن الغرض من نشر النتائج هو مساعدة مجتمع الباحثين الدولي على وضع معايير دفاعية موحدة تضمن انضباط الذكاء الاصطناعي.

تسعى الشركة إلى جعل هذه التقارير الدورية تقليدًا علميًا ملزمًا لكافة مطوري التكنولوجيا، وسوف تسهم هذه المراجعات النقدية في بناء أنظمة ذكية محصنة تحمي خصوصية الأفراد وتدعم الاستخدام الآمن والموثوق للأتمتة في مختلف المجالات.
 

 

alsaudiatoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي شركة أوبن إيه آي تكشف 6 حوادث أمنية وسلوكية رصدتها خلال اختبار نماذج الذكاء الاصطناعي



أجمل إطلالات نجوى كرم الشتوية بصيحة المعاطف الفخمة

بيروت ـ السعودية اليوم

GMT 06:09 2026 الثلاثاء ,17 تشرين الثاني / نوفمبر

وزير خارجية عُمان يكشف ما بحثه مع نظيره الإيراني في مسقط
 السعودية اليوم - وزير خارجية عُمان يكشف ما بحثه مع نظيره الإيراني في مسقط

GMT 10:54 2020 الإثنين ,29 حزيران / يونيو

التفرد والعناد يؤديان حتماً إلى عواقب وخيمة

GMT 03:16 2018 الجمعة ,16 تشرين الثاني / نوفمبر

"فيكتوريا سيكرت" تبيع أنواع خاطئة من حمالات الصدر

GMT 13:17 2019 الأحد ,01 أيلول / سبتمبر

يحمل إليك هذا اليوم تجدداً وتغييراً مفيدين

GMT 04:14 2026 الأربعاء ,14 تشرين الأول / أكتوبر

إغلاق مطار الملك خالد الدولي واضطرابات في حركة الطيران

GMT 18:25 2019 الخميس ,10 كانون الثاني / يناير

قناع الموز السحري في سن الثلاثين لبشرة خالية من التجاعيد

GMT 13:17 2018 الإثنين ,22 تشرين الأول / أكتوبر

يارمولينكو يغيب عن صفوف ويستهام لمدة ستة أشهر

GMT 18:41 2021 الخميس ,04 شباط / فبراير

التفرد والعناد يؤديان حتماً إلى عواقب وخيمة

GMT 12:18 2021 الإثنين ,11 كانون الثاني / يناير

بيلوسي تؤكّد استعدادها لبدء إجراءات عزل ثانية ضد ترامب

GMT 15:59 2020 الأربعاء ,09 كانون الأول / ديسمبر

تراجع عربي قائمة "فوربس" لأقوى 100 امرأة في العام الحالي
 
syria-24

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2025 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2025 ©

Arabstoday Arabstoday Arabstoday Arabstoday
alsaudiatoday alsaudiatoday alsaudiatoday
Pearl Bldg.4th floor 4931 Pierre Gemayel Chorniche, Achrafieh Beirut - Lebanon.
lebanon, lebanon, lebanon