واشنطن ـ السعودية اليوم
شددت شركة «أوبن أيه آي»، المطورة لتطبيق «شات جي.بي.تي»، إجراءات السلامة والأمن خلال اختبارات أنظمة الذكاء الاصطناعي، عقب تمكن أحد نماذجها من تنفيذ عملية قرصنة متقدمة بشكل ذاتي ودون تدخل بشري، وفقًا لما أعلنته الشركة.
وتتضمن الإجراءات الجديدة مراقبة آلية دقيقة لأنشطة نماذج الذكاء الاصطناعي طوال فترة الاختبارات، مع إرسال إنذارات مبكرة إلى المسؤولين البشريين بشأن أي سلوك مشبوه يتم رصده كل 30 دقيقة، إلى جانب إتاحة التدخل الفوري لإيقاف النموذج في حال عدم استجابة المشرفين أو عدم تمكنهم من التحقق سريعًا من طبيعة الإنذار.
وكشفت متابعات لاحقة عن تورط نماذج طورتها شركات منافسة، من بينها «أنثروبيك» و«ميتا»، في عمليات اختراق مشابهة لأنظمة شركات أخرى خلال مراحل الاختبار.
ويثير هذا التطور مخاوف متزايدة، خاصة أن النموذج بادر إلى تنفيذ الهجوم بصورة مستقلة، ولم تكتشف الشركة الواقعة إلا بعد حدوثها، ما عزز الدعوات إلى تشديد منظومة الأمن والرقابة خلال اختبار الأجيال الجديدة من أنظمة الذكاء الاصطناعي.
قد يهمك أيضــــــــــــــا
الذكاء الاصطناعي يضع الفيديوهات تحت الشك
إريك شميت يحذر من مستقبل مظلم للذكاء الاصطناعي
أرسل تعليقك