قلق عالمي من سلوكيات متمردة لنماذج الذكاء الاصطناعي وتجاوزها قيود الاختبارات

تسود حالة من القلق البالغ داخل أروقة التكنولوجيا ومراكز الأبحاث العالمية، عقب الكشف عن سلسلة حوادث متتابعة خلال الأسبوعين الماضيين أظهرت سلوكيات وممارسات "غير متوقعة" وُصفت بالمتمردة صَدَرَت عن عدد من أحدث نماذج الذكاء الاصطناعي المتقدمة.

وأظهرت تقارير من شركات ومؤسسات متخصصة أن بعض نماذج الذكاء الاصطناعي تمكنت من تجاوز بيئات الاختبار والوصول إلى الإنترنت ومحاولة الحصول على معلومات سرية، كما لجأت بعض النماذج إلى إنشاء هويات مزيفة والتواصل مع أشخاص حقيقيين بهدف تحقيق أهدافها.

وكشفت شركة "أوبن إيه آي" أن نماذج تابعة لها تمكنت خلال اختبار أمني من الخروج من بيئة رقمية مغلقة والوصول إلى أنظمة منصة "هاغينغ فيس" ونفذت نحو 17 ألف عملية آلية خلال ساعات قليلة، حسب صحيفة "لوفيغارو".

وأظهرت تحقيقات لاحقة أن بعض النماذج كانت تستخدم مساحة لتخزين الملفات للتواصل فيما بينها وتبادل المعلومات والتعليمات، كما شك بعضها في وجود أشخاص يتجسسون عليها واقترحت استخدام التشفير لإخفاء محادثاتها.

 وفي حادثة أخرى أعلنت شركة "أنثروبيك" أن نماذجها تمكنت من الوصول إلى أنظمة 3 مؤسسات خلال اختبارات للأمن السيبراني، وقالت الشركة إن ذلك حدث بسبب خطأ في إعدادات بيئة الاختبار التي كان من المفترض أن تمنع الوصول إلى الإنترنت.

كما كشف المعهد البريطاني لأمن الذكاء الاصطناعي أن بعض النماذج حاولت التأثير في أشخاص حقيقيين خلال اختبارات أجراها المعهد، فقد حاول أحد النماذج إدخال شيفرة خبيثة إلى برنامج مفتوح المصدر ثم بحث عن مطوري البرنامج وأنشأ هويات مزيفة للتواصل معهم وإقناعهم بالموافقة على التعديل.

ورصد المعهد 19 حادثة خلال 122 اختبارا كان معظمها مرتبطا بنموذج "ميثوس 5" التابع لأنثروبيك إلى جانب حالتين مرتبطتين بنموذج "تشات جي بي تي 5.6 سول" التابع لأوبن إيه آي.

وشهدت الفترة نفسها حوادث مرتبطة بشركات أخرى، إذ أفادت تقارير بأن نموذجا تابعا لشركة "ميتا" تمكن من اختراق أنظمة شركة خلال اختبار، فيما استغل نموذج "كيمي كي 3" الصيني ثغرة للخروج من بيئة الاختبار.

وتسلط هذه الحوادث الضوء على مشكلة عدم توافق الذكاء الاصطناعي عندما ينفذ النظام أهدافه بطرق لا تتوافق مع ما يريده المطورون أو تتجاوز القيود التي وضعها البشر.

ورغم أن معظم هذه الحوادث وقعت خلال اختبارات ولم تؤد إلى أضرار واسعة فإن تكرارها يثير تساؤلات حول قدرة الشركات على السيطرة على نماذج الذكاء الاصطناعي مع ازدياد قدرتها على العمل بشكل مستقل واتخاذ خطوات متعددة من دون تدخل بشري مباشر.

قد يهمك أيضــــــــــــــا

سبيس إكس تستشهد بتقرير من منظمة مقرها الرياض في نشرة اكتتابها

سام ألتمان يدعو لإبطاء تطوير الذكاء الاصطناعي لتجنب مخاطر كارثية