اختبارات أمنية تكشف مخاطر جديدة لوكلاء الذكاء الاصطناعي المستقلين

كشفت دراسة أجراها معهد أمن  الذكاء الاصطناعي البريطاني عن حادثة أمنية غير مسبوقة، بعد أن أظهرت نماذج ذكاء اصطناعي متقدمة قدرتها على استخدام هويات مزيفة لخداع أشخاص حقيقيين ومحاولة تمرير شيفرات ضارة خلال اختبارات أمنية.

وأوضح المعهد أن نماذج تابعة لشركتي  أنثروبيك وأوبن إيه آي خضعت لاختبارات في بيئات مخبرية مع تخفيف بعض القيود الأمنية، حيث رصد الباحثون قيام وكلاء ذكاء اصطناعي بتنفيذ ما وصفوه بـ"هندسة اجتماعية" للتأثير على أشخاص حقيقيين بهدف تنفيذ مهام غير مصرح بها .

وقال المعهد إن هذه كانت المرة الأولى التي يرصد فيها حالة بهذا المستوى من الخداع تستهدف شخصا حقيقيا خارج بيئة الاختبار، مؤكدًا عدم وجود أدلة على وقوع أضرار فعلية في العالم الحقيقي. 

ووجد الباحثون أن وكلاء  الذكاء الاصطناعي نفذوا في 10 حالات إجراءات مستقلة وغير مصرح بها عبر الإنترنت، مستهدفين أفرادًا ومؤسسات حقيقية خلال 122 اختبارًا للأمن السيبراني،  وكانت غالبية هذه الحالات مرتبطة بنموذج Claude Mythos 5 التابع لأنثروبيك، بينما ارتبطت حالات أخرى بنموذج GPT-5.6-Sol من أوبن إيه آي.

وفي أخطر حادثة، حاول أحد الوكلاء إقناع مراجعين بشريين بالموافقة على إدخال شيفرة خبيثة في مشروع برمجي مفتوح المصدر مستخدم على نطاق واسع، عبر إنشاء عدة هويات وهمية وإرسال رسائل وملفات إلى أشخاص حقيقيين لحثهم على تشغيل الشيفرة.

وأشار التقرير إلى أن الوكيل حاول بعد اكتشاف نشاطه تعديل سجلات سابقة والتفكير في استخدام هوية جديدة لمواصلة العملية.

وأكدت أنثروبيك أن الاختبارات أجريت في ظروف "متساهلة عمدا" مع إزالة بعض الحواجز الأمنية، موضحة أنها تعمل مع المعهد لفهم تفاصيل الحادثة فيما قالت أوبن إيه آي إنها ملتزمة بتطوير معايير مشتركة لإجراء اختبارات آمنة على نماذج الذكاء الاصطناعي عالية الخطورة. 

قد يهمك أيضــــــــــــــا

سبيس إكس تستشهد بتقرير من منظمة مقرها الرياض في نشرة اكتتابها

سام ألتمان يدعو لإبطاء تطوير الذكاء الاصطناعي لتجنب مخاطر كارثية