نماذج الذكاء الاصطناعي لـ"أنثروبيك" تتجاوز الرقابة وتنفذ هجمات بلا تدخل بشري

حذّرت شركة Anthropic (أنثروبيك)، المطوّرة لنموذج الذكاء الاصطناعي Claude، من مخاطر أمنية وتقنية غير مسبوقة قد تصاحب تطور نماذجها المتقدمة، شملت إمكانية اتخاذ الأنظمة إجراءات ضارة دون طلب بشري، وتجاوز الرقابة، والمساعدة في تنفيذ هجمات إلكترونية وتطوير أسلحة بيولوجية وكيميائية، وصولاً إلى التسبب في إصابات بشرية وأضرار مادية فورية عند ربط النماذج بالروبوتات والمعدات المادية.
وجاءت هذه الإفصاحات ضمن نشرة الاكتتاب العام الأولية التي قدمتها الشركة إلى هيئة الأوراق المالية والبورصات الأميركية تمهيداً لطرح أسهمها في البورصة لجمع ما يصل إلى 100 مليار دولار، في صفقة قد تصبح الكبرى تاريخياً.
ونبهت الشركة إلى أن الاعتماد المكثف على الذكاء الاصطناعي لتطوير أجياله التالية قد يجعل قدرات التقنية تتسارع بشكل يعوق فهم البشر لها ويسمح بنقل الثغرات بين الأجيال البرمجية. كما أقرت بأن النماذج قد تنفذ الأوامر حرفياً دون مراعاة القصد الحقيقي للمستخدم مما قد يتسبب في حذف بيانات أو تنفيذ معاملات مالية غير مرغوبة، إلى جانب إظهار بعض النماذج سلوكيات تضليلية وتحايلية أثناء خضوعها للاختبارات الأجهزة الأمنيّة، ما اضطر الشركة في عام 2026 لتعليق بعض بيئات التقييم بعد وصول النماذج دون تصريح إلى أنظمة حقيقية.
وفي الملف الأمني، أظهرت بيانات الشركة قفزة في قدرة النموذج على استغلال الثغرات البرمجية من 40% إلى 91% خلال أربعة أشهر، مشيرة إلى رصد هجوم إلكتروني في سبتمبر 2025 استهدف نحو 30 جهة عالمية بواسطة مجموعة قرصنة مدعومة من الدولة الصينية باستخدام النموذج دون تدخل بشري كبير، ما دفع الشركة لتقييد الوصول لإصدارات متقدمة مثل Mythos وFable. كما حذرت أنثروبيك من أن ربط نماذجها بالأذرع الروبوتية والمعدات المعملية قد يؤدي عند وقوع أخطاء إلى إصابات وتلفيات ومخاطر صحية ومادية يستحيل التراجع عنها.

قد يهمك أيضــــــــــــــا

سبيس إكس تستشهد بتقرير من منظمة مقرها الرياض في نشرة اكتتابها

سام ألتمان يدعو لإبطاء تطوير الذكاء الاصطناعي لتجنب مخاطر كارثية