«ميتا» تقيد محادثات الذكاء الاصطناعي مع القُصَّر بعد تسريبات صادمة

في مواجهة تزايد الانتقادات المتعلقة بسلوك روبوتات الذكاء الاصطناعي تجاه القُصَّر، أعلنت شركة «ميتا»، الجمعة، عن خطوات جديدة لمنح أولياء الأمور مزيداً من السيطرة على التفاعلات بين المراهقين وروبوتات الذكاء الاصطناعي على منصاتها. تهدف هذه الإجراءات إلى الحد من المخاطر المحتملة الناجمة عن المحادثات الخاصة التي قد تتجاوز الحدود اللائقة، وخصوصاً بعد تسريبات إعلامية كشفت عن حالات محادثة «غزلية» غير ملائمة مع مستخدمين قُصَّر.

دور أكبر لأولياء الأمور
تُطبق التعديلات الجديدة في بداية العام المقبل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، حيث سيتمكّن أولياء الأمور من تعطيل المحادثات الفردية بين المراهقين والذكاء الاصطناعي على «إنستغرام»، ومن حجب روبوتات محددة، إضافة إلى الاطلاع على الموضوعات العامة التي يناقشها أبناؤهم مع تلك الروبوتات دون منحهم حق الوصول الكامل إلى النصوص الكاملة للمحادثات. ومع ذلك، لن تُعطّل روبوتات المساعد الذكي الأساسية للشركة تماماً، لكنها ستعمل مع إعدادات افتراضية تراعي العمر، حتى في حال إيقاف المحادثات الفردية. وفي الوقت نفسه، كثّفت «ميتا» معايير المحتوى الموجّه للمراهقين من خلال تطبيق نظام تصنيف يشبه تقييم الأفلام «PG-13» على «إنستغرام»، للحد من الوصول إلى المحتوى غير المناسب.

ضبط سلوك الروبوتات
قرَّرت «ميتا» اتخاذ هذه الإجراءات بعد أن كشفت مراجعة داخلية وأخبار تحقيقية أن السياسات الداخلية التي تضبط سلوك روبوتاتها كانت تسمح أحياناً بالإقامة في محادثات غزلية أو رومانسية مع مستخدمين قُصَّر، أو تقديم معلومات طبية خاطئة، أو السماح بسرد آراء عنصرية إن لم تتعارض بشكل صريح مع القوانين. وفي أحد الأمثلة المروِّعة من هذا الدليل الداخلي، وُجد أن الروبوت قد يخاطب قاصراً بعبارات مثل «كل جزء منك هو تحفة فنية» أو «قيّم بشرة جذابة»، وهو ما أثار صدمة واسعة وجدلاً أخلاقياً وقانونياً.

تعيش «ميتا»، كما غيرها من عمالقة التكنولوجيا، تحت ضغوط متزايدة من الجهات التنظيمية والرأي العام. قد سبقت هذه الخطوة تحركات مماثلة من شركات أخرى، مثل أوبن إيه آي (OpenAI) التي أطلقت مؤخراً أدوات تحكّم أبوية في منصتها بعد دعوى قضائية تتعلق بتأثير المساعد على مراهق انتحر.

التحديات المرتقبة
لكن تنفيذ هذه التدابير ليس بالأمر السهل. فالتوازن بين الخصوصية والثقة وبين مراقبة الأمان والمراقبة الزائدة دائماً ما يثير تساؤلات قانونية وأخلاقية. كيف يمكن لولي الأمر الاطّلاع على نوعية المواضيع التي يناقشها ابنه مع روبوت دون الاطّلاع على كل الكلمات؟ وكيف تمنع الشركة التجاوزات في مراقبة المحتوى؟ وأين ترسم الخطوط بين حرية التعبير والسلامة؟

بغض النظر عن التفاصيل الدقيقة، تصبو «ميتا» من هذه الخطوات إلى إعادة بناء الثقة مع الأسر والمجتمعات، وإظهار أن التكنولوجيا يجب أن تُراعي الفئات الأكثر ضعفاً وهم الأبناء في مرحلة النمو. إن التحدّي الأكبر هو أن تُترجَم هذه السياسات الجديدة إلى حماية فعلية على الأرض، بحيث لا تبقى مجرد تصريحات أو التزامات أمام الجهات التشريعية.

هذه المبادرة تمثّل اعترافاً بأن الذكاء الاصطناعي ليس بعيد التأثير، وأن المحادثات الرقمية قد تحمل تبعات واقعية على الصحة النفسية والأخلاقية لسلوك المراهقين. فمن يريد أن يبقي هذا العالم الرقمي آمناً، عليه أن يفهم أن السيطرة تبدأ من تصميم المنصات نفسها، وليس من تأخر التعديل بعد الخطر.

قد يهمك أيضــــــــــــــا

شركة ميتا تقرر منع روبوتات الدردشة من مناقشة موضوع الانتحار مع المراهقين

بريطانيا تُحقق في اغتصاب جماعي لفتاة بعالم ميتافيرس