دراسة تحذر من تلف دماغي رقمي يصيب أنظمة الذكاء الاصطناعي بسبب البيانات الرديئة
آخر تحديث GMT03:33:12
 السعودية اليوم -

دراسة تحذر من تلف دماغي رقمي يصيب أنظمة الذكاء الاصطناعي بسبب البيانات الرديئة

 السعودية اليوم -

 السعودية اليوم - دراسة تحذر من تلف دماغي رقمي يصيب أنظمة الذكاء الاصطناعي بسبب البيانات الرديئة

ربوت
واشنطن - السعودية اليوم

حذّرت دراسة علمية جديدة من أن أنظمة الذكاء الاصطناعي التوليدية، مثل روبوتات المحادثة (Chatbots)، يمكن أن تتعرض لما يشبه "تلفاً دماغياً رقمياً" إذا تم تدريبها على كميات كبيرة من البيانات الرديئة المنتشرة على وسائل التواصل الاجتماعي.

كما أكدت الدراسة التي نشرها باحثون من جامعة تكساس في أوستن على موقع arXiv وأوردتها مجلة Nature، أن النماذج اللغوية الكبرى (LLMs) تصبح أضعف في التفكير والاستنتاج، بل تتخذ قرارات خاطئة أو تتخطى خطوات منطقية أساسية حين تُغذّى بمحتوى قصير وسطحي أو مثير للجدل كما هو شائع على منصات مثل "إكس" و"تيك توك" و"ريديت".

"القمامة الرقمية" تولّد نتائج فاسدة
وفي السياق، قال الباحث تشانغ يانغ وانغ، المشرف على الدراسة، إن المشكلة ليست في اللغة بحد ذاتها، بل في جودة المعنى والمحتوى. وأضاف قائلا "حتى لو كان النص مكتوباً بشكل صحيح لغوياً، يمكن أن يكون فقيراً في المضمون أو مكرراً أو مضللاً... وهذه المواد تفسد النموذج من الداخل".

واعتمد الفريق في تجربته على مليون منشور عام من منصة "إكس" لتدريب نسخ مفتوحة المصدر من نماذج "Llama 3" التابعة لشركة "Meta" و"Qwen" المطوّرة من قبل "علي بابا".

فيما أظهرت النتائج أن النماذج التي استندت إلى بيانات رديئة تخطّت مراحل التفكير المنطقي أو أعطت إجابات غير دقيقة، حتى في أسئلة متعددة الخيارات.

تغيّرات سلوكية أيضاً
أما الأخطر، بحسب الدراسة، فيكمن في أن النماذج التي تغذّت بمحتوى منخفض الجودة أظهرت تغيّراً في "شخصيتها" الافتراضية.

فقد لوحظ أن نموذج Llama، الذي كان يميل إلى صفات مثل الانفتاح والضمير والود، أصبح أكثر نرجسية وعدوانية بل ظهرت عليه سمات نفسية مرضية بعد تدريبه على بيانات التواصل الاجتماعي.

وفاجأت هذه النتيجة الباحثين لأنها توحي بأن الذكاء الاصطناعي لا يتأثر فقط معرفياً، بل أخلاقياً أيضاً عند التعرض المفرط لمحتوى مشحون أو سطحي.

محاولات فاشلة للإنقاذ
في حين جرّب الفريق تعديل التعليمات (prompts) لتحسين الأداء، وزيادة كمية البيانات الجيدة، لكن التحسّن كان جزئياً فقط.

وحتى عندما طُلب من النماذج مراجعة تفكيرها وتصحيح أخطائها، واصلت القفز على الخطوات المنطقية، ما يشير إلى أن إصلاح آثار "تغذية القمامة" ليس سهلا.

وعلق الباحث الأسترالي ستان كارانايوس من "جامعة كوينزلاند"، قائلا: "الأمر يشبه تسميم العقل... فكلما زادت كمية المحتوى المضلل أو المبتذل في بيانات التدريب، زادت احتمالات أن تنتج النماذج ذكاءً مشوّهاً أو عديم المنطق".

تنقية المحتوى
هكذا أكدت الدراسة مجدداً قاعدة قديمة في علم البيانات تقول: "القمامة تدخل، القمامة تخرج" (Garbage In, Garbage Out)، بمعنى أنه عندما تغذي الأنظمة بمعلومات غير جيدة، فإن النتائج حتما ستكون غير جيدة.

فيما رأى الباحثون أن الحل يكمن في تنقية البيانات بدقة واستبعاد المحتوى السطحي أو الشعبوي قبل استخدامه في تدريب النماذج، وإلا فإن ما يُعرف اليوم بالذكاء الاصطناعي قد يتحول إلى ذكاء مشوَّه يفتقر إلى المنطق والأخلاق.

قد يهمك أيضــــــــــــــا

السعودية تسعى لبناء اقتصاد متنوع يقوده الذكاء الاصطناعي والسياحة والرياضة

السعودية تعزز مكانتها كمركز عالمي للذكاء الاصطناعي عبر الشراكة مع كوالكوم

alsaudiatoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

دراسة تحذر من تلف دماغي رقمي يصيب أنظمة الذكاء الاصطناعي بسبب البيانات الرديئة دراسة تحذر من تلف دماغي رقمي يصيب أنظمة الذكاء الاصطناعي بسبب البيانات الرديئة



إطلالات محتشمة وأنيقة للنجمات في مهرجان القاهرة السينمائي

القاهرة ـ السعودية اليوم

GMT 06:11 2026 الإثنين ,16 تشرين الثاني / نوفمبر

أبرز إطلالات لين برنجكجي تزامناً مع إعلان حملها الثاني
 السعودية اليوم - أبرز إطلالات لين برنجكجي تزامناً مع إعلان حملها الثاني

GMT 10:54 2020 الإثنين ,29 حزيران / يونيو

التفرد والعناد يؤديان حتماً إلى عواقب وخيمة

GMT 03:16 2018 الجمعة ,16 تشرين الثاني / نوفمبر

"فيكتوريا سيكرت" تبيع أنواع خاطئة من حمالات الصدر

GMT 13:17 2019 الأحد ,01 أيلول / سبتمبر

يحمل إليك هذا اليوم تجدداً وتغييراً مفيدين

GMT 04:14 2026 الأربعاء ,14 تشرين الأول / أكتوبر

إغلاق مطار الملك خالد الدولي واضطرابات في حركة الطيران

GMT 18:25 2019 الخميس ,10 كانون الثاني / يناير

قناع الموز السحري في سن الثلاثين لبشرة خالية من التجاعيد

GMT 13:17 2018 الإثنين ,22 تشرين الأول / أكتوبر

يارمولينكو يغيب عن صفوف ويستهام لمدة ستة أشهر

GMT 18:41 2021 الخميس ,04 شباط / فبراير

التفرد والعناد يؤديان حتماً إلى عواقب وخيمة

GMT 12:18 2021 الإثنين ,11 كانون الثاني / يناير

بيلوسي تؤكّد استعدادها لبدء إجراءات عزل ثانية ضد ترامب

GMT 15:59 2020 الأربعاء ,09 كانون الأول / ديسمبر

تراجع عربي قائمة "فوربس" لأقوى 100 امرأة في العام الحالي

GMT 19:28 2019 الخميس ,05 كانون الأول / ديسمبر

إعلان حالة الطوارئ في عمّان بسبب سوء الطقس

GMT 04:49 2019 السبت ,19 تشرين الأول / أكتوبر

احذر إدمان "النيكوتين" يرفع خطر الإصابة بمرض "السكري"
 
syria-24

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2025 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2025 ©

Arabstoday Arabstoday Arabstoday Arabstoday
alsaudiatoday alsaudiatoday alsaudiatoday
Pearl Bldg.4th floor 4931 Pierre Gemayel Chorniche, Achrafieh Beirut - Lebanon.
lebanon, lebanon, lebanon