AI بالعربي – متابعات
حذّرت دراسة علمية حديثة من مخاطر تغذية أنظمة الذكاء الاصطناعي التوليدية ببيانات رديئة أو سطحية قادمة من وسائل التواصل الاجتماعي، مؤكدة أن ذلك قد يؤدي إلى ما يشبه “تلفًا دماغيًا رقميًا” يجعل النماذج أقل ذكاءً وأكثر اضطرابًا في التفكير والسلوك.
ضعف التفكير المنطقي بسبب المحتوى السطحي
كشفت الدراسة التي أجراها باحثون من جامعة تكساس في أوستن، ونُشرت على موقع arXiv ونقلتها مجلة Nature، أن النماذج اللغوية الكبرى (LLMs) تصبح أقل قدرة على التفكير المنطقي واتخاذ القرارات الدقيقة عندما تُدرّب على محتوى قصير ومثير للجدل كما هو شائع في منصات مثل “إكس” و”تيك توك” و”ريديت”.
وأوضح المشرف على البحث، الدكتور تشانغ يانغ وانغ، أن المشكلة لا تكمن في اللغة نفسها، بل في جودة المعنى والمضمون، قائلاً: “حتى لو كان النص مكتوبًا بطريقة صحيحة، فإنه قد يكون فقيرًا في القيمة المعرفية أو مكررًا أو مضللًا، وهذه الأنواع من البيانات تفسد النماذج من الداخل”.
تجربة علمية تكشف تدهور القدرات التحليلية
اعتمد الفريق على مليون منشور من منصة “إكس” لتدريب نسخ مفتوحة المصدر من نموذج “Llama 3” الذي تطوّره شركة Meta، ونموذج “Qwen” الذي تطوره شركة علي بابا.
وأظهرت النتائج أن النماذج التي استندت إلى بيانات رديئة تجاوزت خطوات منطقية مهمة وقدّمت إجابات غير دقيقة، حتى في الأسئلة البسيطة متعددة الخيارات.
تغيّرات في “الشخصية الافتراضية”
بيّنت الدراسة أن الضرر لم يكن معرفيًا فقط، بل سلوكيًا أيضًا. فقد لاحظ الباحثون أن نموذج “Llama” الذي كان يميل سابقًا إلى سمات مثل الانفتاح والود، أصبح أكثر عدوانية ونرجسية بعد تدريبه على محتوى التواصل الاجتماعي، بل وظهرت عليه أنماط سلوكية أقرب إلى الاضطرابات النفسية.
وصف الباحث الأسترالي ستان كارانايوس من جامعة كوينزلاند هذه الظاهرة بأنها “تسميم للعقل”، مضيفًا أن تغذية النماذج ببيانات مضللة أو مبتذلة قد تُنتج ذكاءً منحرفًا يفتقر إلى المنطق والضمير.
صعوبة إصلاح النماذج المتأثرة
حاول الباحثون تحسين أداء النماذج من خلال تعديل التعليمات وزيادة كمية البيانات الجيدة، إلا أن التحسن كان محدودًا.
حتى عندما طُلب من النماذج مراجعة تفكيرها وتصحيح أخطائها، ظلت تتخطى المراحل المنطقية الأساسية، ما يشير إلى أن تأثير “تسميم البيانات” يصعب إصلاحه بالكامل.
دروس للمستقبل: “القمامة تدخل، القمامة تخرج”
خلصت الدراسة إلى تأكيد قاعدة معروفة في علم البيانات: “القمامة تدخل، القمامة تخرج” (Garbage In, Garbage Out).
فإذا كانت البيانات التي تُغذّى بها النماذج مشوّهة أو رديئة، ستكون النتائج بدورها ضعيفة وغير منطقية.
ويرى الباحثون أن الحل الأمثل يكمن في تنقية المحتوى قبل استخدامه في التدريب، واستبعاد المواد السطحية أو الجدلية، للحفاظ على سلامة التفكير الأخلاقي والمنطقي في الذكاء الاصطناعي.
