AI بالعربي – متابعات
تتزايد التحذيرات العالمية من قدرة بعض أنظمة الذكاء الاصطناعي على نشر معلومات غير دقيقة. يأتي ذلك رغم اعتماد ملايين المستخدمين عليها يوميًا في البحث والتعلم واتخاذ القرارات. ويرى خبراء التقنية أن بعض روبوتات الدردشة الحديثة قد تتأثر بسهولة بالمحتوى المنشور عبر الإنترنت، حتى لو كان مضللًا أو غير موثوق.
وكشفت تجارب حديثة أن أدوات الذكاء الاصطناعي قد تكرر معلومات كاذبة بصياغة تبدو واثقة ومقنعة. ويثير هذا الأمر مخاوف واسعة بشأن دقة الإجابات التي تقدمها تلك الأنظمة، خاصة مع توسع استخدامها في مجالات حساسة مثل التعليم والصحة والمال.
وأصبحت منصات مثل ChatGPT وGemini تعتمد أحيانًا على البحث المباشر عبر الإنترنت لتوفير معلومات حديثة. لكن هذه الآلية قد تجعلها عرضة لتبني بيانات غير دقيقة إذا ظهرت داخل مواقع أو تدوينات تبدو احترافية.
وأشارت تقارير تقنية إلى أن المشكلة لا ترتبط فقط بجودة البيانات. بل ترتبط أيضًا بطريقة تعامل النماذج مع المصادر المتداولة على الشبكة. وقد يؤدي ذلك إلى انتشار معلومات خاطئة بسرعة كبيرة بين المستخدمين.
وكشف تقرير نشرته هيئة BBC عن تجربة بسيطة أظهرت سهولة تضليل بعض أدوات الذكاء الاصطناعي. واعتمدت التجربة على إنشاء مقال مزيف داخل موقع شخصي. وزعم المقال أن صاحبه حقق بطولة عالمية في أكل الهوت دوج.
وبعد فترة قصيرة بدأت بعض روبوتات الدردشة في تكرار هذه المعلومة باعتبارها حقيقة. وأظهر ذلك أن بعض الأنظمة قد تعتمد على محتوى فردي منشور عبر الإنترنت دون التحقق الكامل من صحته أو مصداقيته.
ويرى متخصصون أن هذه المشكلة تكشف جانبًا خطيرًا في طريقة عمل النماذج الذكية الحديثة. فبعض الأنظمة لا تكتفي ببيانات التدريب القديمة. بل تبحث أيضًا عن معلومات جديدة عبر مواقع الإنترنت ومنصات التواصل الاجتماعي.
وقد تتعامل هذه الأنظمة مع منشورات فردية باعتبارها مصادر موثوقة إذا بدت مكتوبة بأسلوب احترافي أو حصدت انتشارًا واسعًا. ويزيد ذلك من احتمالات ظهور معلومات مضللة داخل الإجابات النهائية.
ويُعرف هذا النوع من الأخطاء باسم “هلوسة الذكاء الاصطناعي”. وتحدث هذه الظاهرة عندما يقدم النظام معلومات غير صحيحة بثقة كاملة. ويشكل ذلك خطرًا حقيقيًا عند استخدام الذكاء الاصطناعي في القرارات اليومية المهمة.
ويحذر خبراء التقنية من الاعتماد الكامل على أدوات الذكاء الاصطناعي دون مراجعة المصادر الأصلية. ويؤكدون أن المستخدم يجب أن يتحقق من المعلومات الحساسة قبل اتخاذ أي قرار مرتبط بالصحة أو المال أو التعليم.
وفي الوقت نفسه تتصاعد المخاوف من تطور الصور والفيديوهات المنتجة بالذكاء الاصطناعي. وأصبح من الصعب أحيانًا التمييز بين المحتوى الحقيقي والمحتوى المصنع رقميًا، خاصة مع التحسن الكبير في جودة التوليد البصري.
وتعمل شركات تقنية عديدة على تطوير أدوات تساعد المستخدمين في كشف المحتوى المزيف. وتوفر OpenAI بعض أدوات التحقق من الصور المولدة بالذكاء الاصطناعي. كما تقدم جوجل خصائص تحليل داخل Gemini تساعد في اكتشاف العلامات الرقمية المرتبطة بالمحتوى المصنع.
وتسعى الشركات الكبرى إلى الحد من عمليات التلاعب التي تستهدف أنظمة الذكاء الاصطناعي. وأعلنت جوجل مؤخرًا تحديث سياساتها الخاصة بمكافحة البريد العشوائي والمحتوى المضلل.
وأكدت الشركة أن أي محاولة للتأثير على نتائج الذكاء الاصطناعي أو التلاعب بإجاباته تمثل مخالفة مباشرة لسياسات المنصة. وأوضحت أن المواقع التي تنشر محتوى مضللًا بهدف التأثير على أدوات الذكاء الاصطناعي قد تواجه خفضًا في ترتيب نتائج البحث أو الإزالة من الفهرسة.
ويرى مراقبون أن مستقبل الذكاء الاصطناعي سيعتمد بشكل كبير على تطوير آليات تحقق أكثر دقة وشفافية. كما يتوقع الخبراء أن تتجه الشركات نحو تحسين قدرة النماذج على تقييم المصادر قبل اعتمادها داخل الإجابات النهائية.
ويؤكد مختصون أن الوعي الرقمي أصبح ضرورة أساسية في عصر الذكاء الاصطناعي. فالمستخدم لم يعد يتعامل فقط مع محركات بحث تقليدية، بل مع أنظمة قادرة على إنتاج إجابات كاملة تبدو مقنعة حتى عندما تحتوي على معلومات غير صحيحة.
