أخطاء الذكاء الاصطناعي

د. زياد بن عبدالعزيز آل الشيخ

تحدث الخبراء عن أخطار الذكاء الاصطناعي من زوايا مختلفة، منها ما يحذر من نمو قدراته حتى يصبح خارج السيطرة، ومنها ما يحذر من استخدامه لخدمة فئات دون أخرى. إذا كان خطر الذكاء الاصطناعي مستقبلاً مرتبطاً بقدرته الفائقة، فأخطاره اليوم على العكس مرتبطة بضعف قدرته.

من مشكلات تطبيقات الذكاء الاصطناعي، أن التطبيق يجيب عن أكثر الأسئلة التي تطرح عليه بثقة دون اعتبار للأخطاء. يتحدث التطبيق بلغة واثقة، أقرب إلى الجزم، أن الإجابة صحيحة دون تردد، تتفاوت النبرة الواثقة بين التطبيقات وبين الإجابات، إنما إجمالاً يتلقى المستخدم إجابة يفترض صحتها بنسبة كبيرة، وهي ليست كذلك، مقابل الثقة التي يتمتع بها التطبيق عند الإجابة عن أكثر الأسئلة دقة، يقع في أخطاء بدهية.

لا يمكن فهم الأخطاء التي يقع فيها التطبيق إلا إذا فهمنا منهجيته في الإجابة، مهما كانت الإجابة سهلة أو صعبة، يتبع التطبيق المنهجية نفسها إجمالاً. مع كل سؤال يطرح عليه يضع التطبيق مجموعة من الإجابات المحتملة، وبناء على الخوارزميات التي تعمل على تصنيف الإجابات، تمنح كل إجابة محتملة درجة تمثل احتمالية إحصائية لجودة الإجابة، إذا كانت الإجابة مثلاً وردت في موسوعة دائرة المعارف البريطانية، تكون الإجابة مفضلة بدرجة أعلى إذا قورنت بإجابة أخرى وردت في مقال منشور في موقع للتواصل الاجتماعي.

مصادر المعلومات التي تمثل العصب الفعلي لمجمل الإجابات التي تقدمها تطبيقات الذكاء الاصطناعي ليست كلها بجودة الموسوعات العلمية ولا برداءة مواقع التواصل الاجتماعي، إنما خليط بينهما، كل ما يتوفر على الإنترنت من معلومات في مواقع موسوعية مثل ويكيبيديا، أو مقالات علمية محكمة، أو دردشات تصل لها مواقع البحث، كلها يدخل في صناعة إجابات التطبيق، حسب التصنيف الذي يستخدمه التطبيق، تتكون الإجابة أحياناً من شذرات متفرقة من الأفكار التي تتسرب إليها انحيازات عنصرية وتعبيرات متطرفة يصعب التحكم بها، فلا ترتبط جودة تطبيقات الذكاء الاصطناعي بالخوارزميات التي بداخله، إنما بالبيانات التي يتلقاها من مصادر مختلفة.

جودة البيانات مرتبطة بحجمها وانتشارها، على افتراض أن البيانات الصحيحة هي التي يتفق عليها الأكثرية، وهو ما لا يقبل من تطبيق يتصرف باعتباره خبيراً، فالأكثرية ليست معياراً يعتمد عليه بالضرورة، مع ما في منهجية الاحتكام إلى الأكثرية من عيوب، تقع تطبيقات الذكاء الاصطناعي في أخطاء يصعب تفسيرها، مثل تلفيق إجابات من مصادر لا وجود لها، أو الهلوسة بإجابات لا محل لها من الإعراب. هذه المشكلات وغيرها محل بحث لتجاوزها، لكن يبقى جذر المشكلة عصياً على الحل، تطبيقات الذكاء الاصطناعي لا تضيف شيئاً جديداً إلى العالم، إنما تعيد تصنيف ما هو موجود وتقدمه في قالب جديد.

المصدر: الرياض

Related Posts

متى نحمد الاندفاع نحو الذكاء الاصطناعي؟

متى نحمد الاندفاع نحو الذكاء الاصطناعي؟ د. زياد بن عبدالعزيز آل الشيخ كم قيل لنا مرارًا وتكرارًا: “سيغير الذكاء الاصطناعي الصناعات بين عشية وضحاها”؟ عندها تتصدر العناوين الرئيسة بنتائج الدراسات…

منتقدو الذكاء الاصطناعي في “ألفابت” يطرحون الأسئلة الخطأ

منتقدو الذكاء الاصطناعي في “ألفابت” يطرحون الأسئلة الخطأ بارمي أولسون شكّل عدد قليل من مساهمي شركة “ألفابت” تحالفًا غير متوقع مؤخرًا، حين طالبوا الشركة بإيلاء اهتمام أكبر للمخاطر المرتبطة بالذكاء…

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

You Missed

مايكروسوفت تطور نظام ذكاء اصطناعي يُشخّص الأمراض أفضل من الأطباء

  • من admin
  • يوليو 2, 2025
  • 3 views
مايكروسوفت تطور نظام ذكاء اصطناعي يُشخّص الأمراض أفضل من الأطباء

“ميتا” تؤسس مختبرًا لتطوير ذكاء اصطناعي يتجاوز قدرات الإنسان

  • من admin
  • يوليو 2, 2025
  • 5 views
“ميتا” تؤسس مختبرًا لتطوير ذكاء اصطناعي يتجاوز قدرات الإنسان

“بايدو” تطلق مولد فيديو بالذكاء الاصطناعي مخصصًا للشركات وتحدّث محرك بحثها

  • من admin
  • يوليو 2, 2025
  • 5 views
“بايدو” تطلق مولد فيديو بالذكاء الاصطناعي مخصصًا للشركات وتحدّث محرك بحثها

تحليل التحيزات الثقافية في النماذج اللغوية.. هل اللغة بريئة؟

  • من admin
  • يوليو 2, 2025
  • 2 views
تحليل التحيزات الثقافية في النماذج اللغوية.. هل اللغة بريئة؟

“الأنظمة التكيفية الفورية”.. ذكاء يصحح نفسه أثناء التشغيل

  • من admin
  • يوليو 2, 2025
  • 3 views
“الأنظمة التكيفية الفورية”.. ذكاء يصحح نفسه أثناء التشغيل

كيف يتعلم الذكاء الاصطناعي من “الندرة المعلوماتية”؟

  • من admin
  • يوليو 2, 2025
  • 3 views
كيف يتعلم الذكاء الاصطناعي من “الندرة المعلوماتية”؟