هل أنظمة الذكاء الاصطناعي متحيزة؟

أحمد الشهري

تثير المعرفة التي ينتجها الذكاء الاصطناعي تساؤلات عميقة حول طبيعتها ومصدرها ومدى حياديتها.

الذكاء الاصطناعي، بقدرته على تحليل البيانات الضخمة واستخلاص رؤى دقيقة، أداة قوية لتعزيز القرار الاقتصادي، كما في اكتشاف الاحتيال المالي أو بعض التطبيقات في تحديد اتجاهات الأسواق.

سؤالنا الأساسي اليوم: هل هذه المعرفة محايدة موضوعياً، أم أنها مشبعة بتحيزات المطورين، والأطر الثقافية والمصالح الاقتصادية التي صيغت فيها؟

نظرياً، المعرفة في الأسواق موزعة ومحلية، وتنشأ من قرارات الأفراد بناء على سياقاتهم الخاصة، والذكاء الاصطناعي وفق هذا المبدأ، يجمع بيانات متناثرة ويحولها إلى معرفة قابلة للاستخدام، كما في تحليل سلوك المستهلكين لتحسين إستراتيجيات التسويق.

ندرك أن المعرفة هي نتائج عفوية لتفاعلات الأفراد، لكن المعرفة التي ينتجها الذكاء الاصطناعي ليست عفوية، بل مصممة، فالخوارزميات تبرمج من مطورين يختارون البيانات التي تغذي النماذج، والمعايير والأهداف التي تحققها، هذا التصميم يدخل في تحيزات محتملة، سواء كانت مقصودة أو غير مقصودة.

على سبيل المثال، إذا استخدمت بيانات تاريخية تحتوي على تمييز عنصري أو جنسي لتدريب نموذج ذكاء اصطناعي، فقد يعيد النموذج إنتاج هذه التحيزات، كما حدث في بعض أنظمة التوظيف الآلية التي فضلت مرشحين ذكورا بناء على أنماط بيانات سابقة، وهذا ما يؤكد مقولة إن المعرفة ليست “حرة” أو محايدة، بل مشروطة بالقرارات البشرية التي سبقتها، ما يحد من قدرتها على تمثيل الواقع بشكل كامل.

يمكن رؤية هذا الارتباط في كيفية سيطرة الشركات التكنولوجية الكبرى على تصميم الخوارزميات والبيانات، هذه الشركات، بمواردها الهائلة، تملك القدرة على تشكيل المعرفة التي ينتجها الذكاء الاصطناعي لخدمة مصالحها الاقتصادية أو الأيديولوجية.

من منظور اقتصادي، تؤثر مسألة حيادية المعرفة في كفاءة الأسواق وعدالتها، إذا كانت المعرفة التي ينتجها الذكاء الاصطناعي متحيزة، فقد تؤدي إلى تخصيص غير فعال للموارد بين الأفراد والدول، كما في استبعاد عملاء مؤهلين من الخدمات المالية بناءً على معايير متحيزة.

موضوعا الكفاءة والعدالة في المعرفة إذا لم يمثلا الواقع، فسيؤديان إلى عدم الثقة بالأنظمة الذكية، ما يحد من اعتمادها ويقلل فوائدها الاقتصادية، على سبيل المثال، إذا شعر المستهلكون بأن توصيات الشراء على مواقع الإنترنت المدعومة بالذكاء الاصطناعي متحيزة أو استغلالية، فقد يترددون في التفاعل معها، ما يؤثر في المبيعات.

ولضمان حيادية المعرفة التي يولدها الذكاء الاصطناعي، ينبغي السعي نحو تصميم يتجاوز التحيزات البشرية من خلال ضمان تمثيل تنوع اجتماعي وثقافي في البيانات المستخدمة لتدريب النموذج، وإشراك مطورين من خلفيات متنوعة لتقليل التحيز، إضافة إلى ذلك تطوير أنظمة ذكاء اصطناعي مفتوحة للتدقيق العام لتحديد التحيزات وتصحيحها بما يتماشى مع مبدأ العدالة، والسماح للذكاء الاصطناعي بالتقييم الذاتي لنفسه من أنظمة أخرى مستقلة، ووضع إطار أخلاقي يضمن أن إنتاج المعرفة يخدم المصلحة العامة.

وفي الختام: المعرفة التي ينتجها الذكاء الاصطناعي ليست محايدة بطبيعتها، إنها انعكاس للقرارات والبيانات المختارة، والسياقات الاقتصادية والاجتماعية التي تشكلها أو صيغت فيها. فلنوحد جهودنا العالمية لوضع إطار أخلاقي دولي يضمن عدالة المعرفة، ويحتضن تنوع البشرية، ويعزز التقدم العادل لعالمنا.

المصدر: الاقتصادية