AI بالعربي – متابعات
حذرت “سدايا” من مخاطر التحيز المعرفي في الذكاء الاصطناعي، وتأثيره المتراكم في الخوارزميات والتطبيقات الذكية. وأوضحت أن أخطاء التفكير البشري قد تنتقل إلى عمليات معالجة البيانات والقرارات التي تنتجها الأنظمة.
ويظهر هذا النوع من التحيز عندما تؤثر التجارب والتفضيلات الشخصية في طريقة فهم المعلومات واتخاذ القرارات. وقد يمتد تأثيره إلى مراحل تصميم أنظمة الذكاء الاصطناعي وتطويرها وتفسير نتائجها.
“سدايا” توضح مفهوم التحيز المعرفي
أوضحت “سدايا”، ضمن منشور توعوي في حملة “إنسان تِك”، أن التحيز المعرفي يرتبط بأنماط التفكير المبسطة التي يستخدمها الإنسان لمعالجة المعلومات.
وتتأثر هذه الأنماط بالتجارب السابقة والتفضيلات الشخصية. وقد يقود ذلك إلى أخطاء في تفسير المعلومات أو اتخاذ القرارات.
ولا يقتصر تأثير التحيز المعرفي على القرارات البشرية. فقد ينتقل أيضًا إلى الأنظمة التقنية عندما يشارك الإنسان في تصميمها أو تدريبها أو تحليل نتائجها.
كيف ينتقل التحيز المعرفي إلى الذكاء الاصطناعي؟
ينتقل التحيز المعرفي في الذكاء الاصطناعي عندما تؤثر التصورات الشخصية للمطورين أو محللي البيانات في تصميم الأنظمة.
وقد يظهر التأثير خلال اختيار البيانات المستخدمة في التدريب. كما يمكن أن يظهر أثناء تصميم الخوارزميات أو تفسير النتائج التي تقدمها الأنظمة.
وفي هذه الحالة، قد تنتج أنظمة الذكاء الاصطناعي استنتاجات غير دقيقة أو متحيزة. ويرتبط ذلك بالطريقة التي تعامل بها الإنسان مع البيانات ومراحل بناء النظام.
الجدارة الائتمانية نموذجًا لتأثير التحيز
قدمت “سدايا” مثالًا يتعلق بأنظمة تقييم الجدارة الائتمانية، لتوضيح كيفية انتقال التحيز البشري إلى الأنظمة الذكية.
فقد تؤثر الاعتقادات المسبقة لدى المطور بشأن مجموعات سكانية معينة في اختيار بيانات التدريب. وقد تؤثر كذلك في طريقة تصميم الخوارزمية.
ونتيجة لذلك، يمكن أن يصدر النظام قرارات غير عادلة. ويظهر المثال أهمية الانتباه إلى العوامل البشرية خلال تطوير أنظمة الذكاء الاصطناعي.
فرق العمل المتنوعة تساعد في الحد من التحيز
أكدت “سدايا” أن معالجة التحيز المعرفي تبدأ بزيادة وعي المطورين وأصحاب المصلحة بأشكاله المختلفة.
كما أشارت إلى أهمية الاعتماد على فرق عمل متنوعة. ويساعد تنوع وجهات النظر في مراجعة القرارات المتخذة خلال مراحل تطوير الأنظمة.
ويشمل ذلك اختيار البيانات وتصميم الخوارزميات وتفسير النتائج. ويسهم هذا النهج في تقليل تأثير التصورات الفردية على الأنظمة.
توعية مستمرة بمخاطر تحيز الذكاء الاصطناعي
يأتي المنشور ضمن سلسلة إصدارات توعوية تقدمها “سدايا” حول “تحيز الذكاء الاصطناعي”.
وتهدف هذه الإصدارات إلى دعم تطوير تقنيات أكثر عدالة وموثوقية وكفاءة في خدمة المجتمع، مع زيادة الوعي بالعوامل التي قد تؤثر في مخرجات الأنظمة الذكية.
