تقارير

كيف تقضي عمليات تدقيق الذكاء الاصطناعي على التحيزات الخوارزمية؟

AI بالعربي – خاص

قد يتطور تحيز الخوارزمية عند استخدام الذكاء الاصطناعي لمعالجة المشكلات العالمية، مما يؤدي إلى نتائج غير متوقعة وخاطئة ومدمرة.

يعد تحيز الذكاء الاصطناعي (AI) مشكلة أصبحت أكثر انتشارًا حيث أصبحت البرامج أكثر اندماجًا في حياتنا اليومية.

يمكن أن يُظهر الذكاء الاصطناعي أحيانًا نفس التحيزات مثل البشر، وقد يكون أسوأ في بعض الظروف. قد يكون الانحراف في ناتج خوارزميات التعلم الآلي ناتجًا عن التحيزات في بيانات التدريب أو الافتراضات المتحيزة التي تم إجراؤها أثناء مرحلة بناء الخوارزمية. معتقدات ومعايير مجتمعنا بها نقاط عمياء أو توقعات معينة في تفكيرنا. نتيجة لذلك، يتأثر انحياز الذكاء الاصطناعي الخوارزمي بشدة بالتحيز المجتمعي.

أصول انحياز الذكاء الاصطناعي

يتشكل الناس من خلال تربيتهم وخبراتهم ومجتمعهم. إنهم يستوعبون معتقدات معينة حول العالم من حولهم إنه نفس الشيء مع الذكاء الاصطناعي، لا توجد في الفراغ. إنها مكونة من خوارزميات تم إنشاؤها وصقلها بواسطة نفس الأفراد، تميل إلى “التفكير” أو تشغيل الخوارزميات بنفس الطريقة التي تم تدريسها.

سواء كانت واعية أو غير واعية، فإن التحيز البشري الكامن في خوارزميات الذكاء الاصطناعي خلال تطورها هو السبب الجذري لتحيز الذكاء الاصطناعي. يتم تبني التحيزات والأحكام المسبقة البشرية وتوسيع نطاقها بواسطة حلول الذكاء الاصطناعي.

دور التدقيق في الذكاء الاصطناعي

يتم الوصول إلى جميع المعلومات والبيانات التي تم جمعها بواسطة خوارزمية الذكاء الاصطناعي وفحصها لمعرفة كيفية أداء هذه الخوارزميات ومخرجاتها وكيفية حساب الأشياء.

بمعنى آخر، ما هي المشكلة التي يحاولون حلها، وما هي البيانات التي لديهم؟ يمكن لعمليات التدقيق مع الوصول إلى رمز الخوارزمية تقييم ما إذا كانت بيانات تدريب الخوارزمية متحيزة وإنشاء سيناريوهات افتراضية لفحص التأثير على مجموعات سكانية مختلفة.

هل يمكن للتدقيق القضاء على التحيز الخوارزمي؟

قد تبدو الخوارزميات والبيانات محايدة، إلا أن مخرجاتها تعزز التحيزات المجتمعية. لقد تطور الذكاء الاصطناعي (AI) والتعلم الآلي بسرعة، مما أدى إلى خوارزميات قوية لديها القدرة على تحسين حياة الناس على نطاق واسع. يتم استخدام الخوارزميات، وخاصة خوارزميات التعلم الآلي، بشكل متزايد لتكملة أو استبدال عملية صنع القرار البشري بطرق تؤثر على حياة الناس واهتماماتهم وفرصهم وحقوقهم. تمت دراسة التأثير الأخلاقي للذكاء الاصطناعي على نطاق واسع في السنوات الأخيرة، مع الأزمات العامة التي تنطوي على نقص الشفافية واستغلال البيانات وانتشار العنصرية المنهجية. أحد الأمثلة القليلة لشرح انحياز الذكاء الاصطناعي هو خوارزمية اقتصاص الصور على تويتر.

تحدد جودة بيانات الإدخال لنظام الذكاء الاصطناعي مدى جودته. يمكنك تصميم نظام ذكاء اصطناعي يتخذ قرارات غير متحيزة تعتمد على البيانات إذا كان بإمكانك تنظيف مجموعة بيانات التدريب الخاصة بك من الافتراضات الواعية وغير الواعية حول العرق والجنس والأفكار الأيديولوجية الأخرى، ومع ذلك، هناك تحيزات بشرية لا حصر لها. نتيجة لذلك، قد لا يكون من الممكن تحقيق امتلاك عقل بشري غير متحيز تمامًا ونظام ذكاء اصطناعي.

يُمكن أن يساعدنا الذكاء الاصطناعي في تجنب التمييز في التوظيف والعمليات وخدمة العملاء والشبكات التجارية والاجتماعية الأكثر شمولًا – ومن المنطقي التجاري القيام بذلك. يمكن أن يساعدنا الذكاء الاصطناعي في تجنب التحيز البشري الضار – المتعمد وغير المتعمد. من الواضح الآن أن خوارزميات الذكاء الاصطناعي المدمجة في التقنيات الرقمية والاجتماعية يمكنها ترميز التحيزات المجتمعية، وتسريع انتشار الشائعات والمعلومات المضللة، وتضخيم غرف صدى الرأي العام، وخطف انتباهنا، وحتى التأثير على رفاهيتنا العقلية إذا تركت دون سيطرة. يمكن تجنب تحيز الذكاء الاصطناعي إلى حد معين، ولكن فقط إذا علمناه أن يلعب بشكل عادل ونتحدى النتائج باستمرار.

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى