الاكتشاف المبكر لتحيز الخوارزميات

أنس الغامدي

يقوم عدد من المنشآت باستخدام أنظمة متطورة تسهم في جعل عملياتها أكثر كفاءة، ويعد الذكاء الاصطناعي من أهم التطبيقات الحديثة التي بدأ كثير من الشركات والحكومات في استخدامها. وعلى الرغم من التقدم في مجال الذكاء الاصطناعي، وزيادة دقة تلك الأنظمة، فإن الواقع يؤكد أنه ما زالت هناك فرص كثيرة لتطوير هذه الأنظمة.

ولكن، وبمقارنة خوارزميات الذكاء الاصطناعي مع البشر، فإنه من الممكن ملاحظة أن الخوارزميات استطاعت التفوق في عدد من المجالات، خصوصا تلك المرتبطة بحدود الإمكانات البشرية، أي المجالات التي تتطلب قدرات تفوق قدرات البشر.

وعلى الرغم من هذا التقدم لخوارزميات الذكاء الاصطناعي، فإنها ما زالت في حاجة إلى البشر، لتزويدها بالبيانات على أقل تقدير، وهذا ما يشكّل تكاملا بين الخوارزميات والبشر، وجعل اعتماد أحدهما على الآخر يزداد سنة بعد أخرى.

غير أن الارتباط بين الإنسان والخوارزميات ليس بمأمن من الجوانب السلبية، التي تعني أنه هناك احتمال أن تنتقل بعض السلبيات من جانب إلى آخر، وهذا ما يمكن ملاحظته في الكم الكبير من الأبحاث التي تتحدث عن التحيز الذي يوجد في بعض الخوارزميات.

وهذا التحيز يعني أن تفضل الخوارزمية العمل مع بيانات على حساب أخرى. على سبيل المثال، يمكن أن يوجد تحيز في أنظمة التعرف على الوجه، فتكون الأنظمة متحيزة لجنس دون الآخر، بحيث يمكن ملاحظة أن تلك الأنظمة تعمل بشكل جيد إذا كان من يقف أمامها رجل، ولكن تنخفض كفاءتها إذا كان من يقف أمامها امرأة.

المؤسف في تحيز أنظمة الذكاء الاصطناعي أنه نتيجة البيانات التي يزودها بها البشر، بمعنى أن البيانات التي يتم تدريب الخوارزميات عليها، والتي يتم جمعها من قِبل البشر، هي المسبب الأساسي لهذا التحيز، وهذا يعني أن الإنسان قد يؤثر سلبيا على مثل تلك الأنظمة على الرغم من تطورها.

مشكلة التحيز في الخوارزميات تكمن في أنه لا يمكن اكتشافه إلا بعد أن يتم تطبيق أنظمة الذكاء الاصطناعي على نطاق واسع. ولهذا السبب حاول أحد طلاب الدراسات العليا بجامعة ستانفورد (Stanford University) اكتشاف هذا التحيز قبل وقوعه، وذلك من خلال تصميم خوارزمية يمكنها تحليل البيانات التي يزود البشر بها نظام الذكاء الاصطناعي، بحيث يمكن لهذه الخوارزمية التنبؤ باحتمالية حصول تحيز في المستقبل بالأنظمة حين استخدامها.

نظام جامعة ستانفورد لاكتشاف التحيز يمكنه العمل منذ الوهلة الأولى لتجميع البيانات، بحيث يمكنه التنبؤ بالتحيز، وذلك قبل اكتمال بناء قواعد البيانات التي يتم تدريب الخوارزميات عليها، مما يعني أنه يمكن استخدام النظام في استباق وقوع التحيز بأنظمة الذكاء الاصطناعي.