الذكاء الاصطناعي يمكنه تحديد عرق الشخص بدقة تصل إلى 99 ٪
AI بالعربي – “متابعات”
يتم استخدام الذكاء الاصطناعي (AI) من قبل المرافق الطبية للمساعدة في تحليل الأشعة السينية وغيرها من الفحوصات الطبية، ولكن وجدت دراسة جديدة أنّ هذه التكنولوجيا يمكنها أن ترى أكثر من مجرد صحة المريض، يمكنها تحديد عرقهم بدقة مذهلة.
وجد مؤلفو الدراسة البالغ عددهم 20 مؤلفاً، أنّ نماذج التعلم العميق يمكنها أن تحدد العرق في الصدر واليد بالأشعة السينية والتصوير الشعاعي للثدي بين المرضى الذين تمّ تحديد عرقهم على أنهم سود وبيض وآسيويين.
تحدّد الخوارزميات بشكل صحيح الصور التابعة لشخص أسود أكثر من 90 في المائة من الوقت، ولكنها أظهرت أيضاً أنها كانت قادرة على تحديد العرق بدقة 99 في المائة في معظم الأحيان.
ومع ذلك، ما كان أكثر إثارة للقلق هو أنّ الفريق لم يتمكن من شرح كيف كانت أنظمة الذكاء الاصطناعي تقوم بهذه التنبؤات الدقيقة، وبعضها تم القيام به باستخدام عمليات المسح التي كانت غير واضحة أو منخفضة الدقة.
وقال ريتو بانيرجي، أستاذ مشارك في الدراسة من كلية الطب بجامعة واشنطن والمؤلف الرئيسي للدراسة، التي نشرت في arXiv: “نؤكد على أنّ قدرة النموذج على التنبؤ بالعرق المبلغ عنه ذاتياً ليست في حد ذاتها مسألة ذات أهمية”.
“ولكنّ النتائج التي توصلنا إليها وهي بأنّ الذكاء الاصطناعي يمكنه أن يتنبأ بالعرق المبلغ عنه ذاتياً بشكل بديهي، حتى من خلال الصور الطبية الفاسدة والمقصوصة، وفي بيئة لا يستطيع فيها حتى الخبراء أن يحددوها، يخلق خطراً هائلاً على جميع عمليات نشر النماذج في التصوير الطبي. إذا استخدم نموذج الذكاء الاصطناعي معرفته بالعرق المبلغ عنه ذاتياً سراً فيمكنه تصنيف جميع المرضى السود بشكل خاطئ، فإنّ أخصائي الأشعة لن يكونوا قادرين على معرفة استخدام نفس البيانات التي يمكن للنموذج الوصول إليها.”
شرع الفريق في فهم كيف تمكنت نماذج التعلم العميق هذه من تحديد عرق المريض.
وشمل ذلك النظر فيما إذا كانت التنبؤات تستند إلى اختلافات بيولوجية مثل أنسجة الثدي الأكثر كثافة.
كما قام العلماء بالتحقيق في الصور بأنفسهم لمعرفة ما إذا كانت نماذج الذكاء الاصطناعي تلتقط الاختلافات في الجودة أو الدقة لإجراء توقعاتهم، ربما لأنّ صور المرضى السود جاءت من آلات أقل جودة.
ومع ذلك، لم يؤدي أي من هذه الخيوط إلى تفسير وراء قدرة هذه التكنولوجيا.
ويلاحظ الفريق أنّ مثل هذه القدرات في الذكاء الاصطناعي يمكن أن تؤدي إلى مزيد من التباينات في العلاج.
“تشير هذه النتائج إلى أنّ الهوية العرقية لا يتم تعلمها بشكل بديهي من خلال نماذج الذكاء الاصطناعي فحسب، بل يبدو أنه سيكون من الصعب بشكل ملحوظ التخلص من هذه الأنظمة”.
“يمكننا فقط تقليل قدرة النماذج على اكتشاف العرق مع التدهور الشديد لجودة الصورة، إلى المستوى الذي نتوقع أن يكون فيه أداء المهمة ضعيفاً للغاية وغالباً ما يتجاوز تلك النقطة التي يتعذر فيها تشخيص الصور من قبل أخصائي الأشعة البشري.
على مدى السنوات القليلة الماضية، كان الباحثون يعملون على فضح تحيز الذكاء الاصطناعي، وتحديداً ذلك المستخدم في المجال الطبي، واستطاعوا بذلك تحديد جذور المشكلة.
وجدت إحدى الدراسات الحديثة، التي أجريت في عام 2019، خوارزمية تستخدمها المستشفيات في الولايات المتحدة لتحديد المرضى الذين يعانون من أمراض مزمنة لديها تحيز كبير ضد السود.
نصح الذكاء الاصطناعي، الذي تبيعه شركة Optum الصحية، الأطباء بشكل غير متناسب بإعطاء المزيد من الرعاية للأشخاص البيض حتى عندما كان المرضى السود أكثر مرضاً.
وقالوا أنّ الخوارزمية المصممة لمساعدة المرضى على متابعة تناول الأدوية أو الخروج من المستشفى لم تكن عنصرية عمداً لأنها استبعدت العرق على وجه التحديد في عملية صنع القرار.
بدلاً من استخدام المرض أو البيانات البيولوجية، تستخدم التكنولوجيا معلومات المطالبة بالتكلفة والتأمين للتنبؤ بمدى صحة الشخص.
وأشار علماء من جامعات شيكاغو وبوسطن وبيركلي إلى الخطأ في دراستهم، التي نشرت في مجلة Science، ويعملون مع Optum على إصلاحه.
