ثغرات أدوات الذكاء الاصطناعي تعرض ذوي البشرة السمراء للدهس بسيارات ذاتية القيادة

AI بالعربي – متابعات

كشفت باحثة في الذكاء الاصطناعي أن ذوي البشرة السمراء تم إقصاءهم من البيانات التي جرى تدريب الذكاء الاصطناعي عليها لاستخدامها في السيارات ذاتية القيادة مما تسبب بحوادث دهس لأشخاص من ذوي البشرة السمراء، وذلك لأن هيئة المشاة الذين يقطعون الطريق في البيانات التي تم تدريب البرنامج عليها، هي دوما من البيض وتخلو من ذوي البشرة السمراء والأقليات الأخرى.

كما أظهرت الباحثة جوي بولمويني، وهي مؤسس منظمة لمواجهة التحيز الخوارزمي في أنظمة الذكاء الاصطناعي، أن الروبوتات في مختبر زارته لم تتعرف على وجودها كليا لأنها سمراء البشرة، مما اضطرها لارتداء قناع أبيض للتعامل مع تلك الروبوتات بحسب تقرير لجامعة ماساتشوستسوتلفت جوي إلى اعتماد أنظمة التعرف على الوجه على بيانات تركز على الرجل الأبيض لدى الشرطة الأمريكية مما يضع ذوي البشرة السمراء في مواقف خطرة لأن البرامج ستحددهم على أنهم يثيرون الشبهة دائما.

<img decoding="async" width="1024" height="695" src="https://arabic.arabianbusiness.com/cloud/2023/03/03/9-1024x695.jpg" alt="" class="wp-image-603576 lazyload" srcset="https://arabic.arabianbusiness.com/cloud/2023/03/03/9-1000x679.jpg 1000w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-1024x695.jpg 1024w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-768x521.jpg 768w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-1536x1042.jpg 1536w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-2048x1390.jpg 2048w, https://arabic.arabianbusiness.com/cloud/2023/03/03/Q93pKPWg-9-1200x900.jpg 1200w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-400x271.jpg 400w, https://arabic.arabianbusiness.com/cloud/2023/03/03/9-1568x1064.jpg 1568w" sizes="(max-width: 1024px) 100vw, 1024px" />

وقام جون أوليفر وهو كوميدي يقدم برنامجا ساخرا مؤخرا -لاست ويك تونايت– بلفت النظر إلى ما يسمى الصندوق الأسود في الذكاء الاصطناعي، ويراد به غموض النتائج الغريبة التي يقدمها دون تبرير منطقي أحيانا والتي تشي بخفايا البيانات التي تدربت عليها أدوات الذكاء الاصطناعي مع تقديمها نتائج متحيزة وعنصرية تكرر من خلالها أسوأ ما في الانترنت من محتوى ضار وخطير، والتي تغلب القيود التي يضعها المبرمجون للبرامج لمنع التحيز.

دعا أوليفر إلى معالجة مشكلة الصندوق الأسود ، حيث “يجب أن تكون أنظمة الذكاء الاصطناعي قابلة للتفسير ، مما يعني أننا يجب أن نكون قادرين على فهم بالضبط كيف ولماذا يقدم الذكاء الاصطناعي إجاباته تلك.” الأمر الذي قد يتطلب فرض الشفافية على شركات الذكاء الاصطناعي ؛ وأشار إلى إرشادات الاتحاد الأوروبي التي تعمل على تصنيف مخاطر برامج الذكاء الاصطناعي المختلفة ، والتي تبدو “بداية جيدة” لمعالجة المخاطر المحتملة المرتبطة بالذكاء الاصطناعي. فهناك أدوات خطيرة وحيوية مثل تلك التي يترتب عليها خطر الموت، أو حتى التوظيف، في أدوات الذكاء الاصطناعي.

واختتم قائلاً: ” يتمتع الذكاء الاصطناعي بإمكانات هائلة ويمكنه القيام بأشياء عظيمة”. “ولكن إذا كان أي شيء مثل معظم التطورات التكنولوجية على مدى القرون القليلة الماضية ، وما لم نتوخى الحذر الشديد ، فقد يؤذي أيضًا المحرومين ، ويثري الأقوياء ويوسع الفجوة بينهم.”

Related Posts

الذكاء الاصطناعي في التعليم

AI بالعربي – متابعات يملك الذكاء الاصطناعي القدرة على إحداث ثورة في مجال التعليم. ويمكن للتقنيات المدعومة بالذكاء الاصطناعي تحسين عمليات التدريس والتعلم، وتخصيص التجارب التعليمية، وتحسين النتائج التعليمية. ستستكشف…

تطوير خوارزمية جديدة لاكتشاف المقالات العلمية المزيفة بواسطة الذكاء الاصطناعي

AI بالعربي – متابعات لا شك بأن الذكاء الاصطناعي التوليدي مثل “تشات جي بي تي” قادر على إنشاء مقالات علمية تبدو حقيقية بشكل مقنع، لدرجة أنه بات التمييز بين الأوراق…

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

You Missed

دراسة تحذّر: الذكاء الاصطناعي يروّج لمعلومات طبية مضللة وخطيرة

  • من admin
  • يوليو 1, 2025
  • 17 views
دراسة تحذّر: الذكاء الاصطناعي يروّج لمعلومات طبية مضللة وخطيرة

“دليل الذكاء الاصطناعي.. أدوات إدارة المشاريع” إصدار جديد من “AI بالعربي”

  • من admin
  • يوليو 1, 2025
  • 23 views
“دليل الذكاء الاصطناعي.. أدوات إدارة المشاريع” إصدار جديد من “AI بالعربي”

صحافيون مزيفون من صنع الذكاء الاصطناعي يكتبون لمجلات إلكترونية شهيرة

  • من admin
  • يوليو 1, 2025
  • 20 views
صحافيون مزيفون من صنع الذكاء الاصطناعي يكتبون لمجلات إلكترونية شهيرة

جوجل تُعزز التعليم بالذكاء الاصطناعي وتُتيح “NotebookLM” للطلاب المراهقين

  • من admin
  • يوليو 1, 2025
  • 25 views
جوجل تُعزز التعليم بالذكاء الاصطناعي وتُتيح “NotebookLM” للطلاب المراهقين

المفوضية الأوروبية تعلن مشروعًا ضخمًا لتطوير مصانع الذكاء الاصطناعي بقيمة 200 مليار يورو

  • من admin
  • يوليو 1, 2025
  • 27 views
المفوضية الأوروبية تعلن مشروعًا ضخمًا لتطوير مصانع الذكاء الاصطناعي بقيمة 200 مليار يورو

المربع الجديد يوقع مذكرة تفاهم لتعزيز الابتكار والتقنية الذكية

  • من admin
  • يونيو 30, 2025
  • 34 views
المربع الجديد يوقع مذكرة تفاهم لتعزيز الابتكار والتقنية الذكية