منظمات حقوق الإنسان تطالب Zoom بإلغاء تتبع الذكاء الاصطناعي للمشاعر

كتبت منظمة الكفاح من أجل المستقبل، غير الهادفة للربح والحقوق الرقمية، و 27 منظمة حقوقية رسالة مفتوحة إلى Zoom، تطلب فيها من الشركة عدم الاستمرار في استكشاف استخدام الذكاء الاصطناعي الذي يمكنه تحليل المشاعر في منصة مؤتمرات الفيديو الخاصة بها.

كتبت المجموعات الرسالة ردًا على تقرير البروتوكول الذي قال إن Zoom يبحث بنشاط عن كيفية دمج عواطف الذكاء الاصطناعي في منتجها في المستقبل. إنه جزء من جزء أكبر يدرس كيف بدأت الشركات في استخدام الذكاء الاصطناعي لاكتشاف الحالة العاطفية للعميل المحتمل أثناء مكالمات البيع.

جعل الوباء مؤتمرات الفيديو أكثر شيوعًا حول العالم. كان موظفو المبيعات يجدون صعوبة في قياس مدى تقبل

العملاء المحتملين لمنتجاتهم وخدماتهم، على الرغم من ذلك، دون القدرة على قراءة لغة جسدهم من خلال الشاشة. بدأت الشركات في استخدام التكنولوجيا التي لديها القدرة على تحليل الحالة المزاجية للأشخاص أثناء المكالمات نتيجة لذلك، وقال بروتوكول إن Zoom لديها خطط لتقديم نفس الخدمة.

تأمل منظمات الكفاح من أجل المستقبل ومنظمات حقوق الإنسان الأخرى أن تضغط دعوتهم على زووم للتخلي عن خططها. وأطلقوا على هذه التقنية اسم “تمييزية، ومتلاعبة، ومن المحتمل أن تكون خطرة، وتستند إلى افتراضات مفادها أن جميع الأشخاص يستخدمون نفس تعابير

الوجه وأنماط الصوت ولغة الجسد”.

أشارت المجموعات أيضًا إلى أن التكنولوجيا متحيزة بطبيعتها وعنصرية ، تمامًا مثل التعرف على الوجه. من خلال دمج هذه الميزة، سيكون Zoom يميز ضد بعض الأعراق والأشخاص ذوي الإعاقة، على حد قولهم. بالإضافة إلى ذلك، يمكن استخدامه لمعاقبة الطلاب أو العمال إذا أظهروا المشاعر الخاطئة. في عام 2021، أظهر مشروع بقيادة أستاذة جامعة كامبريدج أليكسا هاجرتي حدود الذكاء الاصطناعي للتعرف على المشاعر ومدى سهولة خداعهم. أظهرت الدراسات السابقة أيضًا أن برامج التعرف على المشاعر تفشل في اختبار التحيز العنصري وتكافح لقراءة الوجوه السوداء.

أنهت المجموعة الخطاب بالإشارة إلى قرار Zoom بإلغاء طرح ميزات تتبع الوجه واستدعاء هذه فرصة أخرى لفعل ما هو صحيح من قبل مستخدميها. إنهم يطلبون الآن من Zoom الالتزام بعدم تطبيق الذكاء الاصطناعي العاطفي في منتجها بحلول 20 مايو 2022.