الذكاء الاصطناعي ومخاطر التحيز

في الوقت الذي تواجه فيه الولايات المتحدة ارتفاع معدلات جرائم العنف، كشفت مجموعة من علماء جامعة شيكاغو عن خوارزمية الشهر الماضي تفاخروا في بيان صحفي بقدرتها على التنبؤ بالجرائم «بدقة تبلغ 90%».

وتحدد الخوارزمية مواقع في المدن الكبرى ترى أن احتمالية وقوع جرائم بها مرتفعة، مثل جرائم القتل والسطو التي تحدث في أسبوع تال. ويستطيع البرنامج أيضا تقييم كيفية اختلاف عمل الشرطة عبر الأحياء في ثماني مدن رئيسية في الولايات المتحدة، منها شيكاغو ولوس أنجلوس وفيلادلفيا.

لكن استخدام الذكاء الاصطناعي في توجيه أجهزة إنفاذ القانون يدق ناقوس الخطر عند كثيرين من الباحثين في مجال العدالة الاجتماعية وعلماء الجريمة الذين يستشهدون بتاريخ طويل لهذه التكنولوجيا التي توحي، بغير إنصاف، بتعزيز الرقابة على الأشخاص من أصول أفريقية ولاتينية. وحتى أحد مؤلفي الدراسة يقر بمحدودية قدرة الخوارزمية على التنبؤ بالجريمة.

وذكر إيشانو تشاتوبادياي، الأستاذ في جامعة شيكاجو والباحث الرئيسي في الخوارزمية، أن «الماضي لا يخبرك أي شيء عن المستقبل. السؤال هو: إلى أي مدى يؤثر الماضي فعلياً على المستقبل؟ وإلى أي درجة تكون الأحداث عفوية أو عشوائية حقاً؟… قدرتنا على التنبؤ مقيدة بهذا».

ولطالما استخدمت الشرطة أي أداة متوافرة للتنبؤ بالجرائم. وقبل التقدم التكنولوجي، كان رجال الشرطة يجتمعون في غرف الاجتماعات ويحددون مواقع الجرائم على الخريطة، على أمل أن تساعدهم الخريطة في معرفة المكان الذي يجب عليهم التطلع إليه فيما بعد.

وعلى مدار الخمسة عشر عاماً الماضية، بدأت أكبر إدارات الشرطة في البلاد – مثل نيويورك ولوس أنجلوس وشيكاجو – في التفكير في وسائل لاستخدام الذكاء الاصطناعي ليس فقط في تحليل الجريمة بل للتنبؤ بها. ولجأوا في غالب الأحوال إلى شركات تحليل البيانات مثل «بريدبول PredPol» و«بالانتير Palantir» التي تصمم برامج تستطيع جهات إنفاذ القانون استخدامها للتنبؤ بالجرائم. ويتم إنشاء أدوات التنبؤ للشرطة من خلال إدخال بيانات – مثل تقارير الجرائم وسجلات الاعتقال وصور لوحات الترخيص – إلى خوارزمية يتم تصميمها لاستكشاف أنماط التنبؤ بمكان وزمان حدوث نوع معين من الجرائم في المستقبل.

وذكر فينسينت ساثرلاند، المدير المشارك لمركز العرق وعدم المساواة والقانون في جامعة نيويورك، أن جودة الخوارزميات تتعلق بجودة البيانات التي يتم تغذيتها بها، وهذا يمثل مشكلة بشكل خاص لسكان الولايات المتحدة. وأكد ساثرلاند أن بيانات الشرطة في الولايات المتحدة متحيزة تاريخياً. ورجال الشرطة يقومون على الأرجح بالقبض على شخص أو توجيه اتهامات له بارتكاب جريمة في الأحياء منخفضة الدخل التي غالبية سكانها من الملونين، وهي حقيقة لا تعكس بالضرورة مكان حدوث الجريمة بل المكان الذي يقضي فيه رجال الشرطة وقتهم.

وهذا يعني أن معظم مجموعات البيانات الخاصة بالنشاط الإجرامي تبالغ في تمثيل الملونين والأحياء منخفضة الدخل. وأضاف ساثرلاند أن إدخال هذه البيانات في خوارزمية يقودها إلى الإيحاء بوقوع نشاط إجرامي أكثر كثافة في تلك المناطق، مما يؤدي إلى إنشاء حلقة تغذية مرتجعة متحيزة عنصرياً واجتماعياً واقتصادياً. ومضى يقول: «لديك بيانات مصابة أو مشوبة ببعض التحيز، وهذا التحيز سيظهر على الجانب الآخر من التحليل.

لأن (الخوارزمية) تخرج لك، ما تضعه فيها». وفي عالم الواقع، تسببت برامج الشرطة التنبؤية في حدوث مشكلات كبيرة. ففي عام 2019، أوقفت إدارة شرطة لوس أنجلوس برنامجها للتنبؤ بالجرائم، المعروف باسم «ليزر LASER» الذي استخدم البيانات التاريخية للجريمة للتنبؤ بالنقاط النشطة للجريمة وأيضاً أوقفت العمل ببرنامج «بالانتير» لتعيين درجات المخاطر الجنائية للأشخاص، بعد أن أظهر تدقيق داخلي أنه أدى إلى جعل الشرطة تخضع الأشخاص من ذوي الأصول الأفريقية واللاتينية بغير عدل لمراقبة أشد. وذكر تشاتوبادياي أن فريقه أخذ في اعتباره الماضي المضطرب للخوارزميات أثناء تصميمه الخوارزمية الجديدة. وقسم فريق تشاتوبادياي، أثناء عملية تصميم الخوارزمية، المدن الكبرى إلى مربعات سكنية تبلغ مساحتها 1000 قدم مربع واستخدموا بيانات جرائم المدينة من السنوات الثلاث إلى الخمس الماضية لتدريبها.

وتشير الخوارزمية إلى مدى ارتفاع أو انخفاض احتمال حدوث جريمة في منطقة ما في وقت معين يصل إلى أسبوع مقبل. وللحد من التحيز، حذف الفريق بيانات جرائم مثل الاعتقالات الخاصة بتعاطي الماريجوانا أو التوقيف أثناء القيادة أو جرائم صغيرة أخرى، لأن الأبحاث تظهر أن الأشخاص من أصول أفريقية ولاتينية يكونون مستهدفين غالباً في مثل هذه الأنواع من الجرائم. وبدلاً من ذلك، أدخلوا للخوارزمية بيانات عن جرائم القتل والاعتداءات والعصابات، إلى جانب جرائم الاعتداء على الممتلكات مثل السطو المسلح وسرقة السيارات.

وأكد تشاتوبادياي أن الهدف الرئيسي من الدراسة هو استخدام الخوارزمية للتحقق من مدى تحيز الشرطة. وقارن فريقه بيانات الاعتقال في أحياء متفاوتة المستويات الاجتماعية والاقتصادية. ووجدوا أن الجريمة التي حدثت في المناطق الأكثر ثراء أدت إلى اعتقالات أكثر، بينما في الأحياء الفقيرة، لم يكن للجريمة التأثير نفسه دائماً، مما يدل على وجود تباين في إنفاذ القانون.

وذكر تشاتوبادياي أن هذه النتائج تساعد في تقديم دليل للأشخاص الذين يشكون من أن تطبيق القانون يتجاهل الأحياء الفقيرة في حالة ارتفاع جرائم العنف أو جرائم الاعتداء على الممتلكات. لكن أرفيند نارايانان، أستاذ علوم الكمبيوتر في جامعة برينستون، يرى أن ما نشر في الإعلام عن الدراسة لم يركز بشكل كاف على محاولة الدراسة التحقيق في تحيزات الشرطة وأسرف في التأكيد على مزاعم دقة الخوارزميات.

ويشير علماء في العدالة الجنائية وخبراء في الأمن والتكنولوجيا أنه حتى إذا كانت الخوارزمية دقيقة، فما زال بوسع سلطات إنفاذ القانون استغلالها في استهداف الملونين وسكان الأحياء الفقيرة لإخضاعهم لمراقبة بلا مسوغ. ويؤكد أندرو باباكريستوس، أستاذ علم الاجتماع في جامعة نورث وسترن، إن الشرطة حين تستعين بالخوارزميات لرسم خريطة للجريمة وتحليلها، فغالباً تخضع الملونين والأحياء منخفضة الدخل لرقابة أمنية أكبر. ومضى يقول إن الشرطة حين تتعرض لانتقادات بسبب رقابتها الشديدة في أحياء معينة، تستخدم غالبا البيانات لتسويغ ما تقوم به.

ويرى باباكريستوس أنه إذا تمكنت جماعات العمل المجتمعي من استخدام هذه الأدوات بدلاً من ذلك لمعرفة الأماكن التي تعزز فيها الخدمات الاجتماعية والمشاركة المجتمع وتعالج الجذور الاجتماعية للعنف، سيكون ذلك استخداماً أفضل للتكنولوجيا.