AI بالعربي – متابعات
أثارت حادثة اعتقال طالب أميركي في مدرسة “كينوود الثانوية” بمقاطعة بالتيمور بولاية ماريلاند جدلًا واسعًا، بعد أن أخطأ نظام المراقبة المعتمد على الذكاء الاصطناعي في التعرف على الأجسام، فظن أن الطالب يحمل سلاحًا ناريًا، بينما كان في الواقع ممسكًا بحقيبة طعام.
“الذكاء الاصطناعي” يخطئ في التعرف على حقيبة طعام
وبحسب تقرير نشره موقع “تيك كرانش” التقني، فقد رصد النظام الأمني المدعوم بالذكاء الاصطناعي صورة للطالب وهو يحمل حقيبة صغيرة، ففسرها على أنها سلاح، ما أدى إلى استدعاء شركة الأمن المتعاقدة مع المدرسة، التي سارعت باعتقال الطالب قبل التأكد من الواقعة.
شركة “أومني ليرت” تبرر الحادثة
وأوضحت شركة “أومني ليرت” (Omnilert) الأمنية المسؤولة عن منظومة اكتشاف الأسلحة باستخدام الذكاء الاصطناعي، أن النظام يعمل بالتوازي مع مراجعة بشرية للقطات، مؤكدة أن السلطات لا تُخطر إلا بعد مراجعة المقاطع يدويًا.
لكن بحسب مديرة المدرسة “كاتي سميث”، فقد تم إلغاء التنبيه من قِبل فريق الأمن، إلا أن مدير الموارد المدرسية لم يكن على علم بالأمر، ما جعل النظام يرسل إشعارًا للشرطة عن طريق الخطأ.
مخاوف من “الرقابة المفرطة” في المدارس الأميركية
تعكس هذه الحادثة الجدل الدائر في الولايات المتحدة حول استخدام أنظمة المراقبة المدعومة بالذكاء الاصطناعي في المدارس، وسط مخاوف من سوء الاستخدام أو الأخطاء التقنية التي قد تؤدي إلى مواقف خطيرة.
وتعد مقاطعة بالتيمور من أوائل المناطق التي اعتمدت منظومة “اكتشاف الأسلحة” بالذكاء الاصطناعي منذ عام 2023، حيث تعمل التقنية على تحليل الصور الواردة من كاميرات المراقبة لرصد أي أجسام يُشتبه بأنها أسلحة.
دعوات لمراجعة الأنظمة وضمان دقة القرارات
تزايدت الانتقادات الموجهة إلى شرطة بالتيمور وإدارة المدارس العامة بالمقاطعة بسبب ردة الفعل المفرطة تجاه الطالب، رغم عدم وجود تهديد حقيقي.
ودعا عضو مجلس المقاطعة “جوليان جونز” إلى مراجعة شاملة لتلك الأنظمة ووضع ضمانات تقنية وبشرية تمنع تكرار مثل هذه الأخطاء مستقبلًا، مؤكدًا ضرورة تحقيق توازن بين الأمان المدرسي وحقوق الطلاب.
