AiI بالعربي – متابعات
في حادثة أثارت الجدل في الأوساط التعليمية والتقنية، أخطأ نظام ذكاء اصطناعي مخصّص لمراقبة المدارس في الولايات المتحدة حين اعتقد أن طالبًا يحمل سلاحًا ناريًا، ليتبيّن لاحقًا أنه كان يمسك كيسًا من رقائق “دوريتوس”.
الذكاء الاصطناعي يُطلق إنذارًا خاطئًا
وقع الحادث في مدرسة “كينوود الثانوية” بمقاطعة بالتيمور، عندما التقطت كاميرات المراقبة صورة للطالب “تاكي ألين” بينما كان يتناول وجبته الخفيفة في ساحة المدرسة. النظام، الذي يعتمد على خوارزميات التعرّف البصري، فسّر حركة يده وكيس “دوريتوس” على أنها سلاح ناري، ما دفع الشرطة إلى التدخل فورًا.
وقال الطالب لقناة WBAL-TV 11 News: “لم أفهم ما يحدث في البداية، رأيت رجال الشرطة يقتربون ويطلبون مني الانبطاح أرضًا”. وأضاف أن الضباط وضعوا الأصفاد في يديه وفتشوه قبل أن يُظهروا له الصورة التي تسببت بالخطأ.
توضيح الشرطة واعتذار المدرسة
أكدت شرطة مقاطعة بالتيمور أن عناصرها استجابوا لبلاغ صادر عن النظام الذكي يفيد بوجود شخص مشتبه بحيازته سلاحًا داخل المدرسة. وبعد التحقيق، تبيّن أن الطالب لم يحمل أي نوع من الأسلحة، وأن الصورة التي التقطها النظام كانت مضللة.
وأرسلت إدارة المدرسة رسالة إلى أولياء الأمور قدّمت فيها اعتذارها عن الحادث، مشيرة إلى أن المستشارين النفسيين سيوفّرون الدعم اللازم للطلبة المتأثرين.
وقالت الإدارة: “ندرك مدى الإزعاج الذي سببه الموقف للطالب وزملائه، ونعمل على مراجعة أداء النظام لضمان عدم تكرار ذلك”.
نظام المراقبة الذكي قيد المراجعة
بدأت مدارس بالتيمور العام الماضي باستخدام نظام ذكاء اصطناعي لتحليل صور كاميرات المراقبة واكتشاف الأسلحة بشكل فوري. يرسل النظام تنبيهات مباشرة لإدارة المدرسة والشرطة عند رصد أي حركة مريبة، إلا أن هذه الحادثة كشفت عن مخاطر الاعتماد المفرط على التقنية دون رقابة بشرية دقيقة.
خبراء الأمن السيبراني يرون أن مثل هذه الأخطاء قد تتكرر في حال لم تُطوّر الخوارزميات بشكل يجعلها تفرّق بين العناصر الحقيقية والمظاهر المتشابهة.
وأشاروا إلى أن الذكاء الاصطناعي لا يزال بحاجة إلى إشراف بشري مستمر لتجنّب قرارات خاطئة قد تؤدي إلى مواقف حساسة كالتي شهدتها مدرسة بالتيمور.
حادثة تُثير أسئلة حول دقّة الذكاء الاصطناعي
أعادت الواقعة النقاش حول مدى موثوقية تقنيات الذكاء الاصطناعي في البيئات الحساسة مثل المدارس والمطارات والمستشفيات. ويرى مراقبون أن الخطأ الذي جعل “دوريتوس” يبدو كسلاح ناري قد يكون بسيطًا تقنيًا، لكنه مؤثرًا نفسيًا واجتماعيًا، خصوصًا عندما يؤدي إلى تدخل أمني مباشر مع الطلاب.
