AI بالعربي – متابعات
تواجه شركة أمنية متخصصة في أنظمة كشف الأسلحة بالذكاء الاصطناعي دعوى قضائية جديدة، بعد فشل نظامها في رصد مسدس استُخدم في حادث إطلاق نار داخل مدرسة ثانوية بمدينة ناشفيل في ولاية تينيسي الأميركية.
وقع الحادث في يناير 2025، وأسفر عن مقتل شخصين، أحدهما منفذ الهجوم. كما أصيب مراهق نجا من الحادث، قبل أن يرفع دعوى قضائية ضد شركة “Omnilert” المصنعة للنظام الأمني.
تفاصيل الدعوى القضائية
أقام المراهق الدعوى أمام محكمة مقاطعة ديفيدسون. واتهم الشركة بأنها كانت تعلم، أو كان يجب أن تعلم، بوجود قيود تشغيلية كبيرة في نظام كشف الأسلحة.
وتقول الدعوى إن هذه القيود قد تؤدي إلى فشل النظام خلال حالات الطوارئ الحقيقية. كما أشارت إلى أن الشركة لم توضح هذه المخاطر بصورة كافية قبل وقوع الحادث.
ما سبب فشل نظام الذكاء الاصطناعي؟
بحسب ما ورد في الدعوى، يعتمد أداء النظام على عدة عوامل مؤثرة. وتشمل هذه العوامل موقع الكاميرا، وزاوية التصوير، وقرب السلاح من الكاميرا، ومستوى الإضاءة، ومدى وضوح السلاح داخل الصورة.
وقال شون براستيد، المتحدث باسم منطقة مدارس ناشفيل العامة، عقب الحادث إن موقع منفذ الهجوم بالنسبة للكاميرات لم يسمح بالحصول على قراءة دقيقة. وأضاف أن الصور لم تكن قريبة بما يكفي لتفعيل الإنذار.
عقد أمني تجاوز مليون دولار
في عام 2023، وافق مجلس منطقة مدارس ناشفيل العامة على عقد تتجاوز قيمته مليون دولار. واستهدف العقد تركيب نظام كشف آلي للأسلحة يعتمد على الذكاء الاصطناعي.
وجرى ربط النظام بشبكة كاميرات المراقبة والبنية الأمنية في مدارس المنطقة. وكان الهدف منه تعزيز القدرة على رصد التهديدات مبكرًا داخل المنشآت التعليمية.
اتهامات بالمبالغة في التسويق
استندت الدعوى إلى نصوص تسويقية نشرتها الشركة على موقعها الإلكتروني قبل الحادث. وذكرت أن الشركة بالغت في تقديم قدرات النظام للجمهور والعملاء.
وبحسب الدعوى، قالت “Omnilert” في محتواها الدعائي إن نظامها البصري المدعوم بالذكاء الاصطناعي كان يمكن أن يخفف أو يمنع مأساة مدرسة مارجوري ستونمان دوغلاس الثانوية، عبر تحديد التهديدات في وقت مبكر.
وترى الدعوى أن هذا النوع من التسويق منح انطباعًا بأن النظام قادر على منع مآسٍ مشابهة. لكنها تؤكد أن الشركة لم تذكر بوضوح احتمالات الخطأ أو القيود الفنية قبل الحادث.
غياب التحذير من القيود الفنية
تشير الدعوى إلى أن موقع الشركة التجاري لم يتضمن قبل الواقعة شرحًا واضحًا للإنذارات الكاذبة أو الإيجابيات الخاطئة. كما لم يوضح الحدود التي قد تمنع النظام من كشف سلاح في ظروف معينة.
ويرى محامو المدعي أن فاعلية النظام داخل نطاق ضيق من الظروف تثير تساؤلات مهمة. فأنظمة الأمن المدرسي تحتاج إلى أداء مستقر في حالات الطوارئ، لا في الظروف المثالية فقط.
شكوك حول الاعتماد الكامل على الذكاء الاصطناعي
قال كريس سميث، أحد محامي المدعي، إن فكرة الاعتماد على الذكاء الاصطناعي لكشف الأسلحة كانت تثير شكوكه منذ البداية. وأوضح أن التقنية قد لا تكون جاهزة للاستخدام الحقيقي في بيئات شديدة الحساسية مثل المدارس.
وتساءل سميث عن جدوى الاعتماد على نظام غير مضمون لحماية الأطفال من حوادث إطلاق النار. كما قارن ذلك بأجهزة كشف المعادن، التي تقدم طريقة مباشرة لاكتشاف الأسلحة قبل دخولها إلى المدرسة.
هل يكفي التنبيه لمنع حوادث المدارس؟
قال ديفيد ريدمان، خبير التعليم والأمن، إنه لم يرَ حادث إطلاق نار مدرسيًا كان النقص الأساسي فيه هو غياب التنبيه. وتسلط هذه التصريحات الضوء على سؤال أوسع بشأن فعالية حلول الذكاء الاصطناعي في منع العنف المدرسي.
وتكشف القضية أن التكنولوجيا وحدها قد لا تكفي لحماية المدارس. فالأنظمة الذكية تحتاج إلى شفافية، واختبارات واقعية، وتكامل مع إجراءات أمنية واضحة.
ما أهمية هذه القضية؟
تفتح هذه الدعوى نقاشًا مهمًا حول مسؤولية الشركات التي تسوق أنظمة ذكاء اصطناعي للأمن العام. كما تطرح سؤالًا مباشرًا: هل تملك هذه الأنظمة قدرة فعلية على التعامل مع لحظات الخطر، أم أن الوعود التسويقية تسبق قدراتها الحقيقية؟
وتزداد أهمية القضية مع توسع المدارس والمؤسسات في استخدام الذكاء الاصطناعي لحماية المباني والطلاب. فكل خطأ في هذه الأنظمة قد يحمل نتائج خطيرة، خصوصًا عندما يرتبط الأمر بحياة الأطفال وسلامة المدارس.
