AI بالعربي – متابعات

نجح باحثون من جامعة “نورث إيسترن” ومعهد “ماساتشوستس” وشركة “آي بي إم” بتطوير ابتكارًا مبهرًا يتفوق على الآلة، حيث يمنح من يرتديه القدرة على خداع الذكاء الاصطناعي ويتخفى من أنظمة المراقبة الذكية، والغريب أن هذا الابتكار ليس جهازاً تقنياً وإنما “تي شيرت بسيط” أبيض اللون مع رقعة مربعة الشكل ملونة مطبوعة على الواجهة الأمامية.

وبحسب مواقع تقنية متخصصة، فإن اختبار هذا الـ “تي شيرت” جرى مع برنامج YOLO وهو برنامج مفتوح المصدر يمكن لأي أحد تنزيله واختباره، حيث تم إجراء الاختبار على شخصين يسيران معاً أحدهما يرتدي لباساً أسود والثاني يرتدي هذا الـ “تي شيرت” الأبيض وكانت النتيجة أن البرنامج فشل في التعرف على الشخص الثاني ولم يستطع رؤية إلا شخص واحد خلال مقطع الفيديو بكامله وهو الرجل صاحب الزي الأسود أما صاحب القميص الأبيض فبدا وكأنه جزء من الخلفية لا وجود له، ونظراً لأن جميع هذه البرامج تتشابه في آليه عملها إلى حد كبير، فمن المحتمل جدًا أن تواجه مشكلة في رؤية الـ “تي شيرت” ومن يرتديه.

كيف يمكن لـ”تي شيرت” أبيض أن يضلل الذكاء الاصطناعي بهذه البساطة؟

تتعرف الآلة على الأشخاص و الأشياء على أنهم وحدات بكسل (مجموعة من النقاط تم تدريب الآلة على تفسيرها) ومن خلال هذه الوحدات تستطيع الآلة تحديد ماهية الكائن وتصنيفه إلى جماد أم بشر.

ولأن الذكاء الاصطناعي يعتمد على رسم إطار على شكل مربع حول الكائن ثم يقوم بتصنيفه، اعتمد الباحثون في ابتكارهم على طريقة ذكية لتجاوز أجهزة المراقبة فبدلاً من إحداث تغيير في منطقة الوجه عن طريق قناع أو نظارة أو غير ذلك، حددوا منطقة من الجسم لها القدرة أن تربك نظام التعرف على الوجه إذا تمت إضافة بعض وحدات البكسل إليها واستهدفوا هذه المنطقة لطباعة رقعة مربعة ملونة، أدى وجود هذه الرقعة إلى تشتيت الشبكة العصبية المسؤولة عن العملية وجعلها تركز على هذه الرقعة بدلاً من التركيز على منطقة الوجه وبالتالي لم تستطع رؤية أي كائن في الصورة.

الهدف من هذه التجربة هو تحسين الذكاء الاصطناعي وليس تضليله

ووفقًا لعدة بحوث علمية، فقد ساهمت تقنية التعرف على الوجه تستخدم كجزء من نظام الأمن العام في بعض البلدان حول العالم، في مكافحة الاتجار بالبشر وعودة المخطوفين وإيجاد الأطفال المفقودين وإلقاء القبض على المجرمين، فإذا وقع هذا الـ “تي شيرت” في أيدي من لديهم غايات غير أخلاقية فمن المؤكد أن الكوارث ستحدث، وحتى في حال استخدامه لغرض نبيل كحماية خصوصية الأفراد فإن من يرتدي هذا القميص سيكون في أي وقت عرضة لحادث قد يودي بحياته مع السيارات ذاتية القيادة التي لن تتمكن من رؤية أو التعرف على أي شخص يرتدي هذا القميص الأبيض القبيح.

ويعي أصحاب هذا الابتكار مدى خطورة أن يتوفر في عالمنا شيء من هذا القبيل، لذا أوضحوا دوافعهم، وكتبوا في الورقة البحثية “مع زيادة اعتمادنا على التكنولوجيا، ننسى أحياناً أنها من الممكن أن تفشل”، فبخلاف الابتكارات السابقة التي صُممت لخداع الذكاء الاصطناعي عمداً لم يكن الهدف من هذا الـ “تي شيرت” مساعدة الناس في تضليل الذكاء الاصطناعي و التلاعب به والتخفي من تقنيات التعرف على الوجه، وإنما الكشف عن مواطن الضعف التي يمكن الالتفاف حولها من قبل أصحاب الغايات غير النبيلة، ومساعدة الشركات وأنظمة المراقبة في إغلاق جميع الثغرات.