AI بالعربي – متابعات
في تطور يثير تساؤلات واسعة حول مستقبل التكنولوجيا الأكثر انتشارًا في العالم، حيث كشف تقرير نشرته “جارديان” عن مفارقة لافتة: العاملون في مجال الذكاء الاصطناعي أنفسهم يحذرون ذويهم من استخدام أدوات الذكاء الاصطناعي التي يشاركون في تطويرها أو تقييمها، بسبب انعدام الثقة في دقة الردود وآليات التحقق من صحة المخرجات.
المراجعة المباشرة تكشف الثغرات
تشير التفاصيل إلى أن المشاركين في التقرير يعملون بشكل مباشر في مراجعة نتائج النماذج وتقييمها، ما يجعلهم أكثر دراية بأخطاء الذكاء الاصطناعي وبالثغرات التي قد تمر مرور الكرام على المستخدمين العاديين. وتقول كريستا باولوسكي في حديثها مع ” جارديان”: “كنت على وشك تمرير رد من نموذج ذكاء اصطناعي دون أن أدرك أنه رد عنصري، وهذا جعلني أفكر في عدد المرات التي مررت فيها مثل هذه التعليقات من دون علم”. وتعمل باولوسكي ضمن القوى العاملة غير المنتظمة في منصة “أمازون ميكانيكال تورك” Amazon Mechanical” Turk”، وهي منصة تعتمد عليها شركات تطوير الذكاء الاصطناعي لتوظيف أفراد يقومون بتدقيق البيانات والمخرجات.
أمازون وجوجل.. منصة مفتوحة أم رقابة ناقصة؟
ورغم اعتماد الشركات الكبرى على هذه المنصة، تؤكد “أمازون” أن دورها يقتصر على توفير سوق مفتوح للمهام، دون إشراف مباشر على نوعية الأعمال أو طبيعة الاختبارات التي تُنفَّذ عبرها. وتنسحب التجربة ذاتها على “غوغل”، إذ يشير التقرير إلى أن تقييم الردود الصحية لنماذج الذكاء الاصطناعي الخاصة بالشركة يتم في كثير من الأحيان دون مراجعة نوعية كافية، وفق تصريحات أحد موظفي غوغل المشاركين في عمليات المراجعة.
ضغط العمل يضاعف الشكوك حول النماذج
توضح بروك هانسن، وهي من العاملين أيضًا عبر “أمازون ميكانيكال تورك”، أنها لا تثق في أي نموذج ذكاء اصطناعي تعمل عليه، والسبب، حسب وصفها، يعود إلى غياب التدريب الكافي، والضغط الشديد لإنجاز كميات كبيرة من التقييمات خلال فترات قصيرة، وهو ما يجعل جودة المراجعة نفسها موضع شك.
التحيّز في النماذج.. وقصص حقيقية من جوجل
كما يروي أحد موظفي جوجل مثالًا واضحًا على التحيّز الذي تعاني منه النماذج، إذ أشار إلى أن نموذجًا رفض الإجابة عن تاريخ الفلسطينيين، بينما قدم ردودًا موسّعة عند السؤال عن تاريخ إسرائيل، وهو ما دفعه إلى التوقف تمامًا عن استخدام روبوتات الدردشة وتحذير عائلته وأصدقائه من الاعتماد على هذه الأدوات أو شراء الأجهزة المدمجة بها.
أزمة جودة البيانات.. التحدي الأكبر
وتعكس هذه الشهادات أزمة أعمق في طريقة بناء نماذج الذكاء الاصطناعي، حيث تركز الشركات على جمع أكبر قدر ممكن من البيانات لتسريع التطوير، بينما يتم إهمال جودة هذه البيانات أو تحيّزها أو عدم اكتمالها.
وتشير هذه المخاوف إلى ضرورة وضع آليات مراجعة أكثر صرامة، وتدريب العاملين بشكل أفضل، وضمان اعتماد النماذج على بيانات دقيقة ومتوازنة قبل تعميمها على المستخدمين حول العالم.
