AI بالعربي – متابعات
في خطوة احترازية، أقدمت شركة جوجل على إزالة عدد من ملخصات المعلومات الصحية التي يولدها الذكاء الاصطناعي من نتائج البحث، عقب مخاوف من احتوائها على بيانات غير دقيقة قد تُربك المستخدمين وتؤثر سلبًا على قراراتهم الصحية.
وتعتمد هذه الملخصات، المعروفة باسم “AI Overviews”، على تقنيات الذكاء الاصطناعي التوليدي لتقديم إجابات سريعة ولمحات مختصرة أعلى نتائج البحث. وتؤكد جوجل أن هذه الميزة “مفيدة” و”موثوقة”، وتهدف إلى تسهيل وصول المستخدمين إلى المعلومات.
تحقيق يكشف معلومات مقلقة
غير أن تحقيقًا صحفيًا أظهر أن بعض هذه الملخصات، التي تتصدر نتائج البحث، قدّمت معلومات صحية غير دقيقة، ما قد يعرّض المستخدمين لمخاطر حقيقية، وفق ما نقلته صحيفة “غارديان”.
وفي إحدى الحالات التي وصفها خبراء بأنها “خطيرة” و”مقلقة”، قدّمت جوجل معلومات مغلوطة حول اختبارات أساسية لوظائف الكبد، وهو ما قد يدفع أشخاصًا يعانون من أمراض كبدية خطيرة إلى الاعتقاد خطأً بأن حالتهم الصحية طبيعية ولا تستدعي القلق.
أرقام بلا سياق طبي
وبيّن التحقيق أن إدخال عبارة “ما هو المعدل الطبيعي لفحوصات دم الكبد” في محرك البحث يؤدي إلى عرض أرقام عامة تفتقر إلى السياق الطبي الكافي، دون مراعاة عوامل مهمة مثل العمر أو الجنس أو الخلفية الصحية. وأشار خبراء إلى أن ما تصنّفه هذه الملخصات على أنه “طبيعي” قد يختلف كثيرًا عما هو معتمد طبيًا، ما قد يدفع بعض المرضى إلى إهمال المتابعة الطبية الضرورية.
جوجل تتحرك بعد الانتقادات
وعقب نشر التحقيق، أزالت جوجل ملخصات الذكاء الاصطناعي المرتبطة بعمليات البحث عن “المعدل الطبيعي لفحوصات دم الكبد” و”المعدل الطبيعي لاختبارات وظائف الكبد”.
وأوضح متحدث باسم الشركة أن جوجل لا تعلّق على حالات الإزالة الفردية، مشيرًا إلى أنه عند افتقار ملخصات الذكاء الاصطناعي إلى السياق الكافي، تعمل الشركة على تحسينات عامة وتتخذ الإجراءات اللازمة وفق سياساتها المعتمدة.
ترحيب وتحذير في آن واحد
من جانبها، وصفت فانيسا هيبدتش، مديرة الاتصالات والسياسات في “British Liver Trust”، هذه الخطوة بأنها “خبر ممتاز”، لكنها حذّرت من أن إعادة صياغة السؤال بطرق مختلفة قد تؤدي إلى ظهور ملخصات مضللة أخرى، معربة عن قلقها من دقة معلومات صحية أخرى ينتجها الذكاء الاصطناعي.
وأشار التحقيق إلى أن استخدام صيغ بحث مختلفة مثل “LFT reference range” أو “LFT test reference range” لا يزال يؤدي إلى ظهور ملخصات ذكاء اصطناعي مشابهة، وهو ما اعتبرته هيبدتش أمرًا مقلقًا.
طمأنة زائفة ومخاطر محتملة
وأوضحت هيبدتش أن فحص وظائف الكبد يتضمن مجموعة اختبارات دموية معقّدة، وأن تفسير نتائجه لا يعتمد فقط على مقارنة أرقام. وأضافت أن هذه الملخصات لا تحذّر من احتمال ظهور نتائج “طبيعية” رغم وجود مرض كبدي خطير، ما قد يخلق طمأنة زائفة شديدة الخطورة.
ولا تزال ملخصات الذكاء الاصطناعي تظهر في موضوعات صحية أخرى، من بينها معلومات متعلقة بالسرطان والصحة النفسية، وصفها خبراء بأنها “خاطئة تمامًا” و”شديدة الخطورة”.
وفي ردها على هذه الانتقادات، أكدت جوجل أن هذه الملخصات تستند إلى مصادر معروفة وموثوقة، وأنها تنبّه المستخدمين إلى ضرورة طلب المشورة الطبية المتخصصة عند الحاجة. وأضاف متحدث باسم الشركة أن فريقًا داخليًا من الأطباء راجع المحتوى ووجد أن المعلومات “غير غير دقيقة في كثير من الحالات” ومدعومة بمواقع عالية الجودة، مع استمرار العمل على تحسين التجربة وتقليل المخاطر المحتملة.
