هل يقدم الذكاء الاصطناعي معلومات صحية مضللة

من الضروري فحص المخاطر بعناية عند استخدام أدوات النمذجة اللغوية لتحسين الوصول إلى المعلومات الصحية.

15

AI بالعربي – متابعات 

أوصت منظمة الصحة العالمية بتوخي الحذر عند استخدام تطبيقات الذكاء الاصطناعي في استشارات الرعاية الصحية العامة، قائلة إن البيانات التي يستخدمها الذكاء الاصطناعي للتوصل إلى قرارات قد تتسم بالتحيز أو يساء استخدامها.

وشددت المنظمة التابعة للأمم المتحدة على أن “من الضروري” أن نقيم مخاطر استخدام أدوات لنماذج لغوية كبيرة مثل “تشات جي.بي.تي” المطور من قبل شركة “أوبن أي.آي” و”بارد” التابع لغوغل والعديد من المنصات الأخرى التي تقلد فهم التواصل البشري ومعالجته وإنتاجه، وذلك لحماية وتعزيز الرعاية البشرية والحفاظ على الصحة العامة.

ويثير الانتشار الصاروخي لهذه المنصات في أوساط العامة واستخدامها التجريبي المتزايد للأغراض المتعلقة بالصحة اهتماما كبيرا حول إمكانية الاستفادة منها لدعم الاحتياجات الصحية للناس.

ومن الضروري فحص المخاطر بعناية عند استخدام أدوات النمذجة اللغوية لتحسين الوصول إلى المعلومات الصحية، كأداة لدعم اتخاذ القرار، أو حتى لتعزيز القدرة التشخيصية في البيئات التي تعاني من نقص الموارد لحماية صحة الناس والحد من عدم المساواة.

وفي حين تبدي المنظمة حماسا للاستخدام المناسب للتكنولوجيات، بما في ذلك أدوات النمذجة اللغوية، لدعم أخصائيي الرعاية الصحية والمرضى والباحثين والعلماء، فإن ثمة قلقا إزاء عدم التعامل مع أدوات النمذجة اللغوية بنفس المقدار من الحذر الذي يمارس عادة عند التعامل مع أي تكنولوجيا جديدة، ويشمل ذلك الالتزام واسع النطاق بالقيم الأساسية للشفافية والشمول ومشاركة الجمهور وإشراف الخبراء والتقييم الصارم.

ويمكن أن يؤدي التبني السريع للأنظمة غير المجرّبة إلى أخطاء من جانب العاملين في مجال الرعاية الصحية، وإلحاق الضرر بالمرضى، وتآكل الثقة في الذكاء الاصطناعي، وبالتالي تقويض أو تأخير الفوائد والاستخدامات المحتملة على المدى الطويل لهذه التكنولوجيات في جميع أنحاء العالم.

وكشفت منظمة الصحة العالمية أنها متحمسة لإمكانيات الذكاء الاصطناعي، ولكن لديها مخاوف حول كيفية استخدامه لتحسين الوصول إلى المعلومات الصحية بصفته أداة لدعم اتخاذ القرار ولتحسين الرعاية التشخيصية.

وقالت في بيان إن البيانات المستخدمة في تدريب الذكاء الاصطناعي قد تكون متحيزة وتعطي معلومات مضللة أو غير دقيقة ويمكن إساءة استخدام النماذج لتوليد معلومات مغلوطة.

وتتيح المراقبة الطبية عن بعد لمهنيي الطب إمكانية التفسير عن بعد للمعطيات الطبية الضرورية لتتبع حالة المريض وذلك باستخدام الوسائط الإلكترونية، وفقا لمنظمة الصحة العالمية.

ويزود الذكاء الاصطناعي، باعتماد خوارزميات معقدة، المهنيين العاملين في القطاع الصحي مثل الصحة المجتمعية والصيدلة والتمريض والقابلات، بأدوات تدعم اتخاذ القرارات في الفحوص السريرية، وهي مهارات تعاني نقصا في الكفاءات البشرية.

وتشهد خدمات الصحة الرقمية، بعدما عززت أزمة كورونا انتشارها، استشارات عن بعد وتطبيقات متابعة المرضى عبر الإنترنت واستخدام الذكاء الاصطناعي في مجال التشخيص.

وحقق الذكاء الاصطناعي تقدما كبيرا في المجال الصحي، حيث مكنت التقنيات من تسهيل معالجة إشكاليات كثيرة تتعلق بملء استمارات التسجيل ونشوب الخصومات في مكاتب الاستقبال، فضلا عن تطوير منظومة الرعاية الصحية بكيفية أكثر فاعلية وذات جدوى للكشف عن الأمراض، إضافة إلى تطور الروبوتات التي باتت تقوم بالعمليات الجراحية والتشخيص الدقيق.

وأحرز الذكاء الاصطناعي خلال السنوات الأخيرة الماضية تقدما كبيرا، حيث تبدي المؤشرات أنه وصل بالفعل إلى مرحلة تمكنه من تقديم حلول حقيقية لمشاكل الرعاية الصحية، الأمر الذي ينبئ بثورة طبية على القواعد القديمة السائدة.

وتتمحور قضايا تقنيات الذكاء الاصطناعي أساسا حول محاكاة القدرات البشرية مثل التفكير المنطقي والتعلم، وحول مسألة ما إذا كان يتفوق في قدرته على تحليل البيانات الضخمة والتوصل إلى استنتاجات علمية دقيقة خلال فترات قياسية.

وتتعدد استخدامات الذكاء الاصطناعي في قطاع الرعاية الصحية، بدءا من التشخيص وتطوير العقاقير وصولا إلى إدارة سير العمل بالمستشفيات.

إلا أن تحذير منظمة الصحة العالمية يأتي في الوقت الذي يزيد فيه الإقبال على تطبيقات الذكاء الاصطناعي، مما يسلط الضوء على تقنية قد تغير طريقة عمل الشركات والمجتمع.

فقد أثارت قدرة برامج من نوع “تشات جي.بي.تي” على محاكاة المحادثة البشرية، مخاوف في عدد من القطاعات في الآونة الأخيرة، ونبّه البيت الأبيض مسؤولي شركات التكنولوجيا الأميركية العملاقة إلى مسؤوليتهم “الأخلاقية” لحماية المستخدمين من المخاطر الاجتماعية المحتملة للذكاء الاصطناعي.

وتكرر المنظمة العالمية التأكيد على أهمية غرس المبادئ الأخلاقية وإجراءات الحوكمة المناسبة، على النحو المبين في تقريرها بشأن أخلاقيات وحوكمة الذكاء الاصطناعي من أجل الصحة، في تصميم وتطوير ونشر تطبيقات الذكاء الاصطناعي من أجل الصحة.

وتشمل المبادئ الأساسية الستة التي حددتها المنظمة: حماية الاستقلالية، تعزيز رفاه الإنسان وسلامته وتقديم المصلحة العامة، ضمان الشفافية وقابلية التفسير والوضوح، تعزيز المسؤولية والمساءلة، ضمان الشمول والإنصاف وتعزيز تطبيقات الذكاء الاصطناعي المتجاوبة والمستدامة.

وفي تقرير عالمي سابق للمنظمة، قال د. تيدروس أدهانوم غيبرييسوس، مدير عام منظمة الصحة العالمية، “مثل كل التقنيات الجديدة، يمتلك الذكاء الاصطناعي إمكانات هائلة لتحسين صحة الملايين من الأشخاص حول العالم، ولكن مثل جميع التقنيات، يمكن أيضا إساءة استخدامه والتسبب في ضرر”.

وأضاف أن التقرير الجديد والمهم الذي صدر في الخامس عشر من مايو يوفر دليلا قيّما للبلدان حول كيفية مضاعفة فوائد الذكاء الاصطناعي، مع تقليل وتجنب مخاطره، بحسب الأمم المتحدة.

المصدر: العرب

اترك رد

Your email address will not be published.