كيف يمكن لصناعة الطيران أن تجعل الذكاء الاصطناعي أكثر أمانًا؟

AI بالعربي – خاص

يتفق معظم الناس اليوم على أننا بحاجة إلى مزيد من التنظيم في صناعة الذكاء الاصطناعي، لكننا بعيدون عن الإجماع على الشكل الذي يجب أن تبدو عليه هذه التغييرات. مع استمرار شركات التكنولوجيا وجماعات الضغط والمسؤليين الحكوميين في دفع رؤاهم المتباينة لتنظيم الذكاء الاصطناعي، دعونا نبحث عن الإلهام في صناعة حرجة وجيدة التنظيم وحاسمة للسلامة: الطيران.

حان الوقت لأن نعتبر صناعة الذكاء الاصطناعي صناعة حرجة للسلامة.
ما هي التغييرات التي يمكن إجراؤها في هذه الصناعة عالية المخاطر لحماية الناس من الضرر المحتمل مع السماح لابتكار الذكاء الاصطناعي بالاستقرار والازدهار؟ يمكن للمشرعين ومطوري الذكاء الاصطناعي التطلع إلى السماء والتعلم من صناعة الطيران.

التعلم من صناعة الطيران: إصلاحات الذكاء الاصطناعي

على مر العقود، طورت صناعة الطيران لوائح وإجراءات تشغيل معيارية وتراخيص وشهادات وبرامج تدريب تعمل على تحسين التواصل والعمل الجماعي في سيناريوهات عالية الضغط. العديد من هذه الابتكارات، للأسف، جاءت كرد فعل على الحوادث الكارثية والمآسي الإنسانية. عالجت صناعة الطيران أيضًا مخاطرها العالية من خلال تعزيز ثقافة التعلم من الأخطاء وطلب المساعدة والاستماع إلى التعليقات.

يمكننا أن نجعل الذكاء الاصطناعي أكثر أمانًا من خلال تنفيذ إصلاحات مماثلة وتطوير ثقافة مماثلة: ثقافة ذكاء اصطناعي مسؤولة حيث يكون من المعتاد مشاركة المعلومات المفيدة حول الإخفاقات والأخطاء. بدلًا من انتظار كوارث جديدة للذكاء الاصطناعي لتفاجئنا، لدينا الفرصة الآن للتعلم من كوارث الماضي من خلال تنفيذ هذه الإصلاحات الثلاثة: برامج تدريب شاملة، والتنظيم والتوحيد، وثقافة مشاركة معلومات السلامة.

1- برامج تدريبية شاملة

في رحلة تجارية عام 1978 من دنفر، حدث انهيار في الاتصال في قمرة القيادة ولم يتواصل طاقم الطائرة مع الطيار بشأن نفاد الوقود. في النهاية، نفد الغاز من الطائرة وتحطمت في إحدى ضواحي بورتلاند، مما أسفر عن مقتل 10 أشخاص. في ذلك الوقت في صناعة الطيران، لم تكن هناك أنظمة قائمة حتى الآن للتأكد من أن جميع أفراد الطاقم لديهم صوت قوي بما يكفي في حالات الطوارئ.

ألهمت هذه الكارثة وانهيار الاتصالات وراءها إنشاء مجموعة واسعة من إجراءات التدريب المعروفة باسم تدريب إدارة موارد الطاقم (CRM). تم بناء CRM على اكتشاف أن معظم المشاكل التي تواجه أطقم الطيران لا تتضمن في الواقع الجوانب الفنية لتشغيل قمرة القيادة ولكن بالأحرى الوعي الظرفي واتخاذ القرارات الجماعية والقيادة. وفقًا لذلك، تستهدف إدارة علاقات العملاء المهارات المعرفية والشخصية التي يحتاجها الأشخاص لاستخدام جميع الموارد المتاحة بأمان وكفاءة.

بشكل حاسم، يمثل CRM أيضًا الاختلافات الرئيسية في الثقافات الوطنية في مجالات مثل الجماعية وتجنب عدم اليقين ومسافة القوة. مسافة القوة (PD)، على سبيل المثال، هي مقياس القوة بين الرئيس والمرؤوسين. في ثقافات PD عالية، يتجنب المرؤوسون الاقتراب من رؤسائهم مباشرة ويترددون في الاختلاف معهم. إن عوامل مثل هذه تشكل الديناميكيات الاجتماعية في قمرة القيادة، ويساعد CRM في موازنة هذه الأنواع من الاختلافات الثقافية. اليوم، يتم التعرف على أهمية CRM في جميع أنحاء العالم وهو مطلب لجميع أفراد طاقم الرحلة في مراحل مختلفة من حياتهم المهنية.

ومثل أعضاء طاقم الطائرة، غالبًا ما يعمل متخصصو الذكاء الاصطناعي في سيناريوهات حرجة تتعلق بالسلامة جنبًا إلى جنب مع أشخاص من خلفيات ثقافية متنوعة. دعونا لا ننتظر مأساة تدفعنا للتركيز على التواصل والعمل الجماعي بين فرق الذكاء الاصطناعي. يوفر نظام إدارة علاقات العملاء (CRM) الخاص بصناعة الطيران مصدر إلهام لتطوير إجراءات تدريب قياسية وشاملة خاصة بنا.

2- التنظيم والتوحيد

بينما تساعد صناعة الطيران في الحفاظ على سلامة الناس من خلال التعامل مع المهارات الشخصية من خلال تدريب CRM، فإنها تتناول الجوانب الفنية والتشغيلية للتجارة من خلال مجموعة من التدابير التنظيمية والعمليات الموحدة. تراخيص وشهادات FAA المعترف بها رسميًا، على سبيل المثال، مطلوبة للعديد من الأدوار في جميع أنحاء تجارة الطيران، مع تراخيص مختلفة مطلوبة اعتمادًا على ما إذا كنت تقوم ببناء وصيانة تكنولوجيا الطيران (يحتاج الفنيون إلى شهادة ميكانيكي طيران) أو تشغيلها (يحتاج الطيارون إلى إعادة تأهيل منتظمة).

تلتزم صناعة الطيران أيضًا بالعديد من العمليات مثل إجراءات التشغيل القياسية وقوائم المراجعة الرسمية. تعمل هذه الإرشادات المشتركة على تقليل الأخطاء من خلال تعزيز الاتساق والموثوقية.

سيؤدي تطبيق المتطلبات التنظيمية المماثلة والعمليات الموحدة في جميع أنحاء صناعة الذكاء الاصطناعي إلى تحسين السلامة بطريقة مماثلة. دعنا نفكر في شهادات وتراخيص الذكاء الاصطناعي الجديدة، المفوضة والمعترف بها على مستوى الصناعة ، مع تراخيص مختلفة مطلوبة اعتمادًا على ما إذا كنت تبني وتحافظ على تقنية الذكاء الاصطناعي (الباحثون والمهندسون الذين يصنعون النماذج والخوارزميات) أو تشغلها (المسؤولون الحكوميون وقادة الشركات الذين يستخدمون هذا الذكاء الاصطناعي).

لننظر أيضًا في الإجراءات في الذكاء الاصطناعي اليوم والتي يمكن توحيدها واعتمادها على نطاق واسع. بعض الجهود جارية بالفعل نحو ذلك: تتضمن موارد الذكاء الاصطناعي المسؤولة من Microsoft القوالب وقوائم المراجعة والسياسات، بينما تساعد مجموعة أدوات AI Fairness 360 من IBM وأداة What-If من Google المطورين على اكتشاف وتقييم التحيز في التعليمات البرمجية الخاصة بهم. بينما نعمل على تبني مبادئ وعمليات أكثر اتساقًا في الذكاء الاصطناعي، يُقدم الطيران إرشادات للسماح لصناعة الذكاء الاصطناعي بالازدهار بأمان.
3- ثقافة تبادل معلومات السلامة

أخيرًا، بالإضافة إلى تطوير برامج وأنظمة التدريب، استجابت صناعة الطيران أيضًا للمخاطر العالية من خلال تنمية ثقافة مشاركة معلومات السلامة ذات الصلة والاستماع إلى التعليقات. لا تسمح الحاجة الكبيرة للحفاظ على سلامة الناس بحجب المعلومات أو إخفاء الأخطاء أو معاقبة الأخطاء. من منطلق المسؤولية المشتركة لحماية مستخدميها، تقوم مؤسسات الطيران والمهنيون بدلاً من ذلك بمشاركة المعلومات حول الأخطاء والإخفاقات التي من شأنها أن تساعد في منع وقوع الحوادث في المستقبل.

على سبيل المثال، يمكن لموظفي الطيران الإبلاغ طوعًا عن حوادث ومواقف السلامة إلى قاعدة بيانات سرية. يمكن لصناعة الذكاء الاصطناعي تنفيذ قواعد بيانات قابلة للمقارنة للإبلاغ عن المشكلات المتعلقة بالتفاعل بين الإنسان والذكاء الاصطناعي. ستعمل قاعدة البيانات السرية لمحترفي الذكاء الاصطناعي كمساحة آمنة لإثارة المخاوف الأخلاقية، ويمكن لقاعدة بيانات منفصلة جمع التعليقات من المستخدمين وغيرهم من المتأثرين بتكنولوجيا الذكاء الاصطناعي.

يقول براد سميث، رئيس Microsoft، “عندما تغير تقنيتك العالم، فإنك تتحمل مسؤولية المساعدة في التعامل مع العالم الذي ساعدت في إنشائه”، تحملت صناعة الطيران هذه المسؤولية الجسيمة من خلال الدروس المستفادة، والدروس التي يمكن أن تتعلمها صناعة الذكاء الاصطناعي وهي تأخذ دورها في إعادة تشكيل العالم.