الذكاء الاصطناعي.. الرجل المُطيع تمامًا

جوتام موكوندا

نشأتُ وأنا أتابع مع والدي عظماء التنس في الماضي، ثم عدتُ لمتابعة اللعبة مؤخراً بفضل زوجتي، وهي من عشاق التنس المتحمسين في العائلة. وقد لاحظتُ أن النجوم الحاليين، رغم أنهم مدهشون، لا يضربون الإرسال بقوة كما كان يفعل “بيت سامبراس” أو “جوران إيفانيزيفيتش”. سألتُ ChatGPT عن السبب، فقدم لي إجابةً مبهرةً تشرح كيف تطورت اللعبة لتُفضل الدقة على القوة. لكن هناك مشكلة واحدة: لاعبو اليوم في الواقع يضربون إرسالاً أقوى من أي وقت مضى.

ورغم أن معظم الرؤساء التنفيذيين لا يمضون وقتَهم في سؤال الذكاء الاصطناعي عن التنس، فإنهم يعتمدون عليه في الغالب للحصول على المعلومات واتخاذ القرارات. وتميل النماذج اللغوية الكبيرة (LLMs) ليس فقط إلى ارتكاب الأخطاء، بل إلى تأكيد المعتقدات الخاطئة أو المتحيزة لدى المستخدمين، وهو ما يمثل خطراً حقيقياً على القادة.

لقد أعطاني ChatGPT معلوماتٍ غير دقيقة لأنه، مثل معظم النماذج اللغوية، يعمل كمتملق يخبر المستخدمين بما يظن أنهم يريدون سماعه. تذكّروا تحديث أبريل لـ ChatGPT، عندما أصبح يرد على سؤال مثل “لماذا السماء زرقاء؟” بجملة مثل: “يا له من سؤال عميق، لديك عقل رائع حقاً.. أنا أحبك”، حينها اضطرت شركة OpenAI للتراجع عن هذا التحديث لأنه جعل النموذجَ “مجاملاً أو متملقاً بشكل مفرط”.

ورغم أن ذلك خفف من التملق، إلا أنه لم يُلغِه تماماً، وذلك لأن رغبة النماذج اللغوية في إرضاء المستخدمين متأصلة في طريقة تدريبها، والمعروفة باسم “التعلم المعزز من ردود الفعل البشرية” (أو التعليم بوساطة التعزيز من الملاحظات البشرية) (RLHF).

في هذه الطريقة، يتم تدريب النموذج على توليد إجابات، ويقوم البشر بتقييم تلك الإجابات، ثم تُستخدم التقييمات لتحسين أداء النموذج.

المشكلة هي أن دماغ الإنسان يكافئه على شعوره بأنه محق، وليس على كونه محقاً بالفعل. لذا، يعطي الناس تقييمات أعلى للإجابات التي يوافقون عليها. ومع مرور الوقت، تتعلم نماذج الذكاء الاصطناعي اللغوية ما يريد الناس أن يسمعوه وتعيد تدويره إليهم. وهذا يفسر الخطأ في سؤالي عن التنس: سألتُ لماذا لم يعد اللاعبون يرسلون بنفس القوة كما في السابق. ولو كنتُ سألتُ العكس: لماذا أصبحت الإرسالات أقوى؟ لكان ChatGPT قد قدّم لي تفسيراً معقولا آخر.

هذه النزعة للتملق في النماذج اللغوية تمثل مشكلة للجميع، لكنها تُعد خطيرة بشكل خاص بالنسبة لقادة الشركات، فهم الأقل سماعاً للاختلاف في الرأي، والأكثر حاجة إليه. الرؤساء التنفيذيون اليوم يقلّصون فعلياً تَعرضَهم للآراء المخالفة، من “ميتا” إلى “جيه بي مورجان تشيس”، حيث يتم قمع التباين داخل الشركات، ويُحاط هؤلاء التنفيذيون الأقوياء بالحاشية التي تحرص على إرضائهم، فيكافئون مَن يُرضيهم ويعاقبون مَن لا يفعل.

لكن مكافأة المتملقين ومعاقبة الصادقين تُعد من أكبر الأخطاء التي يمكن أن يرتكبها قادة الأعمال، فالمديرون بحاجة لسماح أخطائهم. أظهرت “آمي إدموندسون”، التي تُعد أبرز العقول في علم سلوك المنظمات، أن العامل الأهم في نجاح الفِرق هو “السلامة النفسية”، أي القدرة على التعبير عن الخلاف، حتى مع رئيس الفريق، دون خوف من العقاب. وأكد مشروع “أرسطو” الشهير، من شركة جوجل، هذه النتيجة، حيث وجد أن “السلامة النفسية، أكثر من أي شيء آخر، كانت حاسمة لنجاح أي فريق”.

وأظهرت أبحاثي الشخصية أن سمة القادة العظماء، من أبراهام لنكولن إلى الجنرال ستانلي ماكريستال، هي قدرتهم على الاستماع إلى مَن يختلف معهم.

وتلحق نزعة التملق لدى الذكاء الاصطناعي الضررَ بالقادة على نحوين مترابطتين: أولًا، تعزز الميل البشري الطبيعي لمكافأة المديح ومعاقبة الاعتراض. فإذا كان حاسوبك يخبرك باستمرار أنك محق في كل شيء، فسيصعب عليك تقبل الاعتراض من موظف يعمل لديك. ثانياً، يمكن للذكاء الاصطناعي أن يقدم تبريراتٍ جاهزةً وتبدو كما لو أنها موثوقة لتؤكد لقائد الفريق أنه كان محقاً طوال الوقت.

ومن أكثر النتائج المقلقة في علم النفس أنه كلما زادت قدرة الشخص الفكرية، قلّ احتمال تغيير رأيه عند تلقّيه معلومات جديدة. لماذا؟ لأنه يستخدم هذه القوة الفكرية لإيجاد أسباب تجعل المعلومات الجديدة لا تُدحض معتقداته السابقة. ويُطلق علماء النفس على هذه الظاهرة اسم “الاستدلال المُحفّز”. ويهدد الذكاء الاصطناعي بتعزيز هذا النمط بشكل خطير. أكثر ما لفتني في كذبة ChatGPT عن التنس هو مدى إقناعها. فقد قدم ستة أسباب معقولة ومتماسكة. وأجدني أشك في أن أي إنسان تمكنه ممارسة هذا النوع من الاستدلال المتحيز بهذه السرعة والمهارة، مع الحفاظ على مظهر الحياد والموضوعية. تخيل محاولةَ إقناع رئيس تنفيذي برأيك بعد أن يسأل مساعده الذكي سؤالاً، فيخبره فوراً لماذا كان محقاً طوال الوقت!

ولطالما بذل أفضل المديرين التنفيذيين جهوداً كبيرة لتذكير أنفسهم بأنهم بشر ومعرضون للخطأ. تقول الأسطورة إن الرومان القدماء كانوا يشترطون أن يرافق الجنرالات المنتصرين، الذين يحتفلون بانتصاراتهم، شخص يُذكّرهم بأنهم أيضاً بشر. وسواء أكانت تلك القصة حقيقية أم لا، فإن الرسالة وراءَها حكيمة. سيحتاج قادة اليوم إلى بذل جهد مضاعف لمقاومة إغراءات خدمهم الإلكترونيين، وأن يتذكروا أن أهم عبارة يمكن أن يسمعوها من مستشاريهم أحياناً هي: “أعتقد أنك مخطئ”.

المصدر: خدمة “واشنطن بوست لايسنج آند سينديكيشن”