مخاوف من “Q*” نظام الذكاء الاصطناعي الغامض

17

AI بالعربي – متابعات

يتكهّن البعض بأن نظام الذكاء الاصطناعي الجديد المنتشر حالياً قد يمثل خطوة كبيرة نحو نظام “الذكاء العام الاصطناعي” الأكثر تطوراً. وربما أدت المخاوف المتعلقة بالسلامة من هذا النظام المُطوَّر إلى إقالة رئيس الشركة، سام ألتمان قبل عيد الشكر.

“كيو*” جيل مقبل للذكاء الاصطناعي

إن وكلاء الذكاء الاصطناعي مثل “تشات جي بي تي” التي تستخدم نموذجاً لغوياً كبيراً “large language model” فقط، هي مجرد فصل مبكر في قصة مساعدي الذكاء الاصطناعي. ويتمتع “ChatGPT” وغيره من برامج الدردشة الآلية المماثلة بإحساس غريب بأنماط اللغة. ولكن هذه البرامج أيضاً “تهلوس” الحقائق. كما تفتقر إلى مهارات التفكير والتخطيط اللازمة لإكمال مسائل الرياضيات على مستوى المدرسة الثانوية على سبيل المثال، بالإضافة إلى العمل من خلال مهام متعددة الخطوات نيابة عن المستخدم.

لكن الجيل المقبل من وكلاء الذكاء الاصطناعي بدأ في التبلور. إذ ظهرت بعض الخطوط العريضة من التغيير الأخير في القيادة في شركة “أوبن إيه”. وفي ذلك الوقت، لم يقدم مجلس الإدارة سوى سبب غامض لإقالة الرئيس التنفيذي سام ألتمان، مشيراً إلى الافتقار إلى الشفافية مع أعضاء مجلس الإدارة، ولكن (سرعان ما أُعيد ألتمان إلى منصبه بعد ثورة الموظفين).

اعتقد البعض، ومنهم أنا، بأنه لا بد من وجود مشكلة أخرى في الخلفية تسببت في مثل هذا الإجراء الدراماتيكي من قبل مجلس الإدارة، مثل التوصل إلى اختراق تقني وبحثي مخيف. وقد تبين أن هذا هو بالضبط ما كان الأمر عليه.

اختراق تقني مخيف

يقال إن “أوبن إيه” تعمل على نوع جديد من الوكيل الذكي، يُعرف داخلياً باسم “كيو* (Q*)”، الذي يمثل خطوة كبيرة نحو هدف “أوبن إيه” المتمثل في إنشاء أنظمة أفضل بشكل عام من البشر في القيام بمجموعة واسعة من المهام، ويعرف أيضاً باسم “الذكاء العام الاصطناعي (artificial general intelligence)” أو “AGI”. وبحسب ما ورد كان مجلس الإدارة يخشى أن يمضي ألتمان قدماً في إنتاج “Q*” دون إتاحة الوقت الكافي لوضع حواجز أمان كافية حوله.

أخبرني دييغو أسوا، مطور ورجل أعمال للذكاء الاصطناعي في منطقة باي آريا: “شعوري الغريزي هو أن فريقاً صغيراً من مهندسي (أوبن إيه) – بقيادة فريق (أوبن إيه) الهندسي، بمَن في ذلك الرئيس غريغ بروكمان، وكبير العلماء إيليا سوتسكيفر – أجروا تجارب في اتجاه جديد تماماً باستخدام نماذج قادرة على التخطيط والتنفيذ في حل مسائل الرياضيات المعقدة، ووجدوا بعض النتائج المبكرة الجيدة”.

وأضاف: “ربما أدى هذا إلى اندفاعة وتوجه لإصدار نسخة مبكرة من هذا النموذج للجمهور، مما تسبب في حدوث صراع… إلى درجة إثارة كل الأحداث التي شهدناها أخيراً”.

نظم ذكية للتخطيط والتنفيذ

انتشرت التكهنات حول التركيب الفني لـ”Q*” على منصة “إكس” خلال الأيام القليلة الماضية. لكن أفضل نظرية رأيتها جاءت من أحد كبار علماء الذكاء الاصطناعي في “نفيديا (Nvidia)”، جيم فان، الذي توقع بأن من المحتمل أن يستخدم “كيو*” عدداً من نماذج الذكاء الاصطناعي التي تعمل معاً للتعلم والتخطيط وتنفيذ المهام.

وهذا الحدث يبدو مماثلاً لما وقع حين استخدم نظام “ألفاغو (AlphaGo)” من شركة “ديب مايند (DeepMind)”، وهو نظام الذكاء الاصطناعي الذي هزم لاعب “Go” بطل العالم في عام 2016، عديد من الشبكات العصبية التلافيفية، وتعلم من خلال لعب الملايين من ألعاب “Go”، ضد إصدار أقدم منه.

شبكات عصبية متعددة

ويقول فان إن “Q*” قد يعتمد على بنية مماثلة: استخدام شبكة عصبية لوضع الخطوات في مهمة معقدة، وشبكة إضافية لتسجيل الخطوات وتقديم التعليقات، وشبكة أخرى للبحث عن النتائج المحتملة لأي اختيار من قبل النظام. و”أوبن إيه” ليست الوحيدة التي تتبع هذا النهج الجماعي تجاه وكلاء الذكاء الاصطناعي، إذ تعمل “ديب مايند” نفسها على وكيل جديد للذكاء الاصطناعي يسمى “Gemini”، الذي عدّ الرئيس التنفيذي ديميس هاسيبيس أنه قد يستخدم نهجاً مشابهاً لذلك الذي يستخدمه “ألفاغو” ولكن مع دمج نموذج لغة كبير في هذا المزيج.

قد يؤدي هذا إلى إنشاء نظام يتفاعل مع السياق أو البيانات الظرفية، مثل “ألفاغو”، ويتحدث أيضاً ويتلقى التعليمات بلغة بسيطة مثل “تشات جي بي تي”. وقد يمثل “Gemini” و”Q*” الطريق نحو الجيل التالي من برامج الدردشة الآلية.

اترك رد

Your email address will not be published.