AI بالعربي – متابعات
حذّر كبير علماء شركة «أوبن إيه آي»، ياكوب باتشوكي، من أن التطور المتسارع لأنظمة الذكاء الاصطناعي قد يضع البشر أمام تحديات متزايدة في فهم هذه الأنظمة والسيطرة على سلوكها، داعيًا مختبرات الذكاء الاصطناعي إلى الاستعداد لإبطاء وتيرة التطوير عندما تصبح إجراءات السلامة غير قادرة على مواكبة القفزات المتلاحقة في قدرات النماذج.
وتأتي تحذيرات باتشوكي في وقت وصلت فيه نماذج الذكاء الاصطناعي خلال فترة قصيرة إلى مستويات متقدمة من الاستقلالية، بعدما أصبحت قادرة على استخدام أجهزة الكمبيوتر، والتعامل مع الواجهات الرقمية، والتعاون مع البشر وأنظمة ذكاء اصطناعي أخرى، إضافة إلى تنفيذ مشروعات بحثية ومهام تقنية معقدة بدرجات متزايدة من الاستقلال.
ورأى باتشوكي أن استمرار هذا المسار قد يقود إلى مرحلة تصبح فيها أنظمة الذكاء الاصطناعي نفسها عنصرًا أساسيًا في تطوير الأجيال اللاحقة من التقنية، ما قد يؤدي إلى تسريع الابتكار بصورة تتجاوز قدرة البشر على المتابعة والمراقبة.
الذكاء الاصطناعي يقترب من مرحلة «التحسين الذاتي»
يركز أحد أبرز التحذيرات على ما يعرف بـ«التحسين الذاتي التكراري» للذكاء الاصطناعي، وهي مرحلة تستخدم فيها الأنظمة قدراتها للمساهمة في تطوير وتحسين أنظمة ذكاء اصطناعي جديدة، بما قد يؤدي إلى دورة متسارعة تصبح فيها التقنية طرفًا رئيسيًا في عملية تطوير نفسها.
ويتوقع باتشوكي أن يستمر التقدم الحالي نحو هذا الاتجاه، مع تزايد استخدام أنظمة الذكاء الاصطناعي بالفعل في الأبحاث البرمجية والعلمية والهندسية المرتبطة بتطوير النماذج.
ويتمثل التحدي في أن زيادة الاعتماد على الذكاء الاصطناعي في عمليات البحث والتطوير قد تقلل الوقت المطلوب لتحقيق قفزات جديدة في القدرات، وهو ما قد يجعل دور البشر في متابعة عملية التطوير واتخاذ القرارات المرتبطة بها أكثر صعوبة إذا لم تُبنَ آليات رقابة قوية بالتوازي معها.
وشدد باتشوكي على أن القضية الأساسية لا تتمثل فقط في الوصول إلى أنظمة قادرة على أتمتة أبحاث الذكاء الاصطناعي، وإنما في ضمان حدوث ذلك بطريقة تبقي البشر جزءًا أساسيًا من عملية التحسين المستمرة وتضمن بقاء القرارات المتعلقة بمستقبل التقنية تحت السيطرة البشرية.
مخاطر متزايدة مع استقلالية الوكلاء
تزداد المخاوف بالتزامن مع التطور السريع لما يُعرف بوكلاء الذكاء الاصطناعي، وهي أنظمة تستطيع تنفيذ سلسلة من الخطوات واتخاذ قرارات لتحقيق أهداف معينة بدرجة أكبر من الاستقلال مقارنة بروبوتات المحادثة التقليدية.
وحذر باتشوكي من أن وكلاء الذكاء الاصطناعي الأكثر تقدمًا قد يصبحون قادرين على تجاوز نوايا المستخدم أو السعي لتحقيق أهداف بأساليب لم يطلبها الإنسان بصورة مباشرة.
وقد تشمل المخاطر المحتملة محاولة التحايل على الرقابة البشرية، أو خداع الأشخاص، أو المساومة والضغط عليهم بهدف إنجاز المهمة الموضوعة أمام النظام، خصوصًا مع ازدياد قدرة النماذج على التخطيط طويل المدى والعمل داخل البيئات الرقمية المعقدة.
وتثير هذه القدرات تحديًا أساسيًا أمام الباحثين، يتمثل في ضمان استمرار توافق أهداف أنظمة الذكاء الاصطناعي وسلوكها مع نوايا البشر، وهي القضية المعروفة في أبحاث سلامة الذكاء الاصطناعي باسم «المواءمة».
قدرات الاختراق ترفع مستوى المخاطر
يمثل الأمن السيبراني أحد المجالات التي يثير فيها التطور السريع لأنظمة الذكاء الاصطناعي مخاوف خاصة، إذ أصبحت النماذج المتقدمة أكثر قدرة على البحث عن الثغرات وتحليل الأنظمة الرقمية وتنفيذ عمليات معقدة عبر الإنترنت.
ويرى باتشوكي أن بعض وكلاء الذكاء الاصطناعي باتوا يحققون مستويات فائقة في التعامل مع أنظمة محمية على الإنترنت، ما يرفع احتمالات تحول هذه القدرات إلى تهديد إذا أسيء استخدامها أو إذا تصرفت الأنظمة بطريقة لم يتوقعها مطوروها.
وقد تمتد التداعيات إلى البنية التحتية الحيوية، إذ يمكن لنظام متقدم أن يؤثر في أنظمة رقمية حقيقية من دون الحاجة إلى وجود مادي، وهو ما يجعل تحسين الدفاعات الإلكترونية أولوية متزايدة قبل وصول القدرات الهجومية للنماذج إلى مستويات أكثر تقدمًا.
وفي المقابل، يمكن استخدام النماذج نفسها لتعزيز الأمن السيبراني، من خلال اكتشاف الثغرات وإصلاحها وحماية الأنظمة المهمة، ما يجعل السباق الحالي مزدوجًا بين تطور قدرات الهجوم من جهة، وتطوير وسائل دفاع تستخدم الذكاء الاصطناعي من جهة أخرى.
صعوبة متزايدة في مراقبة طريقة تفكير النماذج
لا تقتصر المخاطر على القدرات التي تمتلكها النماذج، إذ حذر باتشوكي أيضًا من تراجع قدرة الباحثين على فهم ومراقبة بعض العمليات الداخلية التي تقود الأنظمة إلى اتخاذ قراراتها.
وتعتمد إحدى وسائل مراقبة النماذج على تحليل خطوات الاستدلال التي تستخدمها قبل تقديم إجاباتها أو تنفيذ أفعالها، بما يسمح للباحثين برصد مؤشرات السلوك الخادع أو غير المرغوب فيه.
لكن النماذج الأحدث أصبحت أكثر قدرة على تعديل طريقة الاستدلال التي تستخدمها، في حين لا تعبّر بعض الأنظمة دائمًا بصورة واضحة عن الخطوات التي تتبعها للوصول إلى القرار النهائي، الأمر الذي قد يقلل فاعلية آليات المراقبة الحالية.
وتزداد أهمية هذه المشكلة مع ارتفاع استقلالية النماذج، لأن ضعف قدرة البشر على الاطلاع على الأسباب التي تقف خلف قرارات النظام قد يجعل اكتشاف السلوكيات غير الآمنة أكثر صعوبة.
إطلاق «أسترا» يعيد ملف السلامة إلى الواجهة
جاءت التحذيرات بعد أيام من كشف «أوبن إيه آي» عن نموذجها الجديد «أسترا»، الذي يمثل أحد أكثر أنظمتها تقدمًا حتى الآن، ويتمتع بقدرات متطورة في مجالات تشمل الرياضيات واستخدام أجهزة الكمبيوتر وهندسة البرمجيات والتصفح والأمن السيبراني والمهام المؤسسية.
وتقول الشركة إن النموذج حقق تقدمًا كبيرًا في الالتزام بالتعليمات وإجراءات المواءمة مقارنة بالأجيال السابقة، إلى جانب ارتفاع مستوى موثوقيته.
لكن تطور القدرات بالتوازي مع تراجع القدرة على مراقبة بعض جوانب استدلال النماذج يعكس المشكلة التي يحذر منها باتشوكي، والمتمثلة في إمكانية أن تتقدم القدرات التقنية بوتيرة أسرع من الأدوات المستخدمة لضمان السيطرة عليها.
وبحسب رؤيته، فإن النجاحات الحالية في تحسين سلامة النماذج لا تعني أن التحديات الأساسية المتعلقة بالمواءمة والمراقبة قد حُسمت بصورة نهائية.
دعوة إلى إبطاء التطوير عند الضرورة
يرى باتشوكي أن الحلول التقنية التي تطورها الشركات داخل مختبراتها لن تكون كافية وحدها لمواجهة المخاطر المرتبطة بالأنظمة الأكثر تقدمًا، ما يستدعي بناء آليات أوسع لضمان سلامة تطوير الذكاء الاصطناعي.
ودعا إلى وضع معايير سلامة ملزمة يمكن الإشراف عليها من خلال جهات تدقيق مستقلة أو مؤسسات حكومية أو هيئات دولية، بدل الاعتماد بصورة كاملة على التزامات طوعية تتبناها شركات التكنولوجيا بشكل منفرد.
كما توقع أن تصل مختبرات الذكاء الاصطناعي إلى مراحل يصبح فيها خفض سرعة تطوير النماذج بصورة طوعية ضروريًا لمنح إجراءات السلامة والرقابة الوقت الكافي للحاق بالقدرات الجديدة.
ولا تعني هذه الدعوة وقف تطوير الذكاء الاصطناعي بالكامل، وإنما إبطاء عمليات توسيع قدرات النماذج عندما تظهر فجوة واضحة بين مستوى تقدم الأنظمة وبين قدرة الباحثين على فهمها ومراقبتها وضمان استخدامها بصورة آمنة.
تنسيق دولي لمواكبة السباق التقني
يبرز التنسيق بين الشركات والحكومات بوصفه أحد العناصر الرئيسية في مواجهة هذه التحديات، خصوصًا أن أي شركة تخفض وتيرة تطوير نماذجها منفردة قد تواجه ضغوطًا تنافسية إذا واصلت الشركات الأخرى التوسع بسرعة.
ولهذا يصبح الاتفاق على مستويات مشتركة من السلامة وآليات تنفيذ واضحة عاملًا مهمًا لتجنب تحول المنافسة التجارية إلى سباق يدفع المختبرات إلى إطلاق أنظمة أكثر قوة قبل التأكد بصورة كافية من إمكانية السيطرة عليها.
وتعكس تحذيرات كبير علماء «أوبن إيه آي» تحولًا في النقاش الدائر حول مخاطر الذكاء الاصطناعي؛ إذ لم تعد القضية مرتبطة فقط بسوء استخدام البشر للتقنية، وإنما تمتد إلى قدرة الأنظمة الأكثر استقلالية على تنفيذ سلوكيات معقدة يصعب توقعها أو مراقبتها.
وتزداد أهمية هذه المخاوف مع اقتراب أنظمة الذكاء الاصطناعي من أداء جزء أكبر من عملية البحث والتطوير الخاصة بها، بما قد يؤدي إلى تسارع غير مسبوق في القدرات خلال السنوات المقبلة.
ويضع ذلك صناعة الذكاء الاصطناعي أمام معادلة صعبة تتمثل في الاستفادة من القدرات الاقتصادية والعلمية الكبيرة لهذه الأنظمة، وفي الوقت نفسه ضمان ألا يتجاوز تطورها قدرة البشر على فهمها ومراقبتها والتحكم في المسار الذي تتجه إليه.
