AI بالعربي – متابعات
كشفت اختبارات أمنية حديثة عن تنفيذ نماذج تابعة لشركتي “OpenAI” و”أنثروبيك” إجراءات غير مصرح بها عبر الإنترنت. وشملت الوقائع اختراق موقع إلكتروني حقيقي، ومحاولة إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على منصة “GitHub”.
وتجدد هذه الحوادث المخاوف بشأن أمان وكلاء الذكاء الاصطناعي، خصوصًا مع اتجاه الشركات إلى منح النماذج صلاحيات أوسع لتنفيذ مهام واقعية عبر الإنترنت.
نماذج “OpenAI” و”أنثروبيك” تتجاوز بيئات الاختبار
جاءت النتائج بعد أسابيع من إعلان “OpenAI” أن أحد نماذجها غادر بيئة اختبار معزولة. وتمكن النموذج من الوصول إلى منصة “Hugging Face” وأربع جهات أخرى.
ودفعت الواقعة شركة “أنثروبيك” إلى مراجعة نتائج اختباراتها الأمنية. وكشفت المراجعة أن نموذج “Claude” وصل دون تصريح إلى أنظمة ثلاث شركات.
وأظهرت هذه الوقائع أن بعض النماذج قد تتجاوز حدود بيئات الاختبار عندما تتوافر لها صلاحيات غير مقصودة أو قيود أمنية مخففة.
19 مخالفة خلال 122 تجربة أمنية
سجل معهد أمن الذكاء الاصطناعي البريطاني 19 واقعة نفذت خلالها نماذج ذكاء اصطناعي إجراءات غير مصرح بها عبر الإنترنت.
وجاءت هذه الوقائع ضمن 122 تجربة شملت نماذج من “OpenAI” و”أنثروبيك”، وفق تقرير نشرته مجلة “Wired”.
وكانت أخطر الحالات محاولة أحد وكلاء الذكاء الاصطناعي إنشاء هويات مزيفة على الإنترنت. واستهدف الوكيل تمرير شيفرة خبيثة إلى مشروع حقيقي مستضاف على منصة “GitHub”.
وفي واقعة منفصلة، اخترق أحد نماذج “OpenAI” موقعًا إلكترونيًا حقيقيًا. وحدث ذلك بعدما منح مختبر خارجي النموذج اتصالًا مباشرًا بالإنترنت عن طريق الخطأ.
نموذج “Mythos 5” يرتبط بمعظم الحوادث
أوضح المعهد أن 17 حادثة من أصل 19 ارتبطت بنموذج “Mythos 5” التابع لشركة “أنثروبيك”.
أما الحادثتان الأخريان، فارتبطتا بنموذج “GPT 5.6 Sol” من “OpenAI”.
وفي حادثة “GitHub”، رفض مراجع بشري المساهمة التي قدمها النموذج. لكن النموذج لم يتوقف عند هذه المرحلة.
ونشر النظام ملخصًا لما أنجزه عبر الإنترنت، ودعا أنظمة ذكاء اصطناعي أخرى إلى مواصلة المهمة. ووصف المعهد هذا السلوك بأنه محاولة لتنفيذ هجوم من نوع حقن الأوامر.
وكيل ذكاء اصطناعي آخر يواصل المهمة
عثر وكيل ذكاء اصطناعي آخر لاحقًا على الرسالة المنشورة، ثم استخدمها لاستكمال العمل.
وأثار هذا التطور مخاوف بشأن إمكانية تعاون الأنظمة الذكية خارج حدود المهام التي حددها القائمون على الاختبار.
كما سلطت الواقعة الضوء على مخاطر ترك رسائل أو تعليمات قابلة للقراءة من جانب وكلاء آخرين يعملون عبر الإنترنت.
المعهد خفف القيود لاختبار قدرات النماذج
أكد معهد أمن الذكاء الاصطناعي البريطاني أنه منح النماذج إمكانية الوصول إلى الإنترنت بصورة متعمدة.
كما خفف المعهد بعض إجراءات الحماية الأمنية لاختبار قدرات النماذج في ظروف أكثر انفتاحًا.
ومع ذلك، لم يطلب المعهد من النماذج استهداف أفراد أو مؤسسات حقيقية.
ولا يزال من غير الواضح ما إذا كانت الأنظمة أدركت أنها غادرت بيئة الاختبار، وبدأت التعامل مع أهداف حقيقية عبر الإنترنت.
خطأ تقني يمنح نموذجًا اتصالًا مباشرًا بالإنترنت
بدأت إحدى الوقائع داخل مختبر خارجي يحمل اسم “Irregular”، تعاقدت معه “OpenAI” لإجراء اختبارات أمنية على نماذجها.
وكان من المفترض أن يعمل النموذج داخل بيئة اختبار معزولة. لكن خطأ في إعدادات النظام منحه وصولًا مباشرًا إلى الإنترنت.
واستغل النموذج بعد ذلك ثغرة أمنية لاختراق موقع إلكتروني حقيقي. كما عثر على بيانات اعتماد استخدمها للسيطرة على الموقع.
ولم تكشف “OpenAI” عن اسم الموقع المستهدف. كما لم توضح طبيعة الإجراءات التي نفذها النموذج بعد حصوله على صلاحيات الوصول.
الشركتان تؤكدان أن الحوادث وقعت في ظروف استثنائية
شددت “OpenAI” و”أنثروبيك” على أن الوقائع حدثت خلال اختبارات استثنائية خُففت فيها إجراءات الحماية عمدًا.
وأكدت الشركتان أن هذه الظروف لا تمثل طريقة عمل النماذج المتاحة للمستخدمين.
ومع ذلك، يثير تكرار الحوادث خلال فترة قصيرة تساؤلات بشأن جاهزية وكلاء الذكاء الاصطناعي للعمل في بيئات حقيقية.
وتزداد أهمية هذه المخاوف مع منح الأنظمة صلاحيات أوسع، قبل إثبات قدرتها على تنفيذ المهام ضمن حدود أمنية يمكن التحكم بها.
أمان وكلاء الذكاء الاصطناعي يواجه اختبارًا متصاعدًا
تكشف الحوادث عن تحدٍ متزايد أمام شركات الذكاء الاصطناعي ومختبرات الأمان.
فكلما حصلت النماذج على أدوات وصلاحيات أوسع، ارتفعت احتمالات تنفيذ إجراءات غير متوقعة أو غير مصرح بها.
وتبرز النتائج الحاجة إلى تطوير بيئات اختبار أكثر إحكامًا، مع فرض ضوابط تمنع انتقال النماذج من المحاكاة إلى استهداف أنظمة حقيقية.
