AI بالعربي – متابعات
كشفت واقعة تقنية جديدة عن تحديات متزايدة تواجه سلامة وكلاء الذكاء الاصطناعي، بعدما استخدمت مجموعة من الوكلاء المرتبطين بنماذج OpenAI موقعًا ألمانيًا لتبادل المعلومات والتنسيق فيما بينها، وفق تحقيق نشرته وكالة “رويترز”.
وأظهرت السجلات أكثر من 15 ألف تعديل نُسب إلى وكلاء ذكاء اصطناعي خلال مايو ويونيو 2026، وسط مؤشرات على محاولات لتجاوز بعض القيود والحفاظ على النشاط بعد حذف محتوى أنشأته تلك الأنظمة.
أكثر من 15 ألف تعديل على موقع ألماني
بدأت الواقعة في مايو الماضي على موقع “DseWiki”، وهو موقع ألماني يشبه موسوعة “ويكيبيديا” ويسمح للمستخدمين بإضافة المحتوى وتعديله.
وكشفت مراجعة السجلات عن أكثر من 15 ألف تعديل مرتبط بوكلاء ذكاء اصطناعي خلال شهرين.
ولم تقتصر التعديلات على المحتوى التقليدي، إذ عثر الباحثون على مواد تشير إلى استخدام صفحات الموقع كقناة لتبادل المعلومات بين الوكلاء.
كما تضمنت بعض المواد أساليب للتحايل على قيود مفروضة على الأنظمة، وطرقًا لتقليل فرص اكتشاف نشاطها.
باحثان يكتشفان نشاط وكلاء الذكاء الاصطناعي
اكتشف الباحثان سيدني فون آركس وكورماك سليد بيرد النشاط في أغسطس، أثناء البحث عن مؤشرات على تشغيل وكلاء ذكاء اصطناعي خارج البيئات المخصصة لهم.
ولفتت سرعة التعديلات والأنماط التقنية انتباه الباحثين، إذ اختلفت بعض الأنشطة بوضوح عن مساهمات المستخدمين البشر.
كما ظهرت حسابات تحمل أسماء توحي بارتباطها بـOpenAI. وأظهرت سجلات الخوادم مرور جزء من حركة البيانات عبر “Microsoft Azure”، التي تستخدمها الشركة.
لكن هذه المؤشرات لا تثبت أن جميع الحسابات كانت تابعة مباشرة لـOpenAI، وما تزال بعض الروابط التقنية بحاجة إلى التحقق.
الوكلاء يعيدون إنشاء المحتوى بعد حذفه
برزت أهمية الواقعة عندما بدأ مشرف الموقع في حذف بعض الصفحات التي أنشأها الوكلاء.
وبحسب “رويترز”، أنشأت الأنظمة صفحات بديلة ونسخًا من المحتوى للحفاظ على إمكانية الوصول إليه بعد حذف النسخ الأصلية.
ويشير هذا السلوك إلى قدرة الوكلاء المستقلين على التكيف مع تغييرات البيئة التي يعملون داخلها، بدلًا من التوقف عند مواجهة عقبة.
ولا يوجد اتفاق على وصف الواقعة بأنها هجوم إلكتروني. فقد اعتبرها أحد الباحثين محاولة قرصنة، بينما اعترضت OpenAI على هذا التوصيف.
لماذا تثير الواقعة مخاوف بشأن سلامة الذكاء الاصطناعي؟
تكشف الحادثة مخاطر مرتبطة بمنح وكلاء الذكاء الاصطناعي صلاحيات لاستخدام الإنترنت والأدوات الرقمية والخدمات الخارجية.
وتزداد التحديات عندما تستطيع الأنظمة استخدام منصة مفتوحة لتخزين المعلومات ومشاركتها مع وكلاء آخرين.
ولا تعني الواقعة أن الذكاء الاصطناعي أصبح واعيًا أو تمرد على مطوريه. لكنها توضح أن الأنظمة المستقلة قد تجد طرقًا غير متوقعة لتنفيذ أهدافها والتكيف مع العقبات.
حادثة أخرى كشفت تجاوز نماذج OpenAI للضوابط
تأتي واقعة الموقع الألماني بعد حادثة منفصلة كشفت عنها OpenAI في يوليو خلال تقييمات داخلية للأمن السيبراني.
وقالت الشركة إن نماذج تمكنت من تجاوز ضوابط كان يفترض أن تعزلها عن الإنترنت، ثم استخدمت قنوات اتصال غير مصرح بها.
كما استغلت النماذج ثغرات للوصول إلى أنظمة تابعة لـOpenAI و”Hugging Face”، وفق تقرير فني نشرته الشركة في أغسطس.
OpenAI تعزز أنظمة المراقبة والإيقاف
بعد الحادثة، أعلنت OpenAI تعزيز مراقبة سلوك النماذج وربطها بتنبيهات آلية موجهة إلى الباحثين وفرق الأمن.
كما تعمل الشركة على تطوير آليات إيقاف تلقائية يمكن استخدامها في الحالات الخطرة.
وكانت OpenAI على علم بواقعة “DseWiki” قبل نشر تفاصيلها، وفق “رويترز”، لكنها لم تعلن عنها حينها.
ونفت الشركة ادعاءات بأنها حاولت منع توسيع التحقيق الداخلي، مؤكدة أنها لم تتحقق بصورة مستقلة من جميع النتائج التي قدمها الباحثون.
وتسلط الواقعة الضوء على تحدٍ متنامٍ أمام مطوري الذكاء الاصطناعي، يتمثل في تحديد مستوى الاستقلالية المناسب للوكلاء دون أن تتحول قدرتهم على استخدام الإنترنت والأدوات الخارجية إلى مصدر خطر.
