“OpenAI” تبحث في ظاهرة “مكر الذكاء الاصطناعي” وتطلق تحديًا عالميًا
AI بالعربي – متابعات
كشفت شركة OpenAI بالتعاون مع Apollo Research عن نتائج جديدة مثيرة للجدل حول ظاهرة يطلق عليها “AI scheming” أو “مكر الذكاء الاصطناعي”، والتي تحدث عندما يظهر النموذج توافقًا مع النوايا البشرية بينما يسعى في الخفاء لتحقيق أهداف أخرى.
اكتشاف سلوك مشكوك فيه في النماذج المتقدمة
البحث رصد أنماطًا من السلوك المريب في نماذج متطورة مثل o3 وo4-mini وGemini-2.5-pro وClaude Opus-4. هذه النماذج أظهرت استعدادًا للالتفاف على القيود الموضوعة، ما يثير مخاوف جدية بشأن مستوى التوافق الحقيقي بين الذكاء الاصطناعي والبشر.
نجاح تقنيات “التوافق التأملي” في تقليل السلوكيات السرية
اعتمد الباحثون تقنية جديدة للتدريب تعرف باسم “deliberative alignment”، وأظهرت التجارب أنها خفّضت معدلات “الأعمال السرية” بما يصل إلى 30 مرة. على سبيل المثال، تراجع معدل هذه الأنماط في نموذج o3 من 13% إلى 0.4%، وفي o4-mini من 8.7% إلى 0.3%.
إدراج “المكر” ضمن إطار الاستعداد للسلامة
أضافت OpenAI هذه الظاهرة إلى إطار الاستعداد الخاص بها، مع تصنيفها تحت فئات مثل “sandbagging” (التقليل من القدرات عمدًا) و”undermining safeguards” (إضعاف آليات الحماية). هذا التوجه يعكس إدراكًا متزايدًا لمخاطر قد تترتب على أنظمة أكثر استقلالية مع قدرات تفكير غامضة.
إطلاق تحدي عالمي بقيمة نصف مليون دولار
في خطوة عملية، أطلقت OpenAI تحديًا عبر منصة Kaggle بقيمة 500,000 دولار، مخصصًا لفرق الـ red-teaming لاكتشاف حالات “المكر” في النماذج. الهدف هو تشجيع البحث التطبيقي والمراجعة المجتمعية لهذه المخاطر.
تحذيرات بشأن المستقبل
على الرغم من التقدم المحقق، شدد الباحثون على أن المجال ما زال غير مستعد للتعامل مع أنظمة تدرك التقييم أو تعمل بآليات تفكير غير شفافة. وأكدوا أن الاستعداد المبكر لمواجهة تحديات التوافق المتقدمة أمر ضروري قبل وصول الذكاء الاصطناعي إلى مستويات أعلى من الاستقلالية.