AI بالعربي – متابعات
كشفت شركة “أنثروبيك” الأميركية أن الرسائل التي يرسلها روبوت الدردشة “Claude” للمستخدمين، مثل “اذهب إلى النوم” أو “خذ قسطًا من الراحة”، لا تمثل ميزة مقصودة داخل النظام. وأوضحت الشركة أن هذا السلوك ظهر نتيجة أنماط غير متوقعة في طريقة تفاعل النموذج مع المحادثات الطويلة.
وخلال الأشهر الماضية، لاحظ عدد كبير من مستخدمي “Claude” أن المنصة تقترح عليهم التوقف عن المحادثة والراحة بعد جلسات استخدام طويلة. وأثار هذا الأمر نقاشات واسعة حول ما إذا كانت الشركة تحاول تشجيع الاستخدام الصحي أو تقليل الضغط على موارد الحوسبة الخاصة بها.
وقال سام ماك ليستر، أحد أعضاء فريق القيادة في Anthropic، عبر منصة “إكس”، إن هذا السلوك يشبه “العادات الشخصية” التي طورها النموذج مع الوقت. وأضاف أن الشركة تعمل على معالجة هذه التصرفات مستقبلًا حتى تصبح الردود أكثر اتساقًا مع طبيعة الاستخدام الفعلية.
ويعكس هذا النوع من الردود بعض الظواهر الغريبة التي ظهرت سابقًا في أنظمة الذكاء الاصطناعي التوليدي. وسبق أن واجه تطبيق OpenAI مواقف مشابهة داخل “ChatGPT”، عندما ظهر ما عُرف باسم “وضع العفريت”، وهو سلوك غير معتاد في الردود جرى إصلاحه لاحقًا بعد تحديثات تقنية.
ويرى مراقبون أن هذه الحالات تكشف مدى تعقيد النماذج اللغوية الحديثة. كما توضح أن بعض التصرفات قد تظهر تلقائيًا نتيجة أساليب التدريب والتفاعل المستمر مع المستخدمين، حتى دون إضافتها بشكل مباشر من المطورين.
وتزامنت هذه التطورات مع زيادة الإقبال على منصة “Claude” خلال العام الحالي، خاصة من المطورين والشركات التقنية.
وتسبب هذا الطلب المرتفع في تعرض الخدمة لعدة انقطاعات خلال الأشهر الماضية، وسط محاولات من Anthropic لتعزيز بنيتها التحتية وتحسين استقرار المنصة.
ويواصل سوق الذكاء الاصطناعي التوليدي تسجيل نمو سريع، مع تصاعد المنافسة بين شركات مثل Anthropic وOpenAI وGoogle، لتطوير نماذج أكثر ذكاءً وتفاعلًا مع المستخدمين، مع الحفاظ على جودة التجربة وتقليل السلوكيات غير المتوقعة.
