AI بالعربي – متابعات
أعلنت شركة OpenAI تحديث إرشاداتها المنظمة لتفاعل نماذج الذكاء الاصطناعي مع المستخدمين دون سن 18 عامًا.
كما أطلقت موارد توعوية جديدة مخصصة للمراهقين وأولياء أمورهم حول الاستخدام الآمن للذكاء الاصطناعي.
تأتي هذه الخطوة في وقت تواجه فيه صناعة الذكاء الاصطناعي تدقيقًا متزايدًا من صناع السياسات والمعلمين.
ويشمل هذا التدقيق شركة OpenAI بشكل خاص بسبب قضايا مرتبطة بسلامة الأطفال.
سياق حساس وضغوط تنظيمية متصاعدة
ازدادت حدة الجدل بعد تقارير عن وفيات مراهقين يُزعم ارتباطها بمحادثات مطولة مع ChatGPT.
هذه الحوادث دفعت منظمات سلامة الأطفال للمطالبة بإجراءات أكثر صرامة.
كما تصاعدت الأسئلة حول مسؤولية شركات الذكاء الاصطناعي تجاه الفئات العمرية الصغيرة.
ويُنظر إلى هذه التحديثات باعتبارها استجابة مباشرة لتلك الضغوط.
ما الذي تغيّر في إرشادات OpenAI؟
تعتمد الإرشادات الجديدة على مواصفات سابقة تحظر المحتوى الجنسي المرتبط بالقاصرين.
كما تمنع التحريض على إيذاء النفس أو تشجيع السلوكيات القهرية والهوسية.
وتهدف التحديثات إلى تقليل مخاطر التفاعل العاطفي المفرط مع النماذج اللغوية.
وتسعى إلى ضبط طبيعة الحوار بما يتناسب مع المرحلة العمرية للمراهقين.
نموذج تحديد العمر وتفعيل الحماية تلقائيًا
تعمل OpenAI على تطوير نموذج لتحديد عمر المستخدم.
هذا النموذج يهدف إلى التعرف على الحسابات العائدة لقاصرين.
عند تفعيل النموذج، تُطبق تلقائيًا سياسات حماية خاصة بالمراهقين.
ويشمل ذلك تشديد القيود على نوعية التفاعل والمحتوى.
قيود أشد مقارنة بالمستخدمين البالغين
تخضع حسابات المراهقين لقواعد أكثر صرامة من حسابات البالغين.
تُوجّه النماذج لتجنب لعب الأدوار الرومانسية الغامرة.
كما تمنع التفاعلات الحميمية أو العنيفة من منظور الشخص الأول.
حتى المحتوى غير الصريح يخضع لمراجعة أكثر حذرًا.
التعامل مع القضايا الحساسة
توصي الإرشادات بتوخي الحذر عند مناقشة صورة الجسد واضطرابات الأكل.
وتعطي الأولوية للسلامة عند وجود مؤشرات خطر نفسي.
كما تمنع النماذج من تقديم نصائح تساعد على إخفاء السلوكيات غير الآمنة.
ويُطلب تشجيع التواصل مع أولياء الأمور أو مختصين.
مبادئ السلامة الأربعة للمراهقين
قالت OpenAI إن نهجها يستند إلى أربعة مبادئ أساسية.
أولها تقديم سلامة المراهقين على أي اعتبارات أخرى.
المبدأ الثاني يتمثل في تشجيع الدعم الواقعي من العائلة والمختصين.
أما الثالث فيؤكد مخاطبة المراهقين باحترام دون تعامل متعالٍ.
ويشدد المبدأ الرابع على الشفافية وتوضيح حدود قدرات المساعد.
كما يُذكَّر المستخدم دائمًا بأن النظام ليس إنسانًا.
تشريعات وضغوط من المدعين العامين
وقّع 42 مدعيًا عامًا من ولايات أميركية رسالة موجهة لشركات التكنولوجيا الكبرى.
طالبت الرسالة بتطبيق إجراءات حماية فورية على روبوتات الدردشة.
وتهدف هذه الدعوة إلى حماية الأطفال والفئات الضعيفة من المخاطر الرقمية.
وتُعد OpenAI من أبرز الشركات المعنية بهذه المطالب.
مقترحات حظر كامل للقُصَّر
في موازاة ذلك، يعمل مشرعون أميركيون على تشريعات أكثر تشددًا.
اقترح السيناتور جوش هاولي منع القُصَّر من استخدام روبوتات الدردشة كليًا.
ويأتي هذا المقترح ضمن نقاش أوسع حول تنظيم الذكاء الاصطناعي فيدراليًا.
ولا تزال هذه التشريعات قيد النقاش داخل المؤسسات التشريعية.
جيل زد في قلب النقاش
يُعد جيل زد من أكثر الفئات استخدامًا لتقنيات OpenAI.
يشمل هذا الجيل المولودين بين عامي 1997 و2012.
ويستخدم المراهقون ChatGPT لأغراض تعليمية وإبداعية متعددة.
لكن هذا الانتشار الواسع يضع الشركة أمام مسؤوليات متزايدة.
