AI بالعربي – متابعات
وقّع قادة بارزون في شركات الذكاء الاصطناعي الأميركية اتفاقًا طوعيًا في البيت الأبيض، يحدد إطارًا مشتركًا لإدارة مخاطر النماذج المتقدمة. ويعتمد الاتفاق على 4 طبقات من الرقابة والتدقيق، تشمل الضوابط الداخلية والمراجعة المستقلة وإشراف مجالس الإدارات. ووصف الرئيس الأميركي دونالد ترامب الاتفاق بأنه “ملزم أخلاقيًا”، في حين لا يحمل الإطار قوة قانونية ملزمة حاليًا.
وشارك في الاجتماع عدد من قادة شركات التكنولوجيا والذكاء الاصطناعي، بينهم جنسن هوانغ الرئيس التنفيذي لـ Nvidia، ومارك زوكربيرغ رئيس Meta، وداريو أمودي الرئيس التنفيذي لـ Anthropic، وساندار بيتشاي الرئيس التنفيذي لـ Google، إلى جانب قيادات أخرى في القطاع. كما شارك مسؤولون تنفيذيون من OpenAI وشركات تكنولوجيا أميركية أخرى.
اتفاق الذكاء الاصطناعي يعتمد على الرقابة الذاتية للشركات
يعكس الاتفاق توجهًا نحو منح شركات الذكاء الاصطناعي دورًا أكبر في مراقبة أنظمتها بنفسها. وقال ترامب بعد الاجتماع إن الشركات أظهرت قدرة على ممارسة “رقابة ذاتية” على تقنياتها.
ووصف رئيس مجلس النواب الأميركي مايك جونسون الوثيقة بأنها “بيان مبادئ ومعايير” والتزام مشترك بين الشركات. ويحدد الاتفاق إجراءات طوعية تستهدف مراقبة النماذج المتقدمة قبل وأثناء استخدامها.
ويحمل الاتفاق اسم “الالتزام المشترك بمسؤوليات النماذج الحدودية”. كما ينص على عقد اجتماعات دورية بين الشركات لوضع معايير مشتركة وتطوير أفضل ممارسات السلامة.
4 طبقات من الرقابة على نماذج الذكاء الاصطناعي
تنص الوثيقة على تطبيق 4 طبقات من الضوابط والتدقيقات. وتهدف هذه الطبقات إلى التأكد من عمل النماذج المتقدمة وفق الأهداف المحددة لها. وتشمل أيضًا متابعة المخاطر المرتبطة باستخدام الأنظمة وقدراتها المتنامية.
تبدأ الطبقة الأولى بتطوير آليات رقابة داخلية تتابع قدرات النماذج خلال التدريب والتشغيل. وتساعد هذه الآليات الشركات على رصد السلوكيات غير المقصودة والمخاطر المحتملة.
أما الطبقة الثانية، فتقوم على فرق داخلية متخصصة تراجع أداء أنظمة الرقابة. وتتولى هذه الفرق الكشف عن الثغرات ومتابعة معالجة المشكلات عند ظهورها.
وتشمل الطبقة الثالثة الاستعانة بجهات خارجية لإجراء عمليات تدقيق مستقلة. وتهدف هذه المراجعات إلى تقييم مدى فعالية الضوابط التي تطبقها الشركات.
وتضع الطبقة الرابعة مجالس إدارات الشركات داخل منظومة الإشراف. وتنص الوثيقة على مراجعة التقارير المتعلقة بالسلامة ومتابعة معالجة المخاطر على مستوى الإدارة العليا.
تدقيق خارجي وإشراف من مجالس الإدارات
يوسع الاتفاق نطاق الرقابة ليشمل أطرافًا خارجية إلى جانب الفرق الداخلية. وتوافق الشركات المشاركة على السماح بعمليات تقييم مستقلة لأنظمة السلامة والرقابة.
كما يمنح الإطار مجالس الإدارات دورًا مباشرًا في مراجعة التقارير. ويهدف ذلك إلى نقل قضايا السلامة من المستوى التشغيلي إلى مستويات الإدارة العليا.
ولا يتضمن الاتفاق، وفق النص المنشور، جهة حكومية تتولى تنفيذ هذه المراجعات. كما لا يفرض آلية قانونية لمعاقبة الشركات في حال عدم الالتزام به.
الشركات تسعى إلى وضع معايير مشتركة للسلامة
تتعهد الشركات الموقعة بعقد اجتماعات دورية لتطوير معايير وأفضل ممارسات مشتركة. وتركز هذه الاجتماعات على تحسين سلامة الأنظمة وتنسيق طرق إدارة المخاطر.
ويرى الموقعون أن الجمع بين الرقابة الداخلية والتقييم الخارجي وإشراف مجالس الإدارات يمكن أن يعزز الثقة في النماذج المتقدمة.
ويشير نص الاتفاق أيضًا إلى إمكانية تحويل بعض هذه الخطوات مستقبلًا إلى قوانين أو لوائح تنظيمية، إذا رأت السلطات أن ذلك أصبح ضروريًا.
الاتفاق لا يفرض التزامات قانونية حاليًا
لا يحمل الاتفاق قوة قانونية ملزمة في وضعه الحالي. ووصفه ترامب بأنه “ملزم أخلاقيًا”، بينما يقوم التنفيذ على التزام الشركات طوعيًا بالمبادئ التي وقعت عليها.
ويعني ذلك أن الشركات تتحمل مسؤولية تطوير آليات الرقابة وتطبيقها دون وجود نظام عقوبات جديد مرتبط مباشرة بالوثيقة.
مع ذلك، يترك الاتفاق الباب مفتوحًا أمام احتمال إدخال بعض المبادئ ضمن تشريعات أو قواعد تنظيمية مستقبلية.
ترامب يرفض إبطاء تطوير الذكاء الاصطناعي
يأتي الاتفاق وسط نقاش متزايد حول مخاطر النماذج المتقدمة، خاصة في مجالات الأمن السيبراني وإساءة الاستخدام.
وتبنى ترامب موقفًا يرفض إبطاء تطوير الذكاء الاصطناعي على المستوى الوطني، معتبرًا أن تباطؤ الولايات المتحدة قد يؤثر على قدرتها التنافسية، خصوصًا أمام الصين. كما فضّل الاعتماد على المراجعات الطوعية بدل فرض قواعد تنظيمية أكثر صرامة في المرحلة الحالية.
وقال ترامب إن شركات التكنولوجيا لديها حافز لمراقبة نفسها ومراقبة بعضها بعضًا، لأن أداء منتجاتها يؤثر مباشرة في مستقبل أعمالها.
لجنة محدودة قد تتابع تطورات القطاع
كشف ترامب كذلك عن مناقشة فكرة تشكيل لجنة تضم نحو 10 أشخاص لمتابعة تطورات الذكاء الاصطناعي.
ولم تتضح بعد طبيعة صلاحيات هذه اللجنة أو ما إذا كانت ستحصل على سلطات تنظيمية رسمية.
ويأتي هذا المقترح بالتوازي مع استمرار اعتماد الإدارة على أدوات الرقابة الذاتية للشركات، بدل إنشاء إطار حكومي جديد لتنظيم جميع نماذج الذكاء الاصطناعي المتقدمة.
الاجتماع جمع مطوري النماذج وشركات البنية التحتية
جمع اجتماع البيت الأبيض شركات تعمل في مستويات مختلفة من منظومة الذكاء الاصطناعي.
وشملت المشاركة مطوري النماذج، وشركات تصنيع البنية التحتية الحاسوبية، وشركات تكنولوجية تعمل في مجالات البيانات والأنظمة المتقدمة.
وتظهر هذه المشاركة اتساع نطاق الأطراف المرتبطة بتطوير الذكاء الاصطناعي، من تصميم النماذج إلى الرقائق ومراكز البيانات والبنية التحتية المستخدمة لتشغيلها.
خطوة أميركية جديدة لتنظيم مخاطر الذكاء الاصطناعي
يمثل الاتفاق محاولة لجمع مجموعة من أكبر شركات القطاع حول إطار مشترك لإدارة المخاطر، من دون تحويله مباشرة إلى تشريع ملزم.
ويضع الإطار مسؤولية كبيرة على الشركات لتطوير أدوات الرقابة الداخلية، وفتح أنظمتها أمام مراجعات خارجية، وإشراك مجالس الإدارات في متابعة قضايا السلامة.
وفي الوقت نفسه، يستمر الجدل في الولايات المتحدة حول مدى كفاية التنظيم الطوعي. ويدعو بعض المشرعين والباحثين إلى اختبارات وقواعد أكثر إلزامًا، بينما تتمسك الإدارة الحالية بنهج يمنح الصناعة مساحة أكبر للتنظيم الذاتي.
