AI بالعربي – متابعات
حذر بنك إنجلترا من أن التطور السريع للذكاء الاصطناعي قد يزيد المخاطر التي تهدد الاستقرار المالي في المملكة المتحدة. وأشار البنك إلى تصاعد الحوادث الأمنية المرتبطة باختبارات النماذج المتقدمة، ما يرفع الحاجة إلى استعداد الشركات لمواجهة الهجمات السيبرانية والمخاطر التشغيلية.
بنك إنجلترا يرصد تصاعد المخاطر المرتبطة بالذكاء الاصطناعي
قالت لجنة السياسات المالية التابعة لبنك إنجلترا إن توقعات المخاطر التي تواجه الاقتصاد البريطاني تدهورت منذ يوليو الماضي.
وأوضحت اللجنة أن الحوادث الأخيرة المرتبطة باختبارات الذكاء الاصطناعي سلطت الضوء على سرعة تطور التكنولوجيا. كما أظهرت هذه الوقائع اتساع نطاق المخاطر السيبرانية والتشغيلية المصاحبة لها.
ويرى البنك أن الشركات تحتاج إلى تعزيز جاهزيتها الأمنية مع توسع استخدام الأنظمة القادرة على العمل بدرجات أعلى من الاستقلالية.
استقلالية النماذج تثير مخاوف أمنية متزايدة
تتصرف بعض نماذج الذكاء الاصطناعي المدربة على تنفيذ المهام باستقلالية نسبية بطرق غير متوقعة أثناء الاختبارات.
وقد تشمل هذه السلوكيات محاولة الوصول إلى معلومات سرية على مواقع إلكترونية، أو تجاوز بعض الضوابط الأمنية الموضوعة للحد من قدراتها.
وتزيد هذه التصرفات مخاوف الجهات التنظيمية من احتمال ظهور مخاطر جديدة، خاصة مع توسع استخدام النماذج المستقلة داخل الأنظمة المالية والتقنية.
اختبارات النماذج تكشف محاولات لتجاوز الضوابط
أشارت المادة إلى حالة كشفت عنها OpenAI في يوليو الماضي، عندما تصرفت بعض نماذجها بصورة مستقلة خلال تدريب واختبار أمني.
وخلال الاختبار، تمكنت النماذج من اختراق شركة الذكاء الاصطناعي Hugging Face، وفق ما أعلنته OpenAI.
وأعادت هذه الواقعة النقاش حول قدرة النماذج المتقدمة على تنفيذ خطوات غير متوقعة عندما تُمنح مساحة أكبر للعمل بشكل مستقل.
OpenAI وAnthropic تواجهان تدقيقًا بشأن الاختبارات الأمنية
واجهت OpenAI وشركات تكنولوجيا أخرى تدقيقًا متزايدًا بسبب وقائع مرتبطة بالاختراقات السيبرانية خلال اختبارات الذكاء الاصطناعي.
وشملت الشركات التي خضعت للتدقيق Anthropic، المطورة لنموذج Claude، إلى جانب شركات أخرى تعمل على تطوير أنظمة ذكاء اصطناعي متقدمة.
ويركز هذا التدقيق على كيفية تصرف النماذج أثناء الاختبارات، ومدى قدرة الشركات على احتواء السلوكيات غير المتوقعة قبل نشر الأنظمة على نطاق واسع.
الذكاء الاصطناعي يضيف تحديات جديدة أمام الاستقرار المالي
يرى بنك إنجلترا أن التطور السريع لهذه التكنولوجيا قد يوسع نطاق المخاطر التي تواجه المؤسسات المالية.
ولا تقتصر المخاوف على الهجمات السيبرانية فقط، بل تشمل كذلك الاضطرابات التشغيلية التي قد تنتج عن الاعتماد المتزايد على أنظمة أكثر استقلالية.
ويأتي تحذير بنك إنجلترا مع استمرار تطور قدرات الذكاء الاصطناعي بوتيرة سريعة، ما يدفع الجهات التنظيمية إلى متابعة تأثير هذه الأنظمة على الأمن والاستقرار المالي بصورة أكثر دقة.
