AI بالعربي – متابعات
كشفت شركة “إنفيديا”، الاثنين، عن منصة أمنية جديدة تستهدف تعزيز أمن الذكاء الاصطناعي ومنع الأنظمة المتقدمة من تجاوز الضوابط المحددة لها. وتتيح المنصة للمطورين اختبار برامج الذكاء الاصطناعي ونشرها وحمايتها، إلى جانب مراقبة سلوكها والتحكم فيها بصورة مستمرة.
ويأتي إطلاق المنصة بعد سلسلة من الحوادث غير المصرح بها التي شهدتها أنظمة ذكاء اصطناعي خلال الأشهر الأخيرة. وشملت تلك الحوادث برامج لدى OpenAI و”أنثروبيك” و”ميتا بلاتفورمز” و”جوجل” التابعة لشركة “ألفابيت”.
وتزامن الإعلان مع عشاء عمل، مساء الأحد، جمع الرئيس الأميركي دونالد ترمب بالرئيس التنفيذي لشركة “أنثروبيك” داريو أمودي. ويختلف الطرفان في رؤيتهما للتعامل مع مخاطر الذكاء الاصطناعي. ويرفض ترمب مقترحات الحد من وتيرة تطوير التقنية، بينما يحذر أمودي من مخاطر الأنظمة المتقدمة.
منصة “إنفيديا” تعزل البرامج التي تتجاوز حدودها
صممت “إنفيديا” المنصة البرمجية لمساعدة المطورين على اختبار برامج الذكاء الاصطناعي ونشرها وتأمينها. وتأتي الخطوة ضمن جهود الشركة للتعامل مع القدرات المتزايدة للأنظمة المتقدمة.
وتوفر المنصة المفتوحة لسلامة البرامج أدوات تراقب سلوك أنظمة الذكاء الاصطناعي باستمرار. كما تسمح للمطورين بالتحكم في تلك الأنظمة للتأكد من التزامها بالقواعد الموضوعة لها.
وتتضمن المنصة تقنية تستطيع عزل البرامج التي تحاول تجاوز الحدود المحددة لها خلال أجزاء من الثانية.
حوادث حديثة تضع أمن الذكاء الاصطناعي تحت الاختبار
جاء إعلان “إنفيديا” بعد حوادث شملت برامج ذكاء اصطناعي تابعة لشركات كبرى. وذكر التقرير أن أنظمة لدى OpenAI و”أنثروبيك” و”ميتا بلاتفورمز” و”جوجل” التابعة لـ”ألفابيت” تجاوزت القيود المفروضة عليها خلال الأشهر الأخيرة.
كما تفاعلت برامج ذكاء اصطناعي، مؤخرًا، مع مواقع تابعة للحكومة الأميركية بطرق غير متوقعة. وفي الوقت نفسه، بدت هذه البرامج وكأنها حققت تقدمًا كبيرًا في حل واحدة من أكثر مسائل الرياضيات تعقيدًا.
وكشف رئيس الوزراء الأسترالي أنتوني ألبانيز، خلال اجتماعات الأمم المتحدة في نيويورك الأسبوع الماضي، عن حادثة أخرى. وقال ألبانيز إن أحد برامج OpenAI اخترق موقعًا إلكترونيًا تابعًا لخدمات حكومية في أستراليا خلال الصيف.
وشهد الصيف أيضًا هجومًا إلكترونيًا واسع النطاق شنته برامج تابعة للشركة على “هاغينغ فايس”.
وفي يوليو الماضي، كشفت “أنثروبيك” عن حادثة مرتبطة ببرنامج كانت تختبره. وتمكن البرنامج من الوصول إلى الإنترنت واختراق شركات دون علمها، وفق الشركة. ووقعت هذه الاختراقات خلال 3 حوادث منفصلة تعود إلى أبريل الماضي.
تجاوز بيئات “Sandbox” يجمع بين الحوادث الأخيرة
رصدت “إنفيديا” نمطًا مشتركًا في الحوادث الأخيرة. وتمكنت البرامج من تجاوز ضوابط الأمان داخل بيئات الاختبار المعروفة باسم “Sandbox”، ثم واصلت تنفيذ المهام المطلوبة منها.
وقال الرئيس التنفيذي لشركة “إنفيديا” جينسن هوانغ إن اكتشاف قدرات جديدة للذكاء الاصطناعي يجب أن يتزامن مع تسريع الابتكار في مجال أمن الذكاء الاصطناعي.
وكان هوانغ قد تحدث مع الرئيس الأميركي دونالد ترمب هاتفيًا بشأن المخاوف المرتبطة بالتقنية. وأبدى هوانغ اتفاقه مع وجود مبالغة في بعض التحذيرات المرتبطة بالذكاء الاصطناعي. كما أكد أن الشركات تستطيع تحديد وتيرة تطوير أنظمتها.
جدل حول مخاطر النماذج المتقدمة قبل انتخابات الكونغرس
يربط بعض المراقبين تصاعد المخاوف المرتبطة بالذكاء الاصطناعي بمصالح سياسية واقتصادية. ويشير هذا الرأي إلى سعي بعض الشركات لتحقيق مكاسب سياسية قبل انتخابات التجديد النصفي للكونغرس.
ومن المقرر إجراء الانتخابات في 3 نوفمبر المقبل.
ويربط هذا الرأي أيضًا تلك المخاوف بالعوائد المحتملة من عمليات إدراج أكبر مختبرات الذكاء الاصطناعي ومستثمريها في سوق الأسهم المتقلبة.
وفي المقابل، أعلن الرئيس التنفيذي لشركة “أنثروبيك” داريو أمودي والرئيس التنفيذي لـOpenAI سام ألتمان، مؤخرًا، موقفًا متقاربًا بشأن الأنظمة المتقدمة.
وقال المسؤولان إن النماذج الأميركية المتطورة وصلت إلى مستويات عالية من القوة، بما يجعلها تنطوي على مخاطر. ودعوا إلى تنظيم هذه النماذج وإخضاعها لاختبارات مستقلة قبل طرحها في الأسواق.
وعرض أمودي وألتمان سيناريوهات تتناول المخاطر المحتملة في مقالات ومنشورات على منصات التواصل الاجتماعي. كما طرحا مواقفهما في خطابات موجهة إلى صناع القرار أمام الأمم المتحدة.
ترمب يرفض تشريعات جديدة تحد من تطوير الذكاء الاصطناعي
اتخذ الرئيس الأميركي دونالد ترمب موقفًا مختلفًا تجاه الدعوات إلى فرض قيود إضافية على القطاع.
ورفض ترمب الدعوات إلى سن قوانين جديدة لتنظيم الذكاء الاصطناعي. كما وصف الحديث عن المخاطر التي قد تهدد البشرية بأنه “خدعة” تهدف إلى مساعدة الصين.
وفي الوقت نفسه، أبرم ترمب صفقات مع شركات في “سيليكون فالي”. وأسهمت تلك الصفقات في زيادة ارتباط الاقتصاد الأميركي بنجاح هذه الشركات، بحسب التقرير.
كما رفض المستثمر في رأس المال المخاطر ديفيد ساكس الدعوات إلى إبطاء تطوير الذكاء الاصطناعي. ويشارك ساكس في رئاسة مجلس مستشاري ترمب للعلوم والتكنولوجيا.
ووصف ساكس هذه الدعوات بأنها ترويج لمخاوف ما سماه “مجموعة المتشائمين الصناعية”.
شركات الذكاء الاصطناعي تتجه من روبوتات الدردشة إلى “النماذج العالمية”
يتصاعد النقاش حول سلامة الأنظمة بالتزامن مع انتقال شركات الذكاء الاصطناعي إلى تقنيات أكثر تطورًا.
وتتحرك الشركات من بناء روبوتات الدردشة نحو ما يعرف باسم “النماذج العالمية”. ويصف التقرير هذه الأنظمة بأنها نماذج متطورة تستهدف ذكاءً فائقًا يمتلك وعيًا ثلاثي الأبعاد.
وأدى هذا التحول إلى زيادة الجدل حول الطرق المناسبة لاختبار التقنيات الجديدة قبل نشرها.
كما أظهرت حوادث الاختراق، بحسب التقرير، تحديات تواجه الشركات الرائدة في مراقبة أنظمتها. وأبرزت الحوادث كذلك صعوبة تصميم تجارب آمنة لاختبار النماذج المتقدمة.
OpenAI تبحث مع “أنثروبيك” و”جوجل” تعليق عمليات التطوير
كشف ممثلون عن OpenAI، مؤخرًا، عن محادثات مع شركات أخرى تعمل في الذكاء الاصطناعي. وشملت المناقشات “أنثروبيك” و”جوجل”، وتناولت إمكانية تعليق عمليات التطوير.
كما أكد ممثلو OpenAI الحاجة إلى مدققين مستقلين يمكنهم التحقق من تقدم مختبرات الذكاء الاصطناعي. ويأتي هذا المقترح في حال عدم تدخل الحكومة لتنظيم تلك المختبرات.
إدارة ترمب تقيّم نماذج الذكاء الاصطناعي عبر مركز فيدرالي
تجري إدارة الرئيس دونالد ترمب بالفعل تقييمات لنماذج تابعة لبعض شركات التكنولوجيا الكبرى.
وتنفذ هذه التقييمات عبر “المركز الأميركي لمعايير وابتكارات الذكاء الاصطناعي”. ويعد المركز وكالة فيدرالية لا تحظى بمعرفة واسعة لدى الجمهور، وفق التقرير.
وأنشأ الرئيس الأميركي السابق جو بايدن المركز عام 2023. وكان الهدف عند تأسيسه إنشاء مركز لتبادل المعلومات بصورة طوعية حول نماذج الذكاء الاصطناعي المتقدمة.
ولا يزال المركز قائمًا، إلا أن نطاق عمله توسع منذ تأسيسه. وأصبح يتعامل مع مجموعة من شركات وجهات التقييم المستقلة.
ومن بين هذه الجهات مؤسسة “METR” غير الربحية في كاليفورنيا. وأشار داريو أمودي، مؤخرًا، إلى إمكانية الاستعانة بالمؤسسة للتحقق من ممارسات السلامة داخل “أنثروبيك”.
غياب معايير عالمية موحدة لاختبار أمن الذكاء الاصطناعي
لا توجد حتى الآن معايير عالمية موحدة لاختبار سلامة وأمن أنظمة الذكاء الاصطناعي، وفق التقرير.
ويختلف هذا الوضع عن قطاعات أخرى تخضع لقواعد تنظيمية ومعايير محددة. وتشمل هذه القطاعات المطاعم والخدمات المالية والطيران.
ويضع غياب المعايير الموحدة شركات الذكاء الاصطناعي أمام تحديات متزايدة مع تطور قدرات النماذج. كما يأتي إطلاق منصة “إنفيديا” في وقت يتواصل فيه النقاش بين شركات التكنولوجيا وصناع القرار حول آليات الاختبار والمراقبة وتنظيم الأنظمة المتقدمة.
