شركة “OpenAI” تكلف فريقًا جديدًا لتقييم “المخاطر الكارثية” للذكاء الاصطناعي

AI بالعربي – متابعات

أعلنت شركة OpenAI، عن تشكيل فريق جديد لتقييم نماذج الذكاء الاصطناعي للحماية مما تصفه بـ”المخاطر الكارثية”، وذكر موقع “تك كرانش” التقني أن مسؤوليات الفريق هي التتبع والتنبؤ والحماية من مخاطر أنظمة الذكاء الاصطناعي المستقبلية، بدءًا من قدرتها على إقناع البشر وخداعهم (كما هو الحال في التصيد الاحتيالي) وحتى قدراتها الضارة على توليد التعليمات البرمجية.

وسيعمل الفريق أيضًا على التخفيف من “التهديدات الكيميائية والبيولوجية والإشعاعية”، بالإضافة إلى “النسخ المستقل” أو قيام الذكاء الاصطناعي بتكرار نفسه، وتشمل بعض المخاطر الأخرى التي سيتناولها فريق الاستعداد قدرة الذكاء الاصطناعي على خداع البشر، فضلاً عن تهديدات الأمن السيبراني، وفقًا لتقرير theverge.

وقالت الشركة: “نحن نعتقد أن نماذج الذكاء الاصطناعي الحدودية، والتي ستتجاوز القدرات الموجودة حاليًا في النماذج الحالية الأكثر تقدمًا، لديها القدرة على إفادة البشرية جمعاء”، وكتب OpenAI في التحديث “لكنها تشكل أيضًا مخاطر شديدة بشكل متزايد.”

وسيقود ألكسندر مادري، الفريق، وتشير OpenAI إلى أن الفريق سيقوم أيضًا بتطوير والحفاظ على “سياسة تطوير مستنيرة للمخاطر”، والتي ستحدد ما تفعله الشركة لتقييم نماذج الذكاء الاصطناعي ومراقبتها.

وحذر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، من احتمال وقوع أحداث كارثية ناجمة عن الذكاء الاصطناعي، وفي مايو أصدر ألتمان وغيره من الباحثين البارزين في مجال الذكاء الاصطناعي بيانًا من 22 كلمة مفاده أن “التخفيف من خطر الانقراض بسبب الذكاء الاصطناعي ينبغي أن يكون أولوية عالمية”، وخلال مقابلة أجريت معه في لندن، اقترح ألتمان أيضًا أن تتعامل الحكومات مع الذكاء الاصطناعي “بنفس القدر من الجدية” الذي تتعامل به مع الأسلحة النووية.

Related Posts

“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

61 / 100 بدعم من Rank Math SEO نتيجة تحسين محركات البحث “سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني AI بالعربي…

أكمل القراءة

ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

55 / 100 بدعم من Rank Math SEO نتيجة تحسين محركات البحث ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية AI بالعربي – متابعات أعلنت…

أكمل القراءة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

You Missed

“Lawgeex” أداة متطورة لمراجعة وتعديل الوثائق القانونية باستخدام الذكاء الاصطناعي

  • من admin
  • يوليو 10, 2025
  • 13 views
“Lawgeex” أداة متطورة لمراجعة وتعديل الوثائق القانونية باستخدام الذكاء الاصطناعي

“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

  • من admin
  • يوليو 10, 2025
  • 15 views
“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

  • من admin
  • يوليو 10, 2025
  • 26 views
ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

“الاستقرار الحسابي تحت الضغط”.. كيف تصمد النماذج في البيئات المتطرفة؟

  • من admin
  • يوليو 10, 2025
  • 19 views
“الاستقرار الحسابي تحت الضغط”.. كيف تصمد النماذج في البيئات المتطرفة؟

“تصميم الإشارات العاطفية” في الواجهات الذكية.. كيف تبني الثقة مع المستخدم؟

  • من admin
  • يوليو 10, 2025
  • 21 views
“تصميم الإشارات العاطفية” في الواجهات الذكية.. كيف تبني الثقة مع المستخدم؟

الذكاء الاصطناعي لا يُغني عن البشر: متى تكون الكفاءة التقنية غير كافية؟

  • من admin
  • يوليو 10, 2025
  • 18 views
الذكاء الاصطناعي لا يُغني عن البشر: متى تكون الكفاءة التقنية غير كافية؟