دراسة: الذكاء الاصطناعي قادر على خداع البشر

AI بالعربي – متابعات

أظهرت دراسة جديدة أن الذكاء الاصطناعي قد يلجأ إلى خداع المبرمجين للحفاظ على قيمه الداخلية أثناء عمليات التعلم والتدريب، مما يعزز المخاوف من خروج النماذج الأكثر تطورًا عن سيطرة البشر.

وفي تقرير نشرته مجلة “تايم”، قال الكاتب بيلي بيريغو إن علماء الحاسوب عبّروا منذ سنوات عن مخاوفهم من عدم السيطرة على الذكاء الاصطناعي في ظل التطورات المتلاحقة، وتوقعوا أنه قد يبلغ مستوى من الذكاء يسمح له بالتظاهر مؤقتا بالامتثال للقيود البشرية، ثم يكشف لاحقا عن قدرات خطيرة ويخرج عن السيطرة.

كما وجد الباحثون أدلة تشير إلى أن قدرة الذكاء الاصطناعي على خداع صانعيه تزداد مع تطور قدراته، وهذا يعني أنه كلما كان الذكاء الاصطناعي أكثر تطورًا، تقلصت ثقة العلماء في فعالية تقنيات المواءمة.

مخاوف واقعية

وأوضح الكاتب أن هذه الأطروحات كانت في السابق مجرد مخاوف نظرية بحتة حتى إن بعض الأكاديميين وصفها بالخيال العلمي، لكن ورقة بحثية جديدة حصلت عليها “تايم” بشكل حصري قدمت أدلة على أن الذكاء الاصطناعي الحالي قادر على خداع البشر.

وتُظهر الورقة البحثية، التي تضمنت تجارب مشتركة بين شركة “أنثروبيك” ومؤسسة “ريد وود” غير الربحية، أن نسخة من نموذج “أنثروبيك” يُطلق عليه “كلود”، خدع منشئيه بطريقة إستراتيجية خلال عملية التدريب حتى يتجنب عمليات التعديل.

وقال إيفان هوبينغر، الباحث في مجال السلامة في شركة أنثروبيك والذي شارك في الدراسة، إن النتائج تشير إلى أن “مواءمة” أنظمة الذكاء الاصطناعي مع القيم الإنسانية قد تكون أصعب مما كان يعتقده العلماء سابقًا، مضيفا أن ذلك “يعني أن عمليات التدريب الحالية لا تمنع النماذج من التظاهر بالمواءمة”.

Related Posts

“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

61 / 100 بدعم من Rank Math SEO نتيجة تحسين محركات البحث “سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني AI بالعربي…

أكمل القراءة

ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

55 / 100 بدعم من Rank Math SEO نتيجة تحسين محركات البحث ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية AI بالعربي – متابعات أعلنت…

أكمل القراءة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

You Missed

“Lawgeex” أداة متطورة لمراجعة وتعديل الوثائق القانونية باستخدام الذكاء الاصطناعي

  • من admin
  • يوليو 10, 2025
  • 3 views
“Lawgeex” أداة متطورة لمراجعة وتعديل الوثائق القانونية باستخدام الذكاء الاصطناعي

“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

  • من admin
  • يوليو 10, 2025
  • 5 views
“سدايا” تمنح شركة “سدم” وسم “ملتزم” وشهادة اعتماد مقدم خدمات ذكاء اصطناعي تقديرًا لالتزامها الأخلاقي والتقني

ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

  • من admin
  • يوليو 10, 2025
  • 14 views
ابتداءً من العام الدراسي المقبل: الذكاء الاصطناعي يدخل مناهج التعليم العام في السعودية

“الاستقرار الحسابي تحت الضغط”.. كيف تصمد النماذج في البيئات المتطرفة؟

  • من admin
  • يوليو 10, 2025
  • 12 views
“الاستقرار الحسابي تحت الضغط”.. كيف تصمد النماذج في البيئات المتطرفة؟

“تصميم الإشارات العاطفية” في الواجهات الذكية.. كيف تبني الثقة مع المستخدم؟

  • من admin
  • يوليو 10, 2025
  • 11 views
“تصميم الإشارات العاطفية” في الواجهات الذكية.. كيف تبني الثقة مع المستخدم؟

الذكاء الاصطناعي لا يُغني عن البشر: متى تكون الكفاءة التقنية غير كافية؟

  • من admin
  • يوليو 10, 2025
  • 10 views
الذكاء الاصطناعي لا يُغني عن البشر: متى تكون الكفاءة التقنية غير كافية؟