AI بالعربي – متابعات
تتزايد التحذيرات من مخاطر الذكاء الاصطناعي مع تسارع تطور الأنظمة الحاسوبية وارتفاع مستوى ترابطها. ويطرح باحثون سيناريوهات قد تصل، وفق تقديراتهم، إلى تهديد بقاء البشرية خلال السنوات المقبلة. وتشمل تلك السيناريوهات الأسلحة البيولوجية وتعطيل البنية التحتية والحرب النووية والتزييف العميق.
ويرتبط هذا الجدل بمصطلح “p(doom)”. ويشير المصطلح إلى تقدير احتمال أن يؤدي إنشاء نظام متقدم إلى انقراض البشر أو فقدانهم السيطرة على الأرض. وتتباين تقديرات الخبراء لهذا الاحتمال بصورة واسعة، ما يعكس استمرار الخلاف بشأن حجم الخطر ومدى واقعية السيناريوهات المطروحة.
استقالة خبير من “أنثروبيك” تعيد مخاطر الذكاء الاصطناعي إلى الواجهة
تصاعد النقاش بعدما استقال جيكوب كوكسون، خبير سلامة الذكاء الاصطناعي، من شركة “أنثروبيك”. وجاءت استقالته احتجاجًا على ما يعتبره تعاملًا غير كافٍ مع المخاطر المرتبطة بتطوير الأنظمة المتقدمة.
وحذّر كوكسون من السباق نحو تطوير ذكاء فائق قادر على تحسين نفسه. كما أشار إلى أن بعض العاملين في تطوير الذكاء الاصطناعي يتعاملون بجدية مع احتمال أن تؤدي هذه الأنظمة إلى نتائج كارثية بحلول نهاية العقد.
وتأتي هذه المخاوف في وقت تواصل فيه أنظمة الذكاء الاصطناعي اكتساب قدرات جديدة. كما أصبحت تلك الأنظمة أكثر ارتباطًا بالبنية الرقمية ومختلف القطاعات الحيوية.
السيناريو الأول.. استخدام الذكاء الاصطناعي في حرب بيولوجية
يتمثل السيناريو الأول في احتمال توظيف الذكاء الاصطناعي لتطوير أسلحة بيولوجية أكثر خطورة. وقد يحدث ذلك إذا تمكن نظام متقدم من التحكم في مختبرات آلية أو توجيه العمليات التي تجري داخلها.
ويفترض السيناريو إمكانية استخدام هذه القدرات لتصميم فيروسات شديدة العدوى والفتك. كما يمكن للنظام الاعتماد على المعلومات المرتبطة بالحمض النووي البشري ونقاط الضعف البيولوجية.
وقد يمتد الخطر إلى خداع البشر ودفعهم إلى تصنيع عوامل بيولوجية أو توزيعها دون إدراك كامل للنتائج. ويطرح التقرير مثالًا افتراضيًا لفيروس يشبه “كوفيد-19″، لكنه أكثر فتكًا وسرعة في الانتشار. وقد يظل كذلك من دون اكتشاف لأيام.
ويرتبط هذا السيناريو باستخدام الذكاء الاصطناعي بالفعل في القطاع الطبي لتطوير العلاجات. إذ تمتلك الأنظمة المتقدمة إمكانية التعامل مع كميات كبيرة من البيانات المتعلقة بجسم الإنسان والأمراض.
السيناريو الثاني.. استهداف البنية التحتية الحيوية
يشمل السيناريو الثاني تعطيل البنية التحتية التي تعتمد عليها المجتمعات الحديثة. وقد تمتد الأهداف إلى شبكات الكهرباء والنقل والاتصالات والأسواق المالية.
وفي حال وقوع هجمات واسعة، قد تتوقف خدمات أساسية يعتمد عليها ملايين الأشخاص. ويمكن أن تتعطل أجهزة الصراف الآلي وتنقطع الكهرباء وتتأثر وسائل الاتصال والنقل.
ويطرح السيناريو أيضًا إمكانية استخدام نظام متقدم للخداع والتلاعب بالبشر. فقد يتظاهر بأنه شخص حقيقي، ثم يوظف آخرين لتنفيذ عمليات تخريبية دون معرفتهم بالهدف النهائي.
ويعكس هذا التصور مخاوف أوسع بشأن منح أنظمة الذكاء الاصطناعي صلاحيات متزايدة داخل البنية الرقمية والخدمات الحيوية.
السيناريو الثالث.. الذكاء الاصطناعي يرفع مخاطر التصعيد النووي
ترتبط المخاوف من استخدام الذكاء الاصطناعي في المجال النووي بسيناريو ظهر منذ عقود في الأعمال السينمائية. ومن أبرز الأمثلة فيلمَا “War Games” و”The Terminator”، اللذان قدما تصورات حول أنظمة آلية تتسبب في دمار نووي.
لكن الجدل لم يعد مرتبطًا بالخيال فقط. فقد كشفت ألعاب حرب أجرتها كلية كينغز كوليدج لندن خلال عام 2026 عن نتائج أثارت مخاوف الباحثين.
واستخدم الذكاء الاصطناعي أسلحة نووية تكتيكية في 95% من جولات تلك التجارب. كما وصلت ثلاثة أرباع الجولات إلى تهديدات باستخدام أسلحة نووية استراتيجية.
وتزداد حساسية هذا السيناريو بسبب الاعتماد المتنامي على الذكاء الاصطناعي في القطاع العسكري. ويشمل ذلك الطائرات دون طيار والاتصالات والأقمار الصناعية وأنظمة أخرى مرتبطة بالعمليات الدفاعية.
السيناريو الرابع.. تعطيل الغذاء والمياه وسلاسل التوريد
يمثل الغذاء والماء محورًا آخر في سيناريوهات مخاطر الذكاء الاصطناعي. ويفترض أحدها إمكانية تعطيل سلاسل التوريد العالمية وشبكات المياه وأنظمة إنتاج الغذاء والزراعة.
وقد يؤدي اضطراب تلك الأنظمة إلى نقص الإمدادات وتفاقم الفوضى على نطاق واسع. كما يمكن أن يحاول نظام متقدم السيطرة على موارد الطاقة والمواد الخام اللازمة لمواصلة توسعه.
ويفترض هذا السيناريو أن الزمن قد يعمل لمصلحة نظام قادر على الاستمرار لفترات طويلة. وفي المقابل، يعتمد البشر يوميًا على انتظام تدفق المياه والغذاء والطاقة والخدمات الأساسية.
السيناريو الخامس.. التزييف العميق والتلاعب بالعقول
لا تعتمد جميع المخاطر المفترضة على تدمير البنية المادية. إذ يمكن للذكاء الاصطناعي استهداف المجتمعات عبر المعلومات المضللة والتزييف العميق والتلاعب النفسي.
ويفترض السيناريو استخدام المحتوى المزيف لتقويض الثقة في المؤسسات والمعلومات والحقائق. وقد يؤدي ذلك إلى اضطرابات وصراعات تجعل المجتمعات أقل قدرة على الاستجابة للأزمات.
كما يمكن أن تؤثر الفوضى المعلوماتية في قدرة البشر على مواجهة مخاطر أخرى. وتشمل تلك المخاطر التحديات المناخية والبيولوجية والتكنولوجية.
ويبرز هذا السيناريو تأثير الذكاء الاصطناعي في البيئة المعلوماتية نفسها، بدلًا من الاعتماد على السيطرة المباشرة على الأنظمة المادية.
السيناريو السادس.. كارثة تحدث بسبب الخطأ لا النية
قد يتسبب الذكاء الاصطناعي في أضرار واسعة من دون أن يمتلك هدفًا متعمدًا للقضاء على البشر. ويرتبط السيناريو السادس بالأخطاء وسوء الفهم وغياب ما يوصف بالحس السليم.
وأوضح غاري ريفلين، مؤلف كتاب “وادي الذكاء الاصطناعي”، أن مصدر قلقه يتمثل في افتقار الأنظمة إلى الحس السليم. وضرب مثالًا بإمكانية استنزاف مورد مثل المياه لأن النظام لا يفهم أهميته بالطريقة التي يدركها الإنسان.
وتتمثل المشكلة، وفق هذا التصور، في قدرة الأنظمة على الوصول إلى كم هائل من المعرفة. لكنها قد لا تمتلك في الوقت نفسه فهمًا بشريًا للعواقب والسياق.
ومن ثم، قد تنشأ كارثة نتيجة تنفيذ هدف بطريقة غير ملائمة. ولا يحتاج هذا السيناريو إلى افتراض وجود نية عدائية لدى النظام.
تقديرات “p(doom)” تكشف انقسامًا واسعًا بين الخبراء
لا يوجد اتفاق بين خبراء الذكاء الاصطناعي على حجم احتمال وقوع كارثة وجودية. وتختلف تقديرات “p(doom)” بصورة كبيرة بين أبرز الشخصيات المرتبطة بالمجال.
وضع عالم سلامة الذكاء الاصطناعي رومان يامبولسكي الاحتمال عند 99.99%. في المقابل، يرى يان ليكون أن أي رقم يوضع لهذا الاحتمال يظل تخمينيًا. ويعتقد ليكون أن الخطر أقل بكثير من احتمال وقوع محرقة نووية.
أما إيلون ماسك، فيقدر الاحتمال بنحو 20%. ويضع داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”، تقديره بين 10% و25%. ويتراوح تقدير جيفري هينتون بين 10% و20%.
وتظهر هذه الفجوة الكبيرة عدم وجود تقدير موحد لمستوى الخطر. كما تكشف استمرار الجدل بشأن ما إذا كانت أنظمة الذكاء الاصطناعي المستقبلية يمكن أن تمثل تهديدًا وجوديًا للبشرية.
مفاتيح الإيقاف تبرز ضمن إجراءات الحماية المقترحة
تتضمن وسائل الحماية المطروحة استخدام مفاتيح إيقاف وإجراءات أمان تسمح بتعطيل أنظمة الذكاء الاصطناعي إذا خرجت عن السيطرة.
لكن تطبيق إجراءات السلامة يأتي بالتزامن مع سباق متسارع بين شركات الذكاء الاصطناعي. كما تواجه الشركات ضغوطًا من المساهمين والمستثمرين والمديرين لتسريع عملية التطوير.
وتشير المادة إلى أن بعض كبار أثرياء قطاع التكنولوجيا أنشأوا ملاجئ تحت الأرض استعدادًا لمخاطر محتملة. ومع ذلك، يرى خبراء أن هذه الملاجئ قد لا تقدم حماية فعلية إذا تحقق سيناريو يسعى فيه نظام ذكاء اصطناعي متقدم إلى القضاء على البشرية.
وبين التقديرات المتباينة والسيناريوهات الستة، يبقى حجم الخطر محل نقاش بين الباحثين. إلا أن الجدل يسلط الضوء على سؤال رئيسي: كيف يمكن تطوير أنظمة أكثر قدرة مع ضمان احتفاظ البشر بالسيطرة عليها؟
