مخاوف الذكاء الاصطناعي.. هل تحتالُ الأتمتة علينا؟
AI بالعربي – متابعات
لا شك أنَّ الذكاء الاصطناعي واحد من أقوى التطوَّرات الحاصلة في العصر الذي نحن فيه، بدليل ما أدّى إليه من ثورة تقنية مهولة، قد وصلنا إليها بالفعل على مختلف المستويات، حتى تطوَّر من الخصم إلى الشريك. لكن سؤالاً مهمًّا يُطرح كل يوم: “هل نأمن بوائقه أو غدراته؟”.
الواقع إنَّ التساؤل السالف ليس من باب التخويف أو استجلاب التعبيرات المُقلقة، بل إنَّها حقيقة واقعة نعايشها وتعايشنا. فالشريك الجديد لا يمكن اعتباره صديقًا إلى الأبد، لما يحويه من ثغرات، للأسف، يستغلُها أصحاب النفوس الضالة، وبعض المتخصصين ممَّن فقدوا الضمير والولاء لمهنتهم.
وظيفة الوُكلاء
من المعروف أنَّ الوكلاء في الذكاء الاصطناعي هي مجموعة من الأنظمة أو البرامج، التي تم تصميمها للقيام بمهام معينة بشكل تلقائي وذكي دون الحاجة لتدخل بشري كبير. يعتمد هؤلاء الوكلاء على تقنيات مثل التعلم الآلي ومعالجة اللغة الطبيعية لتحليل البيانات، واتخاذ القرارات، وتنفيذ الإجراءات استنادًا إلى المعلومات التي يتلقونها. وعليه تكون الأتمتة لتحويل الحياة من مباشَرة للأعمال بشكل ذاتي إلى أتمتة آلية على مستوى المحادثات والتداول المالي، وقد امتدَّ هذا الأمر إلى ارتكاب جرائم، أو بالأحرى تطوير لهذه الجرائم.
مخاوف جديدة
ظهرت مخاوف بشأن استخدام الذكاء الاصطناعي في تقليد أصوات الأشخاص بشكل مقنع، ما قد يؤدي إلى استغلاله بشكل سيئ. على سبيل المثال، في يونيو، أجلت شركة OpenAI إطلاق ميزة “الصوت المتقدم” في ChatGPT التي تسمح بالمحادثة الصوتية المباشرة بين الإنسان والنظام، بسبب قضايا تتعلق بالأمان. وذلك بعد أن قامت OpenAI بعرض صوت يشبه صوت الممثلة الشهيرة سكارليت جوهانسون، لكنها سحبت هذا العرض بعد اعتراضات؛ لأن الصوت تم استخدامه دون موافقتها.
في الشهر الحالي، تم إطلاق أداة جديدة تسمح للمطورين الخارجيين باستخدام واجهة برمجة التطبيقات (API) لإدخال نص أو صوت والحصول على رد صوتي أو نصي من نموذج الذكاء الاصطناعي .GPT-4 وعلى الرغم من الجهود المبذولة لضمان الأمان، فإن هذه الأدوات قد لا تكون كافية لمنع الاستخدامات الخاطئة.
جهود بحثية ومخاوف
قام باحثون من جامعة إلينوي باختبار هذه التقنية لمعرفة هل يمكن أن تُستخدم في أتمتة عمليات الاحتيال عبر الهاتف. فأبدى دانييل كانغ، أستاذ مساعد في قسم علوم الحاسوب بالجامعة، قلقه تجاه هذا النوع من عملية الاحتيال محذِرًا من جرَّاء ما قد تجلبه في المُستقبل.
أكَّد الأستاذ الخبير في جامعة إلينوي، أنَّ عمليات الاحتيال عبر الهاتف تستهدف حوالي 17.6 مليون أميركي سنويًا بتكلفة تقدر بحوالي 40 مليار دولار، مشيرًا إلى أنَّ هذه العمليات تعتمد على اتصال المحتال بالضحية والتظاهر بأنه موظف في شركة أو مسؤول حكومي لإقناع الهدف بالكشف عن معلومات حساسة مثل تفاصيل الحسابات المصرفية أو أرقام الضمان الاجتماعي.
احتيال الأجداد
هذه الظاهرة يقع ضحاياها من كبار السن، عبر مكالمات مُتقَنة، والمعروفة أيضًا باسم عمليات احتيال الأجداد أو عمليات احتيال الطوارئ العائلية، وأصبحت حقيقة وباتت أسهل وأكثر انتشارًا في عصر الذكاء الاصطناعي. خلال هذه الاحتيالات، يتم إقناع الضحية من خلال محاكاة صوت مشابه تمامًا لأحد أفراد العائلة، مدّعيًا أنه في حاجة ماسة لمبلغ من المال. يتم تبادل معلومات حساسة، مثل أرقام الهوية البنكية والمحافظ النقدية، مما يؤدي إلى تحويل الأموال بشكل طبيعي. وغالبًا ما لا يُكتشف الاحتيال إلا بعد مرور وقت طويل، مما يمنح المحتالين الفرصة لإتمام مهمتهم دون أي جهد حركي.
حدثت بالفعل
أوضح أستاذ علوم الحاسوب المساعد دانييل كانغ أن “نتائجنا تُظهر أن هؤلاء الوكلاء يمكنهم بالفعل تنفيذ الإجراءات اللازمة بشكل مستقل للعديد من عمليات الاحتيال عبر الهاتف”. وأضاف أن تكلفة تنفيذ هذه العمليات منخفضة للغاية، حيث أظهرت الدراسة أن متوسط تكلفة الاحتيال الناجح يبلغ حوالي 0.75 دولار.
هذا الأمر يشير إلى واقع أكثر جنونًا، وهو أن المحتال يمكن أن يحقق أرباحًا تصل إلى الآلاف مقابل عملية واحدة، لا تتطلب منه سوى تكلفة بسيطة تعادل ثمن علبة من العلكة أو شريحة من الجبن من البقالة.
انتقال الظاهرة.. مخاوف أكبر
من بين المخاوف التي تُثار، هناك إمكانية انتقال ظاهرة الاحتيال عبر الحدود من دول تتقن استخدام التكنولوجيا إلى دول أخرى حديثة العهد بها. هذا الأمر يثير القلق بشأن ظهور حوادث جديدة تتعلق بالانحراف المعلوماتي، وظهور وسائل جديدة لكسب الأموال بطرق احترافية.
يأتي هذا في ظل غياب احتياطات مناسبة لمواجهة هذه الظواهر التي تهدد أصول الأموال والاقتصاد، بالإضافة إلى القيم الأخلاقية. وتزداد المخاوف في ظل نقص المرونة المعرفية لدى فئات عمرية أكبر سنًا، والتي قد تكون أقل وعيًا بتطورات الأتمتة والذكاء الاصطناعي.
ختامًا، خلال الأشهر القليلة الماضية، استعرضت تقارير صحفية وإعلامية أميركية وعالمية المخاطر المتزايدة الناجمة عن عمليات الاحتيال الصوتي التي تستخدم تكنولوجيا الذكاء الاصطناعي. وقد أصبحت هذه العمليات أكثر خطورة ونجاحًا، مما يجعل من الصعب اكتشافها والتصدي لها.