عندما يلجأ المحتالون إلى الذكاء الاصطناعي لإيقاع ضحاياهم

بدا الرجل الذي يهاتف روث كارد تماماً مثل حفيدها براندون. لذلك عندما قال إنه في السجن، من دون أموال أو هاتف محمول، ويحتاج إلى نقود للإفراج عنه بكفالة، سارعت كارد لفعل كل ما في وسعها للمساعدة.

واندفعت هي وزوجها إلى مصرفهما، حيث سحبا 3000 دولار كندي (2207 دولارات أميركية)، وهو الحد الأقصى اليومي، ثم سارعا إلى فرع آخر للحصول على مزيد من المال. لكن لحسن حظهما فإن مدير البنك كان متيقظاً وأخبرهما عن حالات الاحتيال، وعندها أدركا أنهما تعرضا للخداع.

في مقابلة مع صحيفة “واشنطن بوست” قالت كارد، “كنا مقتنعين بأننا كنا نتحدث إلى براندون”.

مع تزايد عمليات الخداع عبر انتحال الهوية في الولايات المتحدة، تدل محنة كارد على اتجاه مقلق. تسهل التكنولوجيا للمحتالين تقليد الأصوات وإقناع الناس، غالباً من كبار السن، بأن أحباءهم في محنة.

أضافت التطورات في الذكاء الاصطناعي مستوى جديداً مرعباً، مما سمح للمحتالين بنسخ صوت أحدهم من نموذج صوتي لا يتعدى بضع جمل. بدعم من الذكاء الاصطناعي، يمكن لعدد كبير من البرامج الرخيصة عبر الإنترنت ترجمة ملف صوتي لشخص على الإنترنت إلى نسخة طبق الأصل من صوته، مما يسمح للمحتال بجعله “ينطق” كل ما يكتب له عبر البرنامج.

إنه التأثير السلبي للتطور الأخير في الذكاء الاصطناعي الذي يدعم البرامج التي تنشئ نصوصاً أو صوراً أو أصواتاً بناء على البيانات التي تتم تغذيته بها. أدى التقدم في الرياضيات وقوة الحوسبة إلى تحسين آليات التدريب لمثل هذه البرامج، مما حفز أسطولاً من الشركات على إطلاق روبوتات المحادثة وإنشاء الصور وإنشاء الأصوات التي تشبه الحقيقية بشكل غريب.

هاني فريد، أستاذ الأثر الرقمي بجامعة كاليفورنيا في بيركلي، يقول لـ”واشنطن بوست” إن برنامج توليد الصوت بالذكاء الاصطناعي يحلل الخصائص التي تجعل صوت الشخص فريداً – بما في ذلك العمر والجنس واللهجة – ويبحث في قاعدة بيانات واسعة من الأصوات للعثور على أصوات مماثلة والتنبؤ بالأنماط.

ويضيف “قبل عامين، وحتى قبل عام، كنت بحاجة إلى كثير من التسجيلات الصوتية لاستنساخ صوت شخص ما. اليوم… إذا كانت لديك صفحة على فيسبوك… أو إذا قمت بتسجيل فيديو مع صوتك على تيك توك لمدة 30 ثانية، فيمكن للأشخاص استنساخ صوتك”.

وتقوم شركات مثل “إيليفن لابز” ElevenLabs، وهي شركة ناشئة لإنشاء الصوت بالذكاء الاصطناعي تأسست عام 2022، بتحويل عينة صوتية قصيرة إلى صوت تم إنشاؤه صناعياً من خلال أداة تحويل النص إلى كلام.

واشتهرت “إيليفن لابز” بعد انتقادات لبرنامجها الذي يستخدم لتكرار أصوات المشاهير وجعلهم يقولون أشياء لم ينطقوا بها أبداً، مثل نشر صوت شبيه بـإيما واتسون وهي تتلو مقاطع من كتاب أدولف هتلر “كفاحي”.

من جهتها، قالت الشركة إنها تطور إجراءات وقائية لوقف سوء الاستخدام، بما في ذلك حظر المستخدمين المجانيين للبرنامج من إنشاء أصوات مخصصة وإطلاق أداة لاكتشاف الصوت الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

لكن هذه الضمانات متأخرة جداً بالنسبة إلى ضحايا مثل بنجامين بيركين الذي فقد أهله المسنون آلاف الدولارات في عملية احتيال صوتي.

بدأ كابوس استنساخ صوته عندما تلقى والداه مكالمة هاتفية من محام مزعوم، قال إن ابنهما قتل دبلوماسياً أميركياً في حادثة سيارة وإنه في السجن ويحتاج إلى المال لدفع الرسوم القانونية.

ثم تظاهر المحامي بأنه يعطي الهاتف لــبيركين الذي قال إنه يحبهما ويقدرهما ويحتاج إلى المال. بعد ساعات قليلة، اتصل المحامي بوالدي بيركين مرة أخرى، قائلاً إن ابنهما يحتاج إلى 21000 دولار كندي (15450 دولارا أميركياً) قبل موعد المحكمة في وقت لاحق من ذلك اليوم.

قال والداه في وقت لاحق إن المكالمة بدت غير عادية، لكنهما لم يتمكنا من التخلص من الشعور بأنهما تحدثا بالفعل إلى ابنهما.

ولفت بيركين إلى أن الصوت بدا “قريباً بما يكفي ليصدق والداي حقاً أنهما تحدثا إليّ”. في حال ذعرهما هذه، هرعا لسحب النقود من المصرف وأرسلا الأموال إلى المحامي عبر محطة “بيتكوين”.

عندما اتصل بيركين الحقيقي بوالديه في تلك الليلة للاطمئنان، شعرا بالارتباك. وأشار بيركين إلى أن العائلة قدمت بلاغاً إلى السلطات الفيدرالية الكندية، لكن ذلك لم يعِد الأموال.

ويقول الخبراء إن أجهزة إنفاذ القانون والمحاكم غير مهيأة لكبح عمليات الاحتيال المزدهرة هذه. معظم الضحايا لديهم عدد قليل من الخيوط التي تحدد هوية الجاني ويصعب على الشرطة تتبع المكالمات والأموال من المحتالين العاملين في جميع أنحاء العالم. وهناك سوابق قانونية قليلة للمحاكم لمحاسبة الشركات التي تجعل برامجها مسؤولة عن استخدامها.