كيف تمكن طالب جامعي من خداع عشرات الآلاف عبر مدونة مزيفة مولَّدة بالذكاء الاصطناعي؟

بقلم: كارين هاو

لم يكن ليام بور قد سمع عن نموذج الذكاء الاصطناعي جي بي تي-3 (GPT-3) إلا في بداية الأسبوع.

وبحلول نهاية الأسبوع، تمكن هذا الطالب الجامعي من استخدام النموذج لإنتاج مدونة مزيفة بالكامل تحت اسم مستعار.

كانت غايته من وراء ذلك إجراء تجربة ممتعة، لكن أحد منشوراته احتل المرتبة الأولى على موقع هاكر نيوز (Hacker News).

ولم يلاحظ الكثير من الناس أن مدونته بأكملها قد تم توليدها بالذكاء الاصطناعي، بل إن البعض قد ضغط على زر “الاشتراك” في المدونة.

في حين أن الكثيرين قد تكهنوا بكيفية تأثير نموذج جي بي تي-3 (أقوى أداة ذكاء اصطناعي لتوليد اللغة حتى الآن) على إنتاج المحتوى، فإن هذه المدونة تمثل واحدة من الحالات القليلة المعروفة التي تسلط الضوء على إمكانات هذه الأداة. ويقول بور، الذي يدرس علوم الحاسوب في جامعة كاليفورنيا بيركلي، إن أكثر ما يميز هذه التجربة هو “تمكنه من القيام بها بسهولة بالغة، وفي الواقع، كان ذلك هو الجزء المخيف في الأمر”.

يعد نموذج جي بي تي-3 أحدث وأضخم نموذج ذكاء اصطناعي لغوي من إنتاج مختبر الأبحاث أوبن إيه آي (OpenAI)، ومقره كاليفورنيا، الذي بدأ الكشف عن تفاصيل النموذج تدريجياً في منتصف يوليو. في فبراير من العام الماضي، تصدَّر مختبر أوبن إيه آي العناوين الإخبارية مع إصداره لنموذج جي بي تي-2، وهو نسخة سابقة من الخوارزمية، وقد أعلن المختبر أنه سيحجب الوصول إليه خوفاً من إساءة استخدامه. وعلى الفور، أثار قرار الحجب الانتقادات؛ حيث اتهم الباحثون المختبرَ بالتلاعب والاحتيال. وبحلول نوفمبر، كان المختبر قد غير موقفه وأفرج عن النموذج، قائلاً إنه لم يكتشف “أي دليل قوي على سوء الاستخدام حتى الآن”.اتخذ المختبر نهجاً مختلفاً مع نموذج جي بي تي-3؛ إذ لم يقم بحجب النموذج كاملاً كما لم يقم بإتاحته للوصول العام. بدلاً من ذلك، أتاح الخوارزمية لمجموعة مختارة من الباحثين الذين تقدموا بطلب للوصول إلى إصدار تجريبي خاص من النموذج، بهدف جمع ملاحظاتهم والترويج التجاري للتكنولوجيا بحلول نهاية العام.

قدَّم بور طلباً للوصول إلى الإصدار التجريبي من النموذج من خلال تعبئة نموذج استبيان بسيط حول الغرض من استخدامه. لكنه لم ينتظر الحصول على الموافقة؛ فبعد التواصل مع العديد من أعضاء مجتمع بيركلي للذكاء الاصطناعي، سرعان ما عثر على طالب دكتوراه يتمتع بالفعل بإمكانية الوصول إلى النموذج. وبمجرد موافقة طالب الدراسات العليا على التعاون معه، كتب بور برنامجاً صغيراً للاستفادة من النموذج. يقوم البرنامج بتزويد عنوان منشور ومقدمته إلى نموذج جي بي تي-3 الذي يتولى إنتاج العديد من الإصدارات المكتملة. كان منشور بور الأول (الذي احتل المرتبة الأولى على هاكر نيوز)، وجميع المنشورات اللاحقة، عبارة عن نسخ ولصق لمخرجات النموذج من دون تحرير أو بعد تحرير بسيط.

ويقول بور: “ربما استغرق الأمر بضع ساعات منذ اللحظة التي خطرت لي فيها الفكرة وتواصلت مع طالب الدكتوراه إلى أن قمت بالفعل بإنشاء المدونة والانتشار الواسع لأول منشور”.

ويقول بور: “إنه جيد جداً في صياغة كلام منمق، لكنه لا يتمتع ببراعة كبيرة في المواضيع التي تتطلب منطقاً وعقلانية”. لذلك اختار بور فئات تدوين تحظى بشعبية ولا تتطلب منطقاً صارماً، وهي فئات الإنتاجية والمساعدة الذاتية.

بعد ذلك، كتب عناوينه الرئيسية باتباع صيغة بسيطة: كان يتصفح موقعي ميديوم (Medium) وهاكر نيوز لمعرفة نوعية المنشورات التي تحقق مراتب متقدمة في هذه الفئات ليأتي بمنشورات شبيهة نسبياً.

وكان عنوان أحد هذه المنشورات: “هل تشعر بضعف الإنتاجية؟ ربما يجب أن تتوقف عن الإفراط في التفكير”، بينما حمل منشور آخر عنوان: “الجرأة والإبداع يتفوقان على الذكاء”. ورغم أن أسلوب العناوين الرئيسية لم ينجح في بعض الأحيان، ولكن العملية كانت سهلة طالما تابع النشر حول المواضيع الصحيحة.

وبعد أسبوعين من المنشورات اليومية تقريباً، أنهى مشروعه برسالة واحدة نهائية غامضة كتبها بنفسه وتحمل عنوان: “ما الذي يمكنني فعله باستخدام نموذج جي بي تي-3 إذا تجرّدت من أية أخلاق؟”، وتصف هذه الرسالة عمليته بأنها تجربة مفترضة. كما نشر في نفس اليوم اعترافاً أكثر وضوحاً على مدونته الحقيقية.

الأشخاص القلائل الذين شككوا في مدونة بور المزيفة تم التصويت ضدهم لتخفيض ترتيب تعليقاتهم من قبل أعضاء آخرين من جمهور الموقع.

يقول بور إنه أراد إثبات أنه يمكن لنموذج جي بي تي-3 أن يخدع الناس على أنه كاتب بشري. في الواقع، وعلى الرغم من نمط الخوارزمية الغريب إلى حد ما في الكتابة والأخطاء العرضية، فإن ثلاثة أو أربعة أشخاص فقط من عشرات الأشخاص الذين علَّقوا على أعلى منشوراته تصنيفاً في هاكر نيوز قد أثاروا الشكوك في احتمال أن يكون قد تم كتابته من قِبل خوارزمية. وقد تم على الفور التصويت ضد جميع هذه التعليقات لتخفيض ترتيبها من قِبل الأعضاء الآخرين من جمهور الموقع.

بالنسبة للخبراء، لطالما كان هذا الأمر يمثل مصدر القلق الذي يثيره هذا النوع من الخوارزميات المولِّدة للغة. منذ أن أعلن أوبن إيه آي لأول مرة عن جي بي تي-2، تكهَّن الناس بأنه قد يكون عرضة لإساءة الاستخدام. وقد شدَّد المختبر، في منشور على مدونته، على إمكانية استخدام أداة الذكاء الاصطناعي هذه كسلاح لإنتاج كميات ضخمة من المعلومات المزيفة. بينما تساءل آخرون عن إمكانية استخدامها لإنتاج منشورات مزعجة مليئة بالكلمات المفتاحية ذات الصلة للتلاعب بمحرك البحث جوجل.

يقول بور إن تجربته تُظهر أيضاً بديلاً أكثر بساطة ولكنه لا يزال مقلقاً؛ إذ يستطيع الأشخاص استخدام الأداة لإنشاء الكثير من المحتوى المثير للاهتمام الذي يدفع الناس للنقر عليه. ويضيف: “من الممكن أن نصل إلى مرحلة نشهد فيها فيضاً من المحتوى الرديء على المدونات لأنه من السهل الآن تجاوز العقبات أمام استخدام هذه الأداة، ولذا أعتقد أننا سنشهد انخفاضاً كبيراً في قيمة المحتوى على الإنترنت”.يخطط بور لإجراء المزيد من التجارب باستخدام نموذج جي بي تي-3، لكنه لا يزال ينتظر الحصول على حق الوصول من مختبر أوبن إيه آي. ويقول بور: “من المحتمل أنهم مستاؤون مني لقيامي بهذه التجربة، لكني أعتقد أن موقفهم هذه يبدو سخيفاً بعض الشيء”.اخترنا لك للقراءة01نظام ذكاء اصطناعي متعدد اللغات من فيسبوك يستطيع الترجمة ما بين 100 لغة02انطلاق القمة العالمية للذكاء الاصطناعي في السعودية03بديل نباتي للحوم والألبان: هل تحب أن تجرب بنفسك؟04لماذا يتطوع العشرات في المملكة المتحدة للإصابة عمداً بكوفيد-19؟05هل تحتكر جوجل عمليات البحث كما تقول وزارة العدل الأميركية؟مقالات مشابهة