طالب في جامعة واشنطن يكتشف نقاط ضعف برنامج الذكاء الاصطناعي “GTP 4‎”

58

AI بالعربي – خاص

تمكن “أليكس ألبرت” الطالب ‎بكلية علوم الحاسب في جامعة ‎واشنطن، نقاط ضعف في برنامج الذكاء الاصطناعي “‎GTP4” وتحويله إلى أداة لاختراق وتهكير أجهزة الكمبيوتر، وفقًا لما ذكره الدكتور حزام بن سعود السبيعي عبر حسابه في منصة “تويتر”.

وأشار السبيعي إلى أن «أليكس ألبرت»، وجد طريقة لتجاوز آليات الأمان الخاصة ببرنامج ‎الذكاء الاصطناعي “‎GPT4″، وتمكن من التلاعب به لتوليد تعليمات لاختراق جهاز كمبيوتر، من خلال استغلال نقاط الضعف في الطريقة التي يفسر بها النص ويستجيب له.

وأوضح أن موقع أخبار التقنية “‎VentureBeat”، سارع لعمل مقابلة مع “أليكس ألبرت” لفهم هذا الخطر الداهم للمجتمع التقني وغيره من المجتمعات.

وقال «ألبرت» خلال حواره مع الموقع التقني إنه لن يروج لاستخدام “GPT4” لأغراض ضارة، ولكنه يسلط الضوء على تهديد برامج ونماذج ‎الذكاء الاصطناعي المتقدمة إذا وقعت في الأيدي الخطأ.

وتحدث موقع “‎VentureBeat” مع “ألبرت” لفهم دوافعه، وتقييم مخاطر النماذج اللغوية الكبيرة مثل “‎GPT4″، واستكشاف كيفية تعزيز مناقشة واسعة حول وعود ومخاطر ‎الذكاء الاصطناعي المتقدم.

وذكر الطالب خلال حواره مع الموقع أن العوامل التي دفعته لتوضيح نقاط ضعف “‎ChatGPT”، هي أنه عمل ممتع على حد وصفه، ومن المثير للاهتمام اختبار هذه النماذج بطرق فريدة ومبتكرة، موضحًا أنه يقوم بعمل ‎جيلبريك “كسر الحماية” بشكل نشط لثلاثة أسباب رئيسية، هي: إنشاء عمليات كسر الحماية لتشجيع الآخرين على القيام بعمليات كسر الجيلبريك، ومحاولة كشف تحيزات النموذج الدقيق بواسطة النموذج الأساسي القوي، ومحاولة فتح محادثة الذكاء الاصطناعي لوجهات نظر خارج الفقاعة، مشيرًا إلى إن عمليات كسر الحماية هي مجرد وسيلة لتحقيق غاية في هذه الحالة.

وأشار “ألبرت” إلى أنه لا يمتلك إطار عمل للتغلب على الإرشادات المبرمجة في “‎GPT 4″، لكن الأمر يتطلب مزيدًا من التفكير والجهد للالتفاف على عوامل التصفية (الفلاتر)، مشيرًا إلى أن هناك تقنيات معينة أثبتت فعاليتها، مثل “prompt injection”، والمحاكاة المعقدة التي تتعمق في مستويات متعددة.

وحول رأيه في تداعيات هذا الجيلبريك على مستقبل الذكاء الاصطناعي، أكد الطالب بجامعة واشنطن أنه يأمل أن يكون مصدر إلهام للآخرين للتفكير بطريقة إبداعية حول عمليات كسر الحماية. فالتي كسرت “‎GPT3” لم تعد تعمل، لذا يلزم مزيدًا من الحدس للالتفاف على فلاتر “‎GPT4″، مبينًا أنه ستكون مثل لعبة القط والفأر.

وأكد السبيعي أن الصحف تناقلت أحدث إصدار من “‎OpenAI” لنموذجها الشهير “GPT-4″، وتمكن المطورون بالفعل من تجاوز عوامل تصفية الإشراف الخاصة به، مما يوفر للمستخدمين محتوى ضارًا ويخبرهم بكيفية اختراق جهاز كمبيوتر شخص ما، وذلك في غضون يومين من إصداره.

اترك رد

Your email address will not be published.