كاشف “التزييف العميق”.. أحدث إصدرات “OpenAI” للباحثين في مجال التضليل الإعلامي
AI بالعربي – متابعات
أطلقت شركة “OpenAI” كاشف “التزييف العميق” لمساعدة لباحثين في مجال التضليل الإعلامي في اكتشاف المحتوى المصنوع باستخدام الذكاء الاصطناعي. وقالت الشركة إن كاشفها الجديد لمحتوى التزييف العميق يمكنه التعرف على 98.9 في المائة من الصور التي تم إنشاؤها بواسطة مولدها الخاص ” DALL – E 3.
محاربة التزيف العميق
كتب كيد ميتز وتيفاني هسو في “نيويورك تايمز” أنه ينما يحذر الخبراء من أن الصور والأصوات والفيديوهات الناتجة عن الذكاء الاصطناعي يمكن أن تؤثر على انتخابات الخريف الأميركية، تطلق “OpenAI” هذه الأداة، لكنها تعترف بأن الأداة ليست سوى جزء صغير مما ستكون هناك حاجة إليه لمحاربة ما يسمى التزييف العميق في الأشهر والسنوات المقبلة.
وقالت الشركة الثلاثاء، إنها ستشارك كاشف التزييف العميق الجديد الخاص بها مع مجموعة صغيرة من الباحثين في مجال المعلومات المضللة؛ حتى يتمكنوا من اختبار الأداة في مواقف العالم الحقيقي، والمساعدة في تحديد الطرق التي يمكن من خلالها تحسينها.
وأكدت ساندهيني أغاروال، الباحثة في “أوبن إيه آي”، التي تركز على جوانب السلامة والسياسة: “هذا مجال بحث جديد… هذا ما نحتاج له حقاً”.
وأوضحت “OpenAI” إن الأداة لم تكن مصممة لاكتشاف الصور التي تنتجها المولدات الشهيرة الأخرى مثل ميدجورني Midjourney وستيبل Stable. نظراً لأن هذا النوع من كاشفات التزييف العميق يعتمد على الاحتمالات، فإنه لا يمكن أن يكون مثالياً أبداً.
لذا، مثل العديد من الشركات الأخرى والمنظمات غير الربحية والمختبرات الأكاديمية، تعمل شركة “OpenAI” على محاربة المشكلة بطرق أخرى. ومثل عمالقة التكنولوجيا “جوجل” و”ميتا”، تنضم الشركة إلى اللجنة التوجيهية للتحالف من أجل مصدر المحتوى والأصالة Coalition for Content Provenance and Authenticity C2PA، وهو جهد لتطوير بيانات الاعتماد للمحتوى الرقمي.
ويعد معيار C2PA بمثابة “علامة التغذية” للصور ومقاطع الفيديو والمقاطع الصوتية والملفات الأخرى التي توضح متى وكيف تم إنتاجها أو تعديلها، بما في ذلك تلك المولدة باستخدام الذكاء الاصطناعي.
علامات مائية
أكدت”OpenAI” إنها تعمل على تطوير طرق لوضع علامة مائية على الأصوات التي يولدها الذكاء الاصطناعي، بحيث يمكن التعرف عليها بسهولة في الوقت الحالي. وتأمل الشركة أن تجعل من الصعب إزالة هذه العلامات المائية.
الرأي العام
في عام حافل بالانتخابات الكبرى حول العالم، تدعو الحاجة إلى إيجاد طرق لمراقبة نسب الذكاء الاصطناعي. وفي الأشهر الأخيرة، أثرت الملفات الصوتية والصور بالفعل على الحملات السياسية والتصويت في أماكن من بينها سلوفاكيا وتايوان والهند.
وقد يساعد كاشف التزييف العميق الجديد من “OpenAI” في حل المشكلة، لكنه لن يحلها. وعلى حد تعبير السيدة أغاروال: “«في المعركة ضد التزييف العميق، لا يوجد حل سحري”.
تزييف المحتوى
وقالت «أوبن إيه آي» إن الأداة لم تكن مصممة لاكتشاف الصور التي تنتجها المولدات الشهيرة الأخرى مثل ميدجورني Midjourney وستيبل Stable. نظراً لأن هذا النوع من كاشفات التزييف العميق يعتمد على الاحتمالات، فإنه لا يمكن أن يكون مثالياً أبداً.