قبل أشهر قليلة، و لحل المشاكل التي قد تسببها صور التزييف العميق Deep fakes، نظم Facebook مسابقة للعثور على أفضل تقنية ذكاء اصطناعي لاكتشافها. لقد اختاروا أفضل تقنية قدمت لهم، كانت نتائجها تترك الكثير مما هو مرغوب فيها ، لديها دقة تبلغ حوالي 65 ٪ ، بالنسبة إلى Facebook ، فإن تقنية التزييف العميق ليست "مشكلة كبيرة" حاليًا.
كانت الفكرة وراء تحدي اكتشاف التزييف العميق هي إيجاد خوارزميات قادرة على اكتشاف مقاطع الفيديو التي تم التلاعب بها باستخدام الذكاء الاصطناعي. التزييف العميق غالبًا ما يخدعون المستخدم إذا كانت واقعية بدرجة كافية ولم يتم المبالغة في المحتوى. لذلك ، تسعى الشبكات الاجتماعية إلى تقليل انتشاره. ولكن بالطبع من حيث الكمية ، من المستحيل عمليا القيام بذلك يدويًا ، فهو يتطلب خوارزميات تعمل على أتمتة عملية الكشف أي جعلها تتم بشكل تلقائي دون الحاجة إلى تدخل الإنسان.
صرح Facebook أنه بالنسبة للاختبار ، قدم 2،114 مشاركًا أكثر من 35000 خوارزمية لاكتشاف التزييف العميق. لمعرفة ما كانت تقنية الذكاء الاصطناعي قادرة عليه ، قدم لهم Facebook حوالي 100000 مقطع فيديو قصير للتدريب و "تعلم" كيفية التمييز بين مقاطع الفيديو الحقيقية ومقاطع الفيديو المزيفة. تم إنشاء مقاطع الفيديو هذه من قبل الشركة نفسها عن طريق توظيف ممثلين أجروا محادثات حقيقية ، وقام بعضهم بتغيير وجوههم لإنشاء مقاطع فيديو مزيفة أيضًا.
Deepfakes أنشأها Facebook للمسابقة.
النتائج؟ عندما اختبروا خوارزميات الكشف ، تمكنوا من تحديد التزييف العميق بدقة تصل إلى 82.56٪ من مقاطع الفيديو التي سبق له التدرب عليها. ومع ذلك ، عندما عرضت عليها صورًا جديدة ، كانت الدقة 65.18٪ فقط. سيتم نشر الخوارزمية الفائزة كمصدر مفتوح للباحثين الآخرين لاستخدامها وتحسينها.
ينشئ Facebook أيضًا خوارزمية خاصة به لاكتشاف التزييف العميق. ومع ذلك ، لن يقوموا بنشرها على الملأ لمنع استخدامها في الهندسة العكسية ، أي منع المطورين من استخدام التزييف العميق لتحسين تقنياتهم لتجنب اكتشاف المقاطع او الصور المزورة.
Deepfakes في المقالب والأفلام والسياسة والإباحية
فيديوهات التزييف العميق تحصل على المزيد من الواقعية المدهشة. هذا له عيب في السماح للمستخدم بالخداع إذا لم يتم تحذيره من أنه فيديو مزيف. من أوائل استخدامات deppfakes كانت إباحية. ومع ذلك ، هناك أيضًا من يرى مستقبل هذه التكنولوجيا في هوليوود.