عدد من الشركات بما في ذلك Microsoft і Facebook، وحتى باحثون من جامعة جنوب كاليفورنيا ، يطورون تقنيات لمكافحة التزييف العميق ومنع انتشارها من خلال وسائل الإعلام الصفراء والمعلومات المضللة بشكل عام. ومع ذلك ، تمكنت مجموعة من العلماء من خداعهم.
حذر فريق من علماء الكمبيوتر في جامعة كاليفورنيا في سان دييغو من أنه لا يزال من الممكن خداع أنظمة الكشف عن التزييف العميق عن طريق إدخال بيانات الإدخال تسمى "الأمثلة المتنافسة" في كل إطار فيديو. قدم العلماء نتائجهم في مؤتمر WACV 2021 Computer Vision ، الذي عقد عبر الإنترنت الشهر الماضي.
الأمثلة المتنافسة هي مدخلات معدلة قليلاً تجعل أنظمة الذكاء الاصطناعي ، مثل نماذج التعلم الآلي ، ترتكب أخطاء. بالإضافة إلى ذلك ، أظهر الفريق أن الهجوم لا يزال يعمل بعد ضغط الفيديو. في الفيديو أعلاه ، أظهر العلماء أن XceptionNet ، جهاز كشف التزييف العميق ، يصنف الفيديو المنافس على أنه "حقيقي".
تعمل معظم هذه الكواشف عن طريق تتبع الوجوه في مقطع فيديو وإرسال بيانات الوجه التي تم اقتصاصها إلى شبكة عصبية لتحليلها. ستقوم الشبكة العصبية بعد ذلك بتحليل هذه البيانات والعثور على العناصر التي عادة ما يتم إعادة إنتاجها بشكل سيئ في التزييف العميق ، مثل الخفقان.
من خلال إدخال أمثلة متنافسة ، وجد الباحثون أنه يمكنهم خداع أجهزة الكشف عن التزييف العميق هذه للاعتقاد بأن مقاطع الفيديو كانت حقيقية.
يذكرون في الورقة أنه "من أجل استخدام أجهزة الكشف عن التزييف العميق في الممارسة ، من المهم تقييمها ضد خصم متكيف يدرك هذه الحماية ويحاول كسرها عن عمد. نوضح أنه يمكن تجاوز طرق اكتشاف التزييف العميق الحديثة بسهولة إذا كان المهاجم على علم كامل أو جزئي بالكاشف ".
كما أوضح هؤلاء العلماء ، فإن تقنيات الأتمتة التي يتم تطويرها لمكافحة المعلومات المضللة قد لا ترقى إلى مستوى المهمة.
اقرأ أيضا: