الگوریتم برنده در چالش تشخیص دیپ‌فیک فیسبوک یک‌سوم از پاسخ‌ها را اشتباه حدس زد

فیسبوک نتایج اولین چالش تشخیص دیپ‌فیک (Deepfake Detection Challenge) خود را منتشر کرد. این چالش رقابتی برای تمامی افراد به‌منظور یافتن الگوریتم‌هایی است که می‌توانند ویدئوهای دست‌کاری‌شده با هوش مصنوعی را تشخیص دهند. اگرچه نتایج امیدوارکننده هستند، درعین‌حال نشان می‌دهند پیش از اینکه سیستم‌های خودکارشده بتواند محتوای دیپ‌فیک را کاملا تشخیص دهد، هنوز مسیر ناپیموده‌ی طول‌ودرازی در پیش است. دلیل چنین ادعایی، اظهارات محققان درباره‌ی موضوع تشخیص کامل محتوای دیپ‌فیک به‌عنوان مشکلی حل‌نشده است.

فیسبوک می‌گوید الگوریتم برنده در این رقابت توانست «نمونه‌های چالش‌برانگیز دنیای واقعی» از دیپ‌فیک را با دقت متوسط ۶۵٫۱۸ درصد تشخیص دهد. با اینکه چنین رقمی چندان هم بد به‌نظر نمی‌رسد، آن‌قدر عملکردی نیست که کاربران از سیستم خودکارشده انتظار دارند.

دیپ‌فیک ثابت کرده است تهدیدی بیش‌ازحد برای رسانه‌های اجتماعی است. این فناوری به افزایش بیش‌ازحد نگرانی‌ها درباره‌ی ازبین‌رفتن مدارک ویدئویی موثق منجر شده؛ ولی تأثیرات سیاسی آن تاکنون بسیار کمتر بوده است. درواقع، خسارت تقریبا آنی دیپ‌فیک ایجاد محتوای پورنوگرافی غیرمجاز، یعنی دسته‌ای از محتوا برای پلتفرم‌های رسانه‌های اجتماعی است که راحت‌تر می‌توان آن‌ها را تشخیص داد و حذف کرد. مدیر ارشد فناوری فیسبوک، مایک چروپفر، در تماسی مطبوعاتی به خبرنگاران گفت از نتایج این چالش بسیار خرسند است. به‌گفته‌ی او، این رقابت معیاری را برای محققان ایجاد و در آینده، آن‌ها را در انجام وظایفشان راهنمایی می‌کند. وی گفت: «اگر صادقانه بگویم، این رقابت بسیار موفق‌‌تر از آن ‌چیزی بود که همیشه انتظار داشتم».

محققان برای آموزش الگوریتم‌های خودشان به این داده‌ها دسترسی پیدا کردند و هنگام انجام آزمایش روی این ویدئوها، میزان دقت الگوریتم‌‌‌‌‌‌ها برای تشخیص محتوای دیپ‌فیک در بیشترین حالت ۸۲/۵۶ درصد بود. بااین‌حال، هنگام آزمایش روی مجموعه‌داده‌ی «جعبه‌ی سیاه» متشکل از تصاویر دیده‌نشده، دقت همین الگوریتم‌ها در بهترین حالت تنها ۶۵٫۱۸ درصد بود. چنین موضوعی نشان می‌دهد تشخیص دیپ‌فیک در عالم  واقعی، مسئله‌ای بسیار دشوار است.

مایک چروپفر می‌گوید جدا از این رقابت، درحال‌حاضر فیسبوک مشغول توسعه‌ی فناوری تشخیص دیپ‌فیک خودش است. سال قبل، این غول فناوری اعلام کرد در حال مسدودکردن محتوای دیپ‌فیک است. بااین‌حال، منتقدان گفتند تهدید بسیار بزرگ‌تر ویدئوهای به‌اصطلاح شَلوفیک (Shallowfake) هستند که با استفاده از ابزارهای سنتی ویرایش شده‌اند.

الگوریتم‌های برنده در این رقابت به‌عنوان کدهای متن‌باز برای کمک به سایر محققان منتشر خواهند شد؛ ولی فیسبوک گفت برای جلوگیری از انجام مهندسی ‌معکوس روی الگوریتم این شرکت، فناوری تشخیص دیپ‌فیک خودش را مخفی نگه خواهد داشت.