فیسبوک برای تشخیص محتوای دیپ فیک ۱۰ میلیون دلار هزینه می‌کند

فیسبوک به فرد یا گروهی که فناوری کاربردی برای تشخیص محتوای دیپ فیک توسعه دهند، جایزه‌ی نقدی اهدا می‌کند. به‌علاوه آن‌ها انواع محتوای دیپ فیک را تولید می‌کنند تا شرکت‌کننده‌ها در رقابت، داده‌ی اولیه برای آزمایش داشته باشند.

چالش تشخیص محتوای دیپ فیک (Deepfake Detection Challenge) برنامه‌ای مشارکتی با حضور فیسبوک، مایکروسافت، سازمان The Partnership on AI و فعالان دانشگاهی است. فیسبوک در همکاری مذکور، ۱۰ میلیون دلار سرمایه‌گذاری کرده است. هدف این برنامه، کمک به شناسایی و اعمال نظر درباره‌ی ویدئوها و محتوای رسانه‌ای دیگری تعریف شد که برای نشان دادن فعالیتی غیرواقعی توسط یک فرد به‌خصوص، دستکاری می‌شوند؛ محتوایی که به‌نام دیپ فیک شناخته می‌شود.

مایک شروپفر، مدیر فناوری بخش هوش مصنوعی فیسبوک در یک پست وبلاگی درباره‌ی برنامه‌ی جدید شرکتش نوشت:

هدف چالش، تولید یک فناوری است که هر فرد بتواند با استفاده از آن، سوءاستفاده از هوش مصنوعی در تغییر محتوای ویدئویی را تشخیص دهد؛ سوءاستفاده‌ای که عموما با هدف گمراه‌کردن مخاطب صورت می‌گیرد.

همان‌طور که گفته شد، در چالش تشخیص محتوای دیپ فیک از دسته‌ای محتوای اختصاصی برای بررسی و تمرین فناوری شرکت‌کننده‌ها استفاده می‌شود. فیسبوک از ویدئوهای جدید در این چالش استفاده می‌کند که بازیگرانی با پرداخت هزینه در آن شرکت کرده‌اند. به‌ بیان‌ دیگر، به‌هیچ‌وجه از داده‌های شخصی کاربران فیسبوک در چالش استفاده نخواهد شد. فیسبوک برای تأمین محتوای آزمایشی شرکت‌کننده‌ها، ویدئوهای اصلاح‌شده و اصلاح‌نشده‌ی متعددی تولید می‌کند تا سیستم‌های طراحی‌شده را به چالش بکشند. درنهایت چنین چالش‌ها و مسابقه‌هایی به کمک شبکه‌های اجتماعی می‌آیند تا روشی برای تشخیص محتوای دستکاری‌شده (پیش از گسترش زیاد) توسعه دهند.

هزینه‌ای که شرکت‌های حاضر در برنامه پرداخت می‌کنند، برای کمک به روند تحقیقات هم استفاده می‌شود. درواقع هزینه‌ی ۱۰ میلیون دلاری فیسبوک در پروژه‌ی حاضر، تنها برای اهدای جایزه نیست و به تأمین نیازهای مالی گروه‌های تحقیقاتی هم اختصاص خواهد یافت. رسانه‌ی دیجیتال ترندز در همین موضوع مصاحبه‌ای با سخنگوی فیسبوک داشت که او در پاسخ گفت:

مجموع ۱۰ میلیون دلار سرمایه‌گذاری فیسبوک به‌صورت کمک‌های مالی دانشگاهی، جایزه‌‌های مخصوص چالش، هزینه‌ی برگزاری ورکشاپ و ساخت دیتاست جدید پرداخت می‌شود. به‌هرحال ما تلاش می‌کنیم تا توسعه‌ی هرچه بیشتر دیتاست را ادامه دهیم و از جامعه‌ی محققان حمایت داشته باشیم.

چالش تشخیص محتوای دیپ فیک از اکتبر سال جاری میلادی شروع می‌شود و تا مه سال ۲۰۲۰ به‌صورت جهانی ادامه خواهد یافت.

دیپ فیک، فناوری جدیدی است که امسال رشد قابل‌توجهی را از لحاظ فنی و حتی توجه رسانه‌ای تجربه کرد. تاکنون نمونه‌های متعددی از این فناوری دیده‌ایم که چالش‌های رسانه‌ای متعددی هم برای شخصیت‌های مشهور ایجاد کرده‌اند. به‌عنوان مثال، چندی پیش یک ویدئوی دیپ فیک از مارک زاکربرگ پخش شد. مدیرعامل فیسبوک در ویدئوی تقلبی مذکور صحبت‌هایی پیرامون سلطه‌ی بالای شرکتش روی داده‌های میلیون‌ها کاربر مطرح می‌کرد. متخصصان اعتقاد دارند فناوری دیپ فیک با سرعت بالایی پیشرفت می‌کند و ویدئوهای دیپ فیک در سال‌های پیش‌رو طبیعی‌تر و قانع‌کننده‌تر خواهند شد.

متخصصان دنیای فناوری اعتقاد دارند، برنامه‌هایی همچون چالش موجود برای جلوگیری از توزیع محتوای خرابکارانه‌ی دیپ فیک اهمیت و کاربرد بالایی دارند. فیلیپ ایزولا، استادیار مهندسی برق و علوم کامپیوتر در دانشگاه MIT درباره‌ی جلوگیری از کاربرد غلط دیپ فیک می‌گوید:

فناوری دستکاری تصاویر سریع‌تر از توان ما در تشخیص واقعیت از دروغ پیشرفت می‌کند. حل کردن مشکلی با چنین ابعادی، قطعا از قدرت یک نفر خارج خواهد بود. مسابقه‌ها و رویدادهای عمومی و آزاد مانند چالش کنونی،‌ با متمرکز کردن قدرت ذهنی جهانی روی یک مشکل بزرگ، موجب بروز نوآوری می‌شوند.