اذعان یوتیوب به خطای بازبین‌های هوش مصنوعی؛ ناظران انسانی به سر کار خود بازمی‌گردند

یوتیوب به‌دلیل دقت پایین فیلترهای هوش مصنوعی در نظارت بر محتوای این شبکه، قصد دارد برای انجام این وظیفه، بیشتر از ناظران محتوای خود استفاده کند.

با شیوع ویروس کرونا و آغاز دورکاری کارمندان، این پلتفرم ویدئومحور اعلام کرده بود که به‌جای نیروی انسانی، از الگوریتم‌های خودکار برای نظارت بر محتوای بارگذاری‌شده استفاده می‌کند.

مارس امسال، یوتیوب گفت که برای حذف محتوای نقض‌کننده‌ی سیاست‌های این پلتفرم و نفرت‌پراکنی‌ها و اطلاعات نادرست، قصد دارد بیشتر از سیستم‌های یادگیری ماشین استفاده ‌کند. هرچند که در هفته‌ی جاری، یوتیوب به رسانه‌ی فایننشال تایمز اعلام کرد که ناظران هوش مصنوعی، ویدئوهای زیادی را به‌اشتباه از این پلتفرم حذف کرده‌اند.

از آوریل تا جون، حدود ۱۱ میلیون ویدئو از یوتیوب حذف شد که حدود دوبرابر تعداد معمول است. بیش از نیمی از تعداد ذکرشده بازگردانی شدند و حدود ۳۲۰،۰۰۰ از ویدئوهای حذف‌شده مورد بررسی قرار گرفتند. ‌به‌گزارش فایننشال تایمز، سیستم‌های هوش مصنوعی در انجام وظیفه‌ خود افراط کرده‌ و دوبرابر آمار معمول، ویدئوها را به‌دلیل محتوای نامناسب به‌اشتباه حذف کرده‌اند.

در آغاز همه‌گیری ویروس کرونا تصمیم گرفتیم به‌جای نیروی انسانی، سیستم یادگیری ماشین بر محتوای این پلتفرم نظارت کند. هرچند که می‌دانستیم این سیستم نمی‌تواند به اندازه‌ی انسان دقیق باشد و ممکن است ویدئوهای بیشتری را به اشتباه حذف کند؛ اما به‌منظور تأمین امنیت کاربران از آن کمک گرفتیم.  

واضح است هوش مصنوعی در تشخیص محتوای نامناسب عملکرد دقیقی نداشت. انتشار نفرت‌پراکنی‌ها و محتوای نامناسب، چالش بسیاری از شبکه‌های اجتماعی ازجمله توییتر، فیسبوک و یوتیوب است. پلتفرم‌های یادشده مدعی شده بودند که الگوریتم‌ها و فیلترهای خودکار می‌تواند امنیت پلتفرمشان را تأمین کنند.

ناظران پلتفرم‌های شبکه‌ی اجتماعی شغل پراسترسی دارند و با درنظرگرفتن قوانین خاص هر شبکه، باید هزاران محتوای نامناسب را بررسی کنند. با اینکه این ناظران تحت برنامه‌های فشرده‌‌ی کاری باید فعالیت کنند؛ اما حمایت کافی از آن‌ها صورت نمی‌گیرد. برخی از پلتفرم‌ها تصمیم دارند برای این انجام این وظیفه از فناوری‌های هوش مصنوعی و یادگیری ماشین استفاده کنند. این فناوری‌ها می‌توانند با استفاده از تشخیص چهره و دسته‌بندی محتوا به ناظران این بخش کمک کنند.

هرچند کارشناسان هوش مصنوعی و ناظران بارها مدعی شدند که این سیستم نمی‌تواند مشکل انتشار محتوای نامناسب پلتفرم‌ها را رفع کند. به‌گفته‌ی آ‌ن‌ها، فناوری‌ مانند انسان نمی‌تواند محتواهایی مانند نژادپرستی را که باعث ناراحتی کاربران می‌شوند، تشخیص دهد. هوش مصنوعی می‌تواند در شناسایی برخی از محتواهای نامناسب بدیهی مفید باشد؛ اما برای انجام دقیق این وظیفه هنوز هم به نیروی انسانی نیاز است.

هنوز سیستم‌های ناظر، اشتباهات زیادی را مرتکب می‌شوند؛ مثلا در مه امسال، بسیاری از کامنت‌های کاربران که عبارات چینی در آن‌ها به‌کار رفته بود، به‌طور خودکار حذف شدند. ازآنجاکه این عبارات هیچ ارتباطی به محتوای حزب کمونیست چین نداشتند و قوانین را نقض نمی‌کردند و هوش مصنوعی به‌اشتباه آن‌ها را تشخیص بود، سخنگوی یوتیوب آن را به خطایی در سیستم‌های اجرایی این پلتفرم ربط داد.

به‌هرحال به‌گفته‌ی موهان، سیستم‌های یادگیری ماشین، کاربردهای خاص خودشان را دارند. هرچند ۱۱ میلیون محتوا به اشتباه‌ حذف شده؛ اما نیمی از این تعداد بدون بازدید حتی یک کاربر یوتیوب و بیش از ۸۰ درصدشان نیز با کمتر از ۱۰ بار بازدید از پلتفرم حذف شده‌اند که این سرعت‌عمل و قدرت سیستم‌های یادگیری ماشین را نشان می‌دهد.