کمک هوش مصنوعی به انسان برای بررسی پست‌های نامناسب فیسبوک

فیسبوک همیشه کاملا واضح موضع خود درمقابل استفاده از هوش مصنوعی در شبکه‌های اجتماعی را مشخص کرده است. توسعه‌دهندگان این شرکت اعتقاد دارند که باید از این فناوری برای انجام امور عادی بیشتری استفاده کرد؛ زیرا قابلیت این کار را دارد. فیسبوک به‌تازگی جدیدترین اقدام خود برای رسیدن به این هدف را اعلام کرده و گفته است برای دسته‌بندی محتواهایی که احتمالا قوانین را نقض کرده‌اند و در صف بررسی نیروهای انسانی برای تصمیم‌گیری نهایی هستند، از یادگیری ماشینی استفاده خواهند کرد.

 کاربران یا یادگیری ماشینی پست‌هایی را مشخص می‌کنند که تصور می‌شود قوانین این شرکت را نقض می‌کنند. ازجمله‌ی این پست‌ها می‌توان به پست‌های هرزنامه (Spam) یا حاوی سخنان خشونت‌‎آمیز و دیگر گزینه‌هایی اشاره کرد که به‌وضوح سیاست‌های فیسبوک را زیر پا می‌گذارند. پس از این مرحله، پست‌هایی که کاملا واضح هستند، به‌صورت خودکار رسیدگی می‌شوند. برای مثال، اگر پستی کاملا واضح خلاف قوانین این پلتفرم منتشر شده باشد، با یکی از روش‌های حذف مطلب یا مسدود‌شدن حساب منتشر‌کننده پاسخ داده می‌شود. این در حالی است که باقی پست‌های مشخص‌شده برای بررسی ناظران انسانی در صف قرار می‌گیرند.

فیسبوک حدود ۱۵ هزار نفر از این کارکنان را در سراسر دنیا استخدام کرده است. پیش‌تر، این شرکت به‌دلیل حمایت ناکافی از کارمندان مذکور با انتقاد مواجه شده بود. حتی گفته می‌شود فیسبوک آن‌ها را در بخشی به‌کار گرفته که ممکن است به صدمات جدی به بستر این شبکه اجتماعی منجر شود. وظیفه‌ی این افراد مرتب‌سازی پست‌هایی است که احتمال می‌رود قوانین فیسبوک را نقض کرده باشند. آن‌ها باید بتوانند تصمیم بگیرند که کدام پست‌ها ممکن است بیشتر از دیگر پست‌ها قوانین این شرکت را زیر پا گذاشته باشند.

در گذشته، ناظران پست‌ها را کمابیش از نظر زمانی مرور و به‌ترتیب گزارش‌شده با آن‌ها برخورد می‌کردند. اکنون، فیسبوک می‌گوید که می‌خواهد مطمئن شود مهم‌ترین پست‌ها ابتدا دیده می‌شوند و از یادگیری ماشینی برای کمک به آن‌ها استفاده می‌کند. در آینده برای مرتب‌سازی این صف، از الگوریتم‌های مختلف یادگیری ماشینی استفاده و پست‌ها براساس سه معیار ویروسی‌بودن و شدت و احتمال نقض‌کردن قوانین اولویت‌بندی می‌شود.

نحوه‌ی دقیق ارزیابی این معیارها مشخص نیست؛ اما فیسبوک می‌گوید هدف این است که ابتدا با آسیب‌رسان‌ترین پست‌ها برخورد شود. بنابراین، هرچه پست ویروسی‌تر باشد (بیشتر به‌اشتراک گذاشته و دیده شود) با سرعت بیشتری با آن برخورد خواهد شد. فیسبوک می‌گوید پست‌هایی را به‌عنوان مهم‌ترین پست‌های ویروسی رتبه‌بندی می‌کند که ممکن است به افرادی در دنیای واقعی آسیب برسانند. از نمونه‌های این دسته می‌توان به پست‌هایی حاوی مطالب مربوط به تروریسم یا آزار کودکان یا خودزنی اشاره کرد. در همین حال، پست‌هایی که مانند هرزنامه‌ها آزاردهنده هستند؛ اما آسیب‌زا نیستند، در کمترین اهمیت برای بررسی قرار می‌گیرند.

رایان بارنز، یکی از مدیران فیسبوک، در جلسه‌ای مطبوعاتی به خبرنگاران گفت:

همه‌ی موارد نقض محتوا بازهم بررسی انسانی می‌شوند؛ اما از این سیستم برای اولویت‌بندی بهتر [آن فرایند] استفاده خواهیم کرد.

فیسبوک جزئیات مربوط به نحوه‌ی تجزیه‌و‌تحلیل فیلترهای یادگیری ماشینی خود را در گذشته به‌اشتراک گذاشته است. این سیستم‌ها شامل مدلی به‌نام WPIE است که درواقع، رویکردی جامع برای ارزیابی محتوا محسوب می‌شود.

این بدان معنا است که الگوریتم‌ها عناصر مختلف در هر پست مشخص را به‌طور هماهنگ ارزیابی می‌کنند. درواقع در این فرایند، تلاش می‌شود که تصویر، عنوان، پوستر و دیگر عناصر موجود در پست هم‌زمان بررسی و نتیجه‌ی کلی از آن‌ها استخراج شود. بدین‌ترتیب، سیستم می‌تواند مانند انسان تصمیم بگیرد که کدام پست‌ها اهمیت بیشتری دارند و باید سریع‌تر به آن‌ها رسیدگی کرد.

البته انتقادهایی نیز به این روش می‌شود؛ زیرا عده‌ای اعتقاد دارند هوش مصنوعی نمی‌تواند مانند انسان قضاوت کند. به‌همین‌دلیل، منتقدان این روش اعلام کرده‌اند به‌اعتقاد آن‌ها استفاده از هوش مصنوعی در بخش مرتب‌سازی پست‌های نقض‌کننده‌ی قوانین فیسبوک کار درستی به‌نظر نمی‌رسد. این افراد برای واضح‌ترکردن دلیل مخالفت خود، قضاوت این سیستم درباره‌ی پست‌هایی حاوی زورگویی و اطلاعات نادرست را مثال زده‌اند. به‌گفته‌‎ی آن‌ها، هوش مصنوعی هیچ‌وقت نمی‌تواند بفهمد که دقیقا در حال بررسی چه مطلب حساسی است.

این سیستم درباره‌ی وصل‌کردن هوش مصنوعی با ناظرهای انسانی است تا اشتباه‌های کلی کاهش پیدا کند. هوش مصنوعی هرگز کامل نخواهد بود.

وقتی از او سؤال شد چند درصد از پست‌های سیستم یادگیری ماشینی این شرکت نادرست طبقه‌بندی شده‌اند، پالو پاسخ مستقیمی نداد؛ اما عنوان کرد فیسبوک فقط به سیستم‌های خودکار اجازه می‌دهد بدون نظارت فرد کار کنند؛ زیرا دقیق‌تر از بازبینی‌های انسانی هستند. وی گفت:

فیسبوک به‌طور پیوسته هوش مصنوعی بیشتری به فرایند دسته‌بندی پست‌های گزارش‌شده اضافه خواهد کرد.

دیدگاه شما کاربران زومیت درباره‌ی کارکردن هوش مصنوعی برای دسته‌بندی پست‌ها و همکاری آن با نیروهای انسانی چیست؟ آیا این ترکیب می‌تواند به فرایند حذف پست‌های نامناسب فیسبوک کمک کند؟