توییتر مشکل نژادپرستانه قابلیت برش تصاویر را رفع می‌کند

توییتر اعلام کرد نحوه‌ی عملکرد قابلیت برش تصاویر (Image Cropping) در سایت خود را تغییر خواهد داد. دلیل این کار توییتر نگرانی‌های پیش‌آمده درباره‌ی تعصب نژادی الگوریتم استفاده‌شده در این ویژگی است. گفته می‌شود این الگوریتم با استفاده از یادگیری ماشینی تصاویر را برش می‌دهد؛ اما مشکل جایی پیش می‌آید که قالبیت مذکور سفیدپوستان را به رنگین‌پوستان ترجیح می‌دهد. مطمئنا درصورت حل‌نشدن این مسئله،‌ مشکلات متعددی برای شبکه‌ی اجتماعی توییتر پیش خواهد آمد. 

پاراگ آگراوال، مدیر ارشد فناوری و دانتلی دیویس، مدیر طراحی توییتر، در مقاله‌ای این مسئله را توضیح داده‌‌اند که چگونه این شرکت قبل از اجرای نهایی قابلیت مذکور، آن را برای احتمال وجود تعصب نژادی یا جنسیتی در فرایند برش تصاویر آزمایش کرده است. بااین‌حال، مسئله‌ای که در این مقاله ناگفته باقی مانده، چگونگی انجام این آزمایش‌ها است. در‌حقیقت، کسی غیر از افرادی که این آزمایش‌ها را انجام داده‌اند، از نحوه‌ی تجزیه‌و‌تحلیل عملکرد قابلیت برش تصاویر اطلاعی ندارد.

یکی از کاربران توییتر با انجام آزمایشی کوچک موفق شده است انتخاب نژادپرستانه الگوریتم برش تصاویر را ثابت کند. در این آزمایش، از تصاویر میچ مکانل، یکی از سناتورهای سفیدپوست آمریکایی و باراک اوباما، رئیس جمهور سابق رنگین پوست این کشور استفاده شده است. الگوریتم توییتر در هر دو عکس، چهره‌ی میچ مکانل را برای پیش‌نمایش انتخاب کرده است.

Trying a horrible experiment...Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

توییتر باید هرچه سریع‌تر برای حل این مسئله اقدام کند. به‌تازگی مسئولان این شرکت گفته‌اند:

‌هم‌اکنون برای حل مشکل پیش‌آمده در حال تجزیه‌‌و‌تحلیل‌های اضافی دقیق‌تر هستیم و تعهد می‌دهیم یافته‌های خود را به‌اشتراک بگذاریم. همچنین، در حال بررسی راهی هستیم که بتوانیم تجزیه‌وتحلیل‌های خود را به‌صورت منبع‌باز دراختیار دیگران قرار دهیم تا آن‌ها نیز بتوانند به ما در یافتن مشکل اصلی یاری برسانند.

همچنین، این شرکت در حال اعمال برخی تغییرات روی شبکه‌ی اجتماعی خود است تا تصاویر دقیقا به‌ همان شکلی نشان داده شوند که کاربران می‌خواهند. پس از این ماجرا، توییتر قول داده است که استفاده از شیوه‌های مبتنی‌بر یادگیری ماشینی را تا‌حد‌امکان کاهش دهد. توسعه‌دهندگان این پلتفرم قصد دارند روی ابزاری تمرکز کنند که به کاربران نشان می‌دهد تصاویری که در حال اضافه‌کردن به توییت خود هستند، دقیقا به چه شکلی نمایش داده می‌شود. گفته می‌شود هم‌اکنون توییتر آزمایش قابلیت‌های جدید برای برش تصاویر و پیش‌نمایش آن‌ها را آغاز کرده است.

از سال ۲۰۱۸، توییتر به استفاده از الگوریتم مبتنی‌بر یادگیری ماشینی خود برای برش تصاویر روی آورده است. عملکرد این قابلیت بدین‌ترتیب است که با استفاده‌ی شبکه‌ی عصبی می‌تواند نقاط مهم‌تر تصاویر را حدس بزند و آن را در پیش‌نمایش نشان دهد. مدل اولیه‌ی این الگوریتم روی نشان‌دادن چهره‌های موجود در عکس متمرکز بود؛ اما در نسخه‌ی جدید این مسئله تغییر کرد. الگوریتم جدید بخش‌هایی را به پیش‌نمایش توییت اضافه می‌کند که به‌نظر می‌رسد از دید کاربران دیگر جالب‌تر هستند. یادگیری ماشینی سعی می‌کند در تصویری خاص بخشی را پیدا کند که عموم مردم سریع‌تر به آن توجه می‌کنند. درپایان، باید بگوییم که هنوز صحبتی درباره‌ی زمان اعمال این تغییرات در سیستم برش تصویر توییتر گفته نشده است.