حکمرانی الگوریتم‌ها بر جهان؛ آمازون

الگوریتم‌ پیشنهادهای غول‌های تجارت الکترونیک نقش ویژه‌ای در آنچه می‌بینیم، می‌خوانیم و می‌خریم دارند. آن‌ها قادر هستند به رفتار ما جهت دهند.

در ماه مارس کتابی که مروج یک نظریه‌‌ی عجیب و غریب توطئه بود، نظریه‌ای که حتی بهتر است اسمش را نبریم، در رتبه‌بندی فروش آمازون محبوبیت زیادی به دست آورد. وقتی غول تجارت الکترونیک دنیا این کتاب را در فهرست عناوین پیشنهادی خود قرار داد، به طوری که برای خریدارانی هم که به‌دنبال این کتاب خاص نبودند، نمایش داده می‌شد، کمک بسیار زیادی به فروش آن کرد. چرا که با برانگیختن حس کنجکاوی و فروش بیشتر، در ادامه باعث پیشنهاد بیشتر آن نیز می‌شد.

باید الگوریتم پیشنهادها را سرزنش کنیم

نظریه توطئه‌ی ویژه‌ای که در این کتاب بیان شده، این است که دونالد ترامپ وانمود کرد با روسیه تبانی کرده است تا مطمئن شود که مورد تحقیق و تفحص قرار می‌گیرد؛ تحقیقی که به او این شانس را می‌دهد تا مخفیانه با رابرت مولر، دادستان ویژه تحقیقات مداخله روسیه در انتخابات آمریکا، همکاری کرده و کاندیدای سابق ریاست جمهوری، هیلاری کلینتون را به همراه باراک اوباما و جورج سورس که عضو یک فرقه شیطانی جهانی پدوفیل هستند، دستگیر کند. بله، آن حواسپرتی این است! بنابراین چرا آمازون این کتاب را به خریداران بی‌اعتنا پیشنهاد می‌کند؟ دلیلش قدرت متقاعدکننده بالای این نظریه یا مخاطبان زیاد، در حد آثار پر فروش نیست. باید الگوریتم پیشنهادها (recommendation algorithms) را سرزنش کرد.

دونالد ترامپ

اینکه چه چیزی تماشا کنید؟ چه چیزی بخوانید؟ چه اخباری وجود دارد؟ چه چیزی ترند شده است؟ هر جایی که به اینترنت متصل شوید، شرکت‌ها از راه‌هایی خاص و البته با عیب و نقص به این سؤال‌ها پاسخ خواهند داد. به هر کجا که نگاه کنید سامانه‌های پیشنهادگر (recommendation engine)، مثال‌های واضحی از چگونگی قرارگیری ارزش‌ها و قضاوت‌ها در الگوریتم‌ها و چگونگی بازی داده شدن این الگوریتم‌ها توسط عوامل استراتژیک را پیشنهاد می‌کنند.

روشی رایج و به ظاهر ساده برای ارائه پیشنهادها را در نظر بگیرید؛ یک الگوریتم پیشنهادی براساس آن چه افراد «شبیه تو» خوانده، دیده یا خریده‌اند، است. اما این سوالات پیش می‌آید که یک شخص دقیقا «شبیه من» چه مفهومی دارد؟ کدام بُعد «من» مدنظر است؟ آیا منظور شخصی با سن، جنسیت، نژاد یا مکان جغرافیایی شبیه «من» است؟ آیا آن‌ها مشخصات مرا به اشتراک می‌گذارند؟ رنگ چشم‌های مرا؟ قد مرا؟ یا شبیه‌سازی آن‌ها از من است که توسط یک الگوریتم یادگیری ماشین با استفاده از مجموعه‌ای «کلان‌داده» (Big Data) پردازش شده است؟

درواقع، پشت هر الگوی پیشنهادی "افراد شبیه تو" (people like you) یک روش محاسبه‌ای وجود دارد که رفتارهای یکنواخت را از میان داده‌ها استخراج می‌کند. این روش‌ها حتی وقتی کار می‌کنند، ممکن است از حدود یکنواختی که براساس آن تنظیم شده‌اند عبور کنند. مثلا ممکن است با پیگیری «دومین بیش‌ترین کلیک شده»، کتاب‌های برنامه‌نویسی را به پسران و کتاب‌های مربوط‌به مد را به دختران معرفی کنند. البته، یک چرخه بازبینی ایجاد می‌شود: اگر شما همچنان کتاب‌های برنامه‌نویسی را نگاه می‌کنید، پس احتمال دارد یکی دیگر را نیز بررسی کنید.

یک روش معمول برای ساخت الگوریتم پیشنهادها استفاده از الگوهای مصرفی مردم است

روش معمول دیگر برای ارائه پیشنهاد، استفاده از الگوهای مصرفی مردم است: افردی که این ویدئو را تماشا کرده‌اند؛ آن یکی را هم تماشا کرده‌اند. خریدارانی که این کالا را خریده‌اند، آن یکی را هم به فهرست خریدشان افزوده‌اند. آمازون از این روش زیاد استفاده می‌کند، و البته کاملا مفید است. یک مسواک برقی خریده ای؟ چقدر خوب خواهد بود که جامسواکی در فهرست پیشنهادی به تو ارائه شود. جارو برقی جدیدت مبارک باشد: این‌جا چند عدد جعبه مناسب وسیله شما وجود دارد.

آمازون

البته این فهرست پیشنهادها ممکن است اشکال عجیب و نادرستی نیز پیدا کند. پروفسور زینب توفکسی (Zeynep Tufekci)، نویسنده و استاد دانشگاه کارولینای شمالی، در مورد تجربه استفاده از  آمازون برای فروش کتاب خود می‌گوید: برای مدت زمان طولانی آمازون به خریداران کتاب من در باره حرکات اعتراضی آنلاین، یک کلید امنیتی (یک محافظ رمز جایگزین مطمئن روی سخت‌افزار یا پسورد دو مرحله‌ای) پیشنهاد می‌کرد. من نیز از خرید کلید امنیتی توسط مردم دفاع می‌کردم و فکر می‌کنم خوش‌حالم که برخی از آن‌ها به حرف من گوش کردند؛ اما اکنون هرکسی به صفحه کتاب من در آمازون نگاه می‌کند، مقداری اطلاعات درباره خوانندگان من و نحوه محافظتشان از خود به دست می‌آورد.

روش نهایی ایجاد فهرست پیشنهادی، شناسایی «ترندها» (Trending) و قرار دادنشان در فهرست پیشنهادهای بخش وسیعی از کاربران است. اما این روش نیز حاشیه‌های زیادی دارد. مثلا کسی که اولین‌بار معرفی می‌شود شانسی برای ترند شدن ندارد یا هر روز بحث‌های زیادی پیرامون هر کدام از اعضای خانواده‌ی کارداشیان شکل می‌گیرد؛ ولی آن‌ها در توییتر ترند نمی‌شوند. زیرا اکثر پیشنهادهای ترند‌محور از منطقی پیروی می‌کنند که عبارات معمول را به‌عنوان سروصدای پس‌زمینه فیلتر می‌کند و آن‌هایی را که شتاب بیشتری داشته و بحث پیرامونشان سریع‌تر است، برجسته می‌کند.

این تعریف «ترند شدن» از مکالمات ثابت و معمول صرف‌نظر کرده و چیزهای جدید و هیجانی را تقویت می‌کند. رسانه‌های سنتی هم به‌طور حاد با این مشکل همراه هستند. مشکلات مزمن شامل کمبود خدمات درمانی، بی‌خانمانی، گرسنگی، تصادفات و ... کمتر مورد توجه قرار می‌گیرند؛ در حالی‌که اتفاقات نادری مثل حوادث تروریستی و سوانح هوایی هیجانات بیشتری دریافت کرده و بیشتر پوشش داده می‌شوند. این مسئله شگفت‌آور نیست؛ زیرا چیزهای تازه توجه ما را به خود جلب می‌کنند. الگوریتم‌های آنلاین نیز از همان آسیب‌پذیری اجتماعی که سردبیرها آن را در رسانه‌های سنتی هدف قرار می‌دهند، بهره می‌برند.

اما مشکل دیگری که در این‌جا وجود دارد، ارزش‌گذاری شتاب سیگنال‌های پایدار است؛ ایجاد سرعت الکی چندان مشکل نیست و به همین جهت بسیاری از مردم (عموما دلسوزانه) به این طریق سیستم را فریب می‌دهند. برای مثال در بهار عربی، فعالان دموکراسی‌خواه بحرینی از این ویژگی الگوریتم توییتر بهره بردند. آن‌ها متوجه شدند بحث‌های جاری و طولانی، حتی با وجود چیرگی بحث‌هایشان در سطح ملی، در توییتر برجسته نمی‌شود؛ اما یک هشتگ (hashtag) جدید که ناگهان توسط افراد زیادی استفاده می‌شود، به سرعت ترند خواهد شد. بنابراین آن‌ها تصمیم گرفتند هر بار هماهنگ با هم یک هشتگ جدید درست کرده و در زمانی معین، همه با هم آن هشتگ را توییت کنند. به این ترتیب هشتگ ترند می‌شد و توجه جهانی را به موقعیت فعالان جلب می‌کرد. اما اگر این موضوع برای گروهی جواب دهد برای دیگران نیز جواب خواهد داد. احتمالا کتاب توطئه نیز با چنین مکانیسمی در آمازون رشد کرده است. اگر تعداد کافی از طرف‌داران کتاب در تلاشی هماهنگ، هم‌زمان کتاب را خریداری کرده باشند، همین امر باعث توجه الگوریتم آمازون شده و به تقویت بیش‌ازپیش کتاب در جستجوها کمک خواهد کرد.

این نظریه‌ی توطئه خاص ممکن است احمقانه به نظر برسد؛ اما شوخی نیست. یکی از معتقدین به نظریه، با یک ای‌آر-15 (AR-15) و خودروی زرهی، پلی را در هوور دم (Hoover Dam) مسدود کرد؛ دو نفر دیگر نیز با یک قتل ارتباط داشته‌اند. اینکه آن‌ها به اندازه کافی سازمان یافته هستند تا الگوریتم‌ها را فریب دهند، نشانه خوبی نیست. چنین فرهنگی نیاز به توجه دارد و الگوریتم‌های پیشنهادها نباید به این سادگی کارشان را انجام دهند.

راه‌کار چیست؟

اما راه‌کار جای‌گزین چیست؟ حداقل باید شفاف‌سازی شود که چگونه و چرا چیزهای معینی برای تماشا کردن، خریدن یا خواندن به ما پیشنهاد شده‌اند. استدلال مخالف این خواهد بود که شفاف‌سازی فریب سیستم را آسان‌تر می‌کند. اما در جواب می‌توان گفت شاید بهتر است الگوریتم‌هایی که فریب می‌خورند اصلا استفاده نشوند. در این صورت ما قادر خواهیم بود هنگام خرید شکل متفاوتی از پیشنهادها را تقاضا کنیم. تکلیف کتاب‌هایی که برخی افراد به ندرت مطالعه می‌کنند ولی ممکن است در صورت مشاهده در فهرست به خواندنشان علاقمند شوند چه می‌شود؟ چطور است موضوعاتی که در طولانی مدت و توسط گروه‌های بزرگی از مردم مورد بحث واقع می‌شوند در فهرست قرار گیرند؟ یا این انتخاب به مخاطب داده شود تا کلا همه پیشنهادها را غیرفعال کند؟ برخی وقت ها شاید کم به‌معنی بهتر باشد.

آیا شما هنگام کار با یوتیوب، آمازون و دیگر سایت‌های اینترنتی پیشنهادهایی که سایت‌ها ارائه می‌کنند را دنبال می‌کنید؟

منبع wired

از سراسر وب

  دیدگاه
کاراکتر باقی مانده

بیشتر بخوانید