بازتولید دروغ؛ چگونه فناوری تاریخ ما را تحریف خواهد کرد؟

اواخر بهمن‌‌ماه سال گذشته بود که خلاقیت یک وب‌‌سایت تازه، توجه کاربران زیادی را به خود جلب کرد. کافی است سری به آدرس وب‌‌سایت thispersondoesnotexist.com بزنید. در نگاه اول، شما تصویر یک فرد عادی را می‌‌بینید؛ اما اگر کمی بیشتر دقت کنید، با عبارتی در گوشه‌‌ی پایین تصویر مواجه می‌‌شوید که می‌‌گوید: «این تصویر با یک الگوریتم شبکه‌‌‌‌ی رقابتی مولد (GAN) تولید شده است». بله، شاید هضم آن برایتان کمی دشوار باشد، ولی این چهره‌‌ها که به‌‌طرز هولناکی واقعی به‌‌نظر می‌‌رسند، متعلق به هیچ انسانی نیستند.

تصاویر تهیه‌شده از thispersondoesnotexist.com، این افراد در دنیای واقعی وجود ندارند

فیلیپ وانگ، یک مهندس نرم‌افزار در اوبر (Uber) است که تصمیم گرفت این وب‌‌سایت را براساس نتایج فعالیت گروهی از پژوهشگران در انویدیا پایه‌‌گذاری کند تا افکار عمومی را از یک توانایی بالقوه‌‌ی فناوری در خلق تصاویر باکمک الگوریتم شبکه‌‌‌‌ی رقابتی مولد آشنا کند. این‌‌ها تنها برنامه‌هایی هستند که شامل دو شبکه‌‌ی عصبی می‌‌شوند. یکی از شبکه‌‌ها یک تصویر ایجاد می‌کند و دیگری تصمیم‌‌گیری می‌‌کند که  این تصاویر تاچه‌‌اندازه واقعی هستند و درواقع، خروجی برنامه‌‌ی اول را باهدف بهبود نتایج، به چالش می‌‌گیرد. هدف نهایی این فرایند، خلق تصویری است که عملا از چهره‌‌ی واقعی یک انسان غیرقابل‌تشخیص باشد.چهره‌‌هایی که در سایت وانگ دیده می‌‌شوند، بسیار واقعی هستند. این چهره‌‌ها می‌‌تواند متعلق به هر کسی در دنیا باشند؛ درحالی‌‌که چهره‌ها متعلق به هیچ‌ انسانی نیست.

چند روز پس از راه‌اندازی این سایت، OpenAI از ابزاری خارق‌‌العاده رونمایی کرد که می‌توانست با کمترین دخالت انسانی، متونی منسجم شامل چندین پاراگراف را از خود بنویسد. آن‌ها بااقتباس از نام فناوری دیگری که می‌‌توانست با مونتاژ تصویر چهره‌‌ی یک فرد روی چهره‌‌ی فردی دیگر، ویدئوهای جعلی تولید کند، این قابلیت تازه را دیپ‌‌فیکس (deepfakes) نوشتاری نام نهادند. در توضیحات گاردین این‌‌گونه آمده است:

این سیستم هوش مصنوعی متون چند کلمه‌‌ای تا یک صفحه‌‌ای را به‌‌عنوان ورودی دریافت می‌‌کند و می‌‌تواند چندین جمله را باتوجه به پیش‌‌بینی‌‌های خود در ادامه‌ی آن بنویسد.

متون GPT2 شباهت حیرت‌‌انگیزی به نوشته‌‌هایی دارد که یک انسان نوشته است، درصورتی‌‌که هیچ انسانی آن را ننوشته است.

اجازه دهید به ماجرایی دیگر نیز اشاره کنیم. در بهار سال گذشته، گوگل از دو فایل صوتی ضبط‌‌شده پرده‌برداری کرد. در این نوارهای صوتی از فناوری تقلید صدای گوگل به نام Duplex استفاده شد تا یک مکالمه‌‌ی تلفنی میان یک ماشین و یک فرد واقعی ترتیب داده شود. در اولین فایل صوتی، برنامه با یک سالن زیبایی تماس می‌‌گیرد تا یک نوبت رزورو کند. طی این مکالمه، برنامه با یک سری گزینه‌‌های ارائه‌‌شده ازسوی منشی مواجه می‌‌شود که مجبور بود از پس پاسخ به آن‌‌ها برآید. در فایل صوتی دوم، برنامه تلاش می‌کند تا یک میز برای شام رزرو کند و زنی که مخاطب این تماس تلفنی است، می‌گوید که امکان رزرو میز برای تعداد کمتر از چهار نفر وجود ندارد.

این مکالمات صوتی ضبط‌‌شده شباهت غریبی به‌گفته‌‌های یک فرد واقعی را دارد. اما در واقعیت، هیچ انسانی این کلمات را به‌‌زبان نیاورده است.

پرده‌برداری گوگل از فناوری Duplex در هوش مصنوعی شگفتی دنیا را برانگیخت

اواخر سال ۱۸۷۷، توماس ادیسون درحالی که آخرین اختراع خود را به‌‌همراه داشت، وارد دفتر ژورنال علمی Scientific American شد. آن‌‌گونه که سردبیران این ژورنال بعدها تعریف کردند، اختراع او شامل چند قطعه فلز بود که روی یک پایه‌‌ی آهنی با ابعاد ۰.۱ مترمربع قرار گرفته بودند. آن دستگاه درحقیقت، یک گرامافون بود که قادر به ضبط صدای انسان و بازپخش آن بود. سردبیران مجله علمی آمریکا بعدها نوشتند:

مهم نیست که تا چه‌‌اندازه با ماشین‌‌های مدرن و قابلیت‌‌های شگفت‌‌انگیز آن‌‌ها آشنایی داشته باشید یا اینکه چه‌‌میزان درکی از اصول کارکرد این دستگاه‌‌های عجیب داشته باشید، ممکن نیست درحالی‌‌که این صداهای مکانیکی را گوش می‌‌کنید، نتوانید تشخیص دهید که حواس شما درحال فریب‌‌دادنتان هستند.ما قبلا هم به قابلیت شگفت‌‌انگیز شنیدن صدای مردگان ازطریق این دستگاه اشاره کرده‌‌ایم و هیچ شکی وجود ندارد که این قابلیت‌‌ها به همان اندازه شگفت‌‌آورند که به‌‌نظر می‌‌رسند.

درواقع، هیچ راهکار عملی برای تفکیک بشریت از فناوری او وجود ندارد. در سرتاسر تاریخ، فناوری برای بهبود و پیشرفت تجارب انسانی به‌‌کار گرفته شده است و این فناوری در خدمت هدف مهم دیگری نیز بوده است: «فناوری در بسیاری از موارد برای محافظت از بشریت تولید شده است.» این موضوع به‌‌ویژه در مورد پیدایش فناوری‌های ارتباطی (از صنعت چاپ گرفته تا گرامافون و اینترنت)، صادق بوده است. فارغ‌‌ازاینکه سازندگان این فناوری‌‌ها هنگام خلق آن‌‌ها چنین تصوری را داشته‌‌اند یا خیر و جدا از همه‌‌ی آن خدمات بی‌‌شماری که این فناوری‌‌ها برای ما به‌‌ارمغان آورده‌‌اند، باید به‌خاطر آورد که این‌‌ ابزارها تنها راهی برای یادآوری وجود بشریت به خود اوست؛ تا به خود یادآور شویم که ما هنوز وجود داریم.

شاید از همین جهت است که این سه پیشرفت اخیر در حوزه‌‌ی هوش مصنوعی قدری خاطرمان را مشوش می‌‌کند. برخلاف آنچه تاکنون شاهد آن بوده‌‌ایم، هرکدام از این دستاوردها چیزی بیش‌‌از یک «کپی‌‌» ساده از انسان‌‌ها و ارتباطات انسانی است. می‌‌توان گفت این‌‌ها به‌‌نوعی «بازتولید» محسوب می‌‌شوند. کمی تامل کنید، این تفاوت ظاهرا جزئی میان این دو کلمه، از اهمیت بسیار بالایی برخوردار است.

بازتولید اطلاعات جعلی، قابلیتی خطرناک است که خواهد توانست تاریخ ما را نیز دستخوش تغییر کند

توجه به همین تفاوت میان دو عبارت «کپی» و «بازتولید» می‌‌تواند به ما بفهماند که در موضوع هوش مصنوعی، دقیقا با چه پدیده‌‌ای سروکار داریم: یک کپی و نسخه‌‌ی اصلی آن می‌‌توانند به‌‌صورت همزمان و مجزا از یکدیگر وجود داشته باشند. حتی اگر نسخه‌‌ی اصلی مفقود هم شود، نسخه‌‌ی کپی خود مدرکی است که ثابت می‌کند که  قبلا یک نسخه‌‌ی اصلی وجود داشته است. اما از آن‌سو، یک نسخه‌‌ی «بازتولیدشده» در حقیقت، نوعی دستکاری در نسخه‌‌ی اصلی با هدف ایجاد یک گونه‌‌ی جدید است. اساسا در این فرایند، بخشی از جوانب نسخه‌‌ی اصلی به‌‌کلی ناپدید می‌شود . این همان موضوعی است که آنچه را در سیلیکون‌ولی می‌‌گذرد، برایمان کمی نگران‌‌کننده جلوه می‌‌دهد. چرا که با انجام هر بازتولید موفق از چهره‌‌ها، کلمات و اصوات انسانی، آنچه که درسکوت ناپدید می‌شود، خود «انسان» است.

این ابزارهای جدید در هوش مصنوعی دیگر وجودمان را به ما یادآوری نمی‌‌کنند؛ در اصل، آن‌‌ها این موضوع را به ما یادآوری می‌‌کنند که شاید دیگر قرار نیست روزی وجود داشته باشیم. سال گذشته، مارتین کونز در مصاحبه‌‌ای چنین گفت:

ما در قالب یک گونه‌‌‌‌ی زیستی گردآورنده و یادآورنده بوده‌‌ایم. ما در هر جایی آثار خود را به‌‌جای گذاشته‌‌ایم.

این پروژه به‌‌سرعت توسعه یافته است. در حال حاضر، کونز سه دسته از مطالب را چاپ می‌‌کند: سرمقالات که شامل مجموعه‌‌ای از سرخط اخبار جراید جهان از تمامی دیدگاه‌‌های سیاسی و جغرافیایی هستند؛ مطالب سازمانی که شامل مقالات علمی، رساله‌‌ها، پروژه‌های هنری و موسیقی‌‌های پرطرفدار و حتی محل سایت‌های انباشت زباله‌‌های هسته‌ای است؛ و درنهایت آیتم‌های شخصی.

در حال حاضر، او بیش از ۵۰۰ کتیبه دراختیار دارد که بامشارکت افرادی از چندین و چند کشور تهیه شده است؛ این افراد، مطالب مورد نظر خود را ازطریق ایمیل برای او ارسال می‌‌کنند تا روی یک کتیبه چاپ شوند. این مطالب شامل امور روزمره، نامه‌‌های عاشقانه، مقالات روزنامه، رساله‌‌ها، متون وبسیاری از چیزهایی می‌‌شود که برایمان اهمیت دارد.

یکی از انگیزه‌‌های کونز در حفظ این خاطرات انسانی، از نگرانی‌‌های او درمورد عدم امکان ذخیره‌‌سازی آن‌‌ها در جاهای دیگر ناشی می‌‌شود. کونز می‌‌گوید:

دیر یا زود بنابر مسائل اقتصادی یا اکولوژیکی ما مجبور به پاک‌‌کردن اطلاعات خود خواهیم شد. این پاک‌‌سازی به‌‌صورت سازمان‌‌دهی‌‌شده انجام نخواهد شد و قرار نیست خود انتخاب کنیم چه اطلاعاتی باید باقی بماند (و چه اطلاعاتی پاک شود).

 ازاین‌‌رو پروژه‌‌ی یادبود بشر برای آن بنیان نهاده شده تا شاید روزی که دیگر نشانی از وجود ما در قرن بیست‌‌ویکم نبود، نوادگان ما بتوانند همچنان ما را به‌‌ خاطر آورند.

کتیبه‌های پروژه‌ی یادبود بشر قرار است یکی از آخرین میراث‌های بشر برای آیندگان دوردست باشد

یک «پاک‌‌سازی بزرگ» می‌‌تواند بدین معنا باشد که اطلاعات ما برای همیشه نابود شوند، اما هنوز سرورهای ما وجود داشته باشند و دوباره بتوانند با داده‌‌هایی تازه پر شوند. حال با درنظرگرفتن این سه پیشرفت اخیر در هوش مصنوعی باید این پرسش را از خود داشته باشیم: درصورت وقوع چنین حادثه‌‌ای این فضاهای خالی قرار است با چه اطلاعاتی پُر شوند؟

تصور این منظره هم هم هولناک است.

یک برنامه‌‌ی رایانه‌‌ای یک تماس تلفنی برقرار می‌‌کند؛ برنامه‌‌ای دیگر بدان پاسخ می‌‌دهد. یک الگوریتم یک داستان خبری می‌نویسد؛ الگوریتمی دیگر براساس آن یک رمان می‌‌نگارد. یک الگوریتم یک چهره‌‌ی انسانی تولید می‌کند؛ یک ربات از این تصویر برای ایجاد یک پروفایل در شبکه‌‌های اجتماعی استفاده می‌کند و شروع به تعامل با کسانی می‌‌کند که خود آن‌‌ها نیز ممکن است محصول یک الگوریتم دیگر باشند. بدین‌ترتیب با حلقه‌‌ای بی‌‌پایان از الگوریتم‌‌ها مواجه خواهیم شد که هریک روی دیگری سوار شده است.

مدت‌‌ها است که ترس ما از هوش مصنوعی از این گمان ناشی می‌‌شود که نکند روزی ما به‌‌صورت فیزیکی با یک کامپیوتر ادغام شویم و تبدیل به یک گونه‌‌ی سایبورگ شویم یا اصلا بدتر از آن روزی با فرارسیدن تکینگی فناوری به‌‌بردگی یک ابرهوش درآییم. اما واقعیت این است که امکان رخداد حوادث دیگری نیز می‌‌رود. ممکن است روزی با آینده‌ای رو‌به‌رو شویم که واقعیت فیزیکی ما دست‌‌نخورده باقی بماند؛ اما مجموعا نتوانیم احساسات و افکار واقعی خود را به‌‌خاطر آوریم؛ یعنی همان چیزهایی که از ما، انسان ساخته‌‌بودند. از آنجاکه در آن روزها سرورهای ما همچنان با ارتباطاتی «بازتولیدشونده»، به رشد سرطان‌‌گونه‌‌ی خود ادامه می‌‌دهند، ما به‌نوعی گرفتار بن‌‌بستی از انزوا خواهیم شد و انسانیت ما برای همیشه روی لوح‌‌هایی از سرامیک در اعماق یک غار کوهستانی مدفون خواهد شد.

ممکن است سرورهای ما هرگز از اطلاعات پاک نشوند، اما درنهایت این فناوری که روزگاری توسط خود ما و برای حفظ گونه‌‌ی ما ایجاد شده بود، به‌جای ما، از بازتولیدهای خود حفاظت کند. آن وقت است که ما ناپدید خواهیم شد؛ نه از صحنه‌‌ی روزگار، بلکه از حافظه‌‌ی تاریخ. برای قرن‌ها، ما فناوری را ایجاد کردیم تا از میراث بشریت حفاظت کنیم. حالا، همین فناوری تنها میراث خود را حفظ خواهد کرد.