چرا غول‌های هوش مصنوعی این روزها فیلسوف استخدام می‌کنند؟

تا چند سال پیش، اگر کسی می‌گفت بزرگ‌ترین شرکت‌های فناوری جهان به‌دنبال استخدام فیلسوف هستند، احتمالاً کمتر کسی حرفش را باور می‌کرد. در ذهن بسیاری از مردم، فلسفه رشته‌ای بود که بیشتر با دانشگاه، کتاب‌های قطور و بحث‌های انتزاعی سروکار داشت، نه با پیشرفته‌ترین فناوری‌های دنیا.

اما امروز شرایط تغییر کرده است. آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی مانند شرکت‌های اوپن‌اِی‌آی، گوگل دیپ‌مایند و انتروپیک در کنار برنامه‌نویسان، دانشمندان رایانه و متخصصان یادگیری ماشین، از فیلسوفان نیز برای همکاری دعوت می‌کنند. این اتفاق آن‌قدر فراگیر شده که حتی مجله اکونومیست نیز در گزارشی به این پرسش پرداخته است که چرا شرکت‌های بزرگ هوش مصنوعی تا این اندازه به متخصصان فلسفه علاقه‌مند شده‌اند.

شاید در نگاه اول این تصمیم عجیب به نظر برسد. مگر ساخت چت‌بات یا مدل هوش مصنوعی به ریاضیات، کدنویسی و سخت‌افزارهای قدرتمند وابسته نیست؟ فیلسوف چه کمکی می‌تواند به ساخت چنین سامانه‌هایی بکند؟

پاسخ این پرسش در تغییر بزرگی نهفته است که هوش مصنوعی طی چند سال گذشته تجربه کرده است.

نسل‌های اولیه هوش مصنوعی معمولاً وظایف مشخصی داشتند. آن‌ها تصویر گربه را از سگ تشخیص می‌دادند، متن را ترجمه می‌کردند یا بهترین مسیر روی نقشه را پیدا می‌کردند. در چنین سامانه‌هایی، درست یا غلط بودن پاسخ تقریباً مشخص بود.

فرض کنید فردی از هوش مصنوعی بپرسد: «اگر گفتن حقیقت باعث آسیب دیدن یک نفر شود، باز هم باید حقیقت را گفت؟» یا بپرسد: «اگر میان نجات یک دوست و رعایت قانون مجبور به انتخاب باشم، کدام کار درست‌تر است؟»

این سؤال‌ها مانند مسئله ریاضی پاسخ قطعی ندارند. حتی انسان‌ها هم همیشه بر سر پاسخ آن‌ها توافق ندارند. بنابراین مهندسان نمی‌توانند فقط با نوشتن چند خط کد، رفتار درست هوش مصنوعی را تعیین کنند.

اینجاست که پای فلسفه به میان می‌آید.

برخلاف تصور رایج، فیلسوفانی که در شرکت‌های هوش مصنوعی مشغول به کار می‌شوند، قرار نیست ساعت‌ها درباره افلاطون یا ارسطو بحث کنند. وظیفه آن‌ها بسیار عملی‌تر است. آن‌ها به مهندسان کمک می‌کنند تا مشخص کنند هوش مصنوعی در موقعیت‌های دشوار چگونه پاسخ بدهد. برای مثال، اگر چند پاسخ ممکن وجود داشته باشد، کدام پاسخ منصفانه‌تر، محتاطانه‌تر یا مفیدتر است؟

یکی دیگر از وظایف آن‌ها بررسی هزاران سناریوی فرضی است. پژوهشگران از خود می‌پرسند اگر کاربری درخواست خطرناکی مطرح کند چه باید کرد؟ اگر کسی از هوش مصنوعی توصیه پزشکی یا حقوقی بخواهد، پاسخ باید چگونه تنظیم شود؟ اگر کاربر اطلاعات نادرستی ارائه کند، مدل باید چگونه او را اصلاح کند، بدون آنکه لحنش تهاجمی یا تحقیرآمیز باشد؟

پاسخ دادن به چنین پرسش‌هایی بیشتر به قضاوت انسانی شباهت دارد تا برنامه‌نویسی.

یک مهندس می‌تواند الگوریتمی بسیار دقیق طراحی کند، اما تصمیم‌گیری درباره ارزش‌ها موضوع دیگری است. برای مثال، تصور کنید قرار است به هوش مصنوعی یاد بدهید که همیشه صادق باشد. در نگاه اول، این هدف کاملاً منطقی به نظر می‌رسد. اما اگر گفتن حقیقت جان یک انسان را به خطر بیندازد چه؟ یا اگر کاربری از هوش مصنوعی بخواهد اطلاعات شخصی فرد دیگری را فاش کند، آیا صداقت همچنان بهترین انتخاب است؟

فیلسوفان سال‌هاست درباره چنین تعارض‌هایی مطالعه می‌کنند و شرکت‌های هوش مصنوعی امیدوارند این تجربه بتواند به طراحی سامانه‌هایی مسئولانه‌تر کمک کند.

شاید عجیب باشد، اما بسیاری از پرسش‌هایی که امروز در آزمایشگاه‌های هوش مصنوعی مطرح می‌شوند، قرن‌ها پیش نیز ذهن فیلسوفان را مشغول کرده بودند.

برای نمونه، آیا نتیجه یک عمل مهم‌تر است یا خود آن عمل؟ آیا همیشه باید حقیقت را گفت؟ چه چیزی یک تصمیم را عادلانه می‌کند؟ چگونه می‌توان میان دو انتخاب نامطلوب، گزینه بهتر را پیدا کرد؟

این پرسش‌ها از دوران یونان باستان تاکنون بارها بررسی شده‌اند. البته فیلسوفان پاسخ قطعی و مشترکی برای همه آن‌ها پیدا نکرده‌اند، اما شیوه فکر کردن درباره این مسائل را توسعه داده‌اند. اکنون همین شیوه‌های استدلال به کمک پژوهشگران هوش مصنوعی آمده است. به بیان دیگر، شرکت‌های فناوری به‌دنبال آن نیستند که هوش مصنوعی را به یک فیلسوف تبدیل کنند؛ آن‌ها می‌خواهند از تجربه فیلسوفان برای طراحی پاسخ‌های منطقی‌تر و مسئولانه‌تر استفاده کنند.

پاسخ کوتاه این است: نه به آن معنایی که انسان‌ها اخلاق را درک می‌کنند.

هوش مصنوعی احساس، وجدان یا درک واقعی از خوب و بد ندارد. این سامانه‌ها فقط الگوهایی را که در فرایند آموزش دریافت کرده‌اند، به کار می‌گیرند. به همین دلیل، پژوهشگران تلاش می‌کنند قوانین و دستورالعمل‌هایی طراحی کنند که احتمال تولید پاسخ‌های مضر را کاهش دهد.

همین موضوع باعث شده است که بسیاری از متخصصان تأکید کنند هدف از استخدام فیلسوفان، یافتن پاسخ نهایی برای همه مسائل اخلاقی نیست؛ بلکه هدف، ساخت سامانه‌هایی است که با دقت بیشتر، آسیب کمتر و احترام بیشتر به کاربران پاسخ دهند.

رشد هوش مصنوعی باعث شده است رشته فلسفه نیز جایگاه تازه‌ای پیدا کند. دانشگاه‌هایی که تا چند سال پیش نگران کاهش علاقه دانشجویان به فلسفه بودند، اکنون شاهد افزایش توجه به حوزه‌هایی مانند اخلاق فناوری، فلسفه ذهن و فلسفه هوش مصنوعی هستند. این تغییر نشان می‌دهد پیشرفت فناوری همیشه به کنار گذاشتن علوم انسانی منجر نمی‌شود. برعکس، هرچه ماشین‌ها توانمندتر می‌شوند، نیاز به درک بهتر رفتار انسان نیز بیشتر احساس می‌شود.

احتمالاً در سال‌های آینده همکاری میان متخصصان علوم رایانه و علوم انسانی عمیق‌تر خواهد شد. هوش مصنوعی به‌تدریج وارد بخش‌های حساس‌تری مانند آموزش، پزشکی، قضاوت حقوقی و خدمات عمومی می‌شود و در چنین حوزه‌هایی، دقت فنی به‌تنهایی کافی نیست. تصمیم‌هایی که این سامانه‌ها می‌گیرند یا پیشنهاد می‌کنند، می‌توانند بر زندگی میلیون‌ها نفر تأثیر بگذارند.

به همین دلیل، حضور فیلسوفان در شرکت‌های بزرگ هوش مصنوعی را نباید نشانه کنار رفتن مهندسان دانست، بلکه باید آن را نشانه بلوغ این فناوری دانست. صنعت هوش مصنوعی به این نتیجه رسیده است که ساخت ماشین‌هایی که با انسان تعامل می‌کنند، فقط یک چالش مهندسی نیست؛ بلکه به شناخت بهتر انسان، ارزش‌های او و شیوه تصمیم‌گیری‌اش نیز نیاز دارد.

شاید مهم‌ترین درس این تحول آن باشد که با وجود همه پیشرفت‌های خیره‌کننده هوش مصنوعی، هنوز هم پاسخ بسیاری از مهم‌ترین پرسش‌ها را نمی‌توان تنها در کدهای رایانه‌ای پیدا کرد. گاهی برای ساخت فناوری آینده، باید به سراغ اندیشه‌هایی رفت که بیش از دو هزار سال پیش شکل گرفته‌اند.