همه‌ی باورهای نادرست در مورد هوش مصنوعی (قسمت اول)

از روزی که هوش مصنوعی شطرنج‌باز آی‌بی‌ام موسوم به دیپ بلو (Deep Blue) گری کاسپارف را شکست داد حدود ۲۰ سال می‌گذرد. در آخرین رویارویی انسان و هوش مصنوعی که در یک تورنمنت بازی گو شکل گرفت، آلفاگوی (AlphaGo) گوگل بر یکی از بزرگ‌ترین اساتید گو به نام لی سدول (Lee Sedol) غلبه کرد که این مسئله از پیشرفت حیرت‌انگیز هوش مصنوعی در این ۲۰ سال حکایت دارد. با در نظر گرفتن این رشد فزاینده، روزی که ماشین‌ها سرانجام از انسان هوشمندتر می‌شوند، چندان دور نیست و به‌موازات آن هراس از رسیدن این روز و عواقب احتمالی فاجعه‌بار غلبه‌ی ماشین بر انسان نیز روزبه‌روز افزایش پیدا می‌کند.

ایده‌ی هوش مصنوعی مدت‌ها قبل از تحقق، یکی از دستمایه‌های بسیار پرطرفدار ادبیات علمی تخیلی و به طبع آن سوژه‌ای مطلوب برای صنعت سینما و تلویزیون بوده است و بعضی از سناریوهای موجود، تحلیل‌هایی ناخوشایند ولی بسیار دقیق و جامع ارائه می‌کنند که به همین دلیل بیشتر ما تحت تأثیر این پیش‌فرض‌ها و نظریه‌پردازی‌ها، کم‌وبیش تصورات نادرستی از هوش مصنوعی در ذهن داریم. اواخر سال گذشته ایلان ماسک (مؤسس اسپیس ایکس) رسما در مورد نزدیک بودن رستاخیز ماشین‌ها و تسلط آن‌ها بر انسان هشدار داد که به دنبال آن موجی از نظرهای موافق و مخالف به راه افتاد. موضوع بسیاری از نظرات، رد یا قبول احتمال به قدرت رسیدن هوش مصنوعی است و عده‌ای نیز چگونگی و ماهیت آن را مورد کنکاش قرار می‌دهند. در نظر گرفتن مزایا و ویژگی‌های بالقوه‌ی هوش مصنوعی هوشمندتر از انسان ازیک‌طرف و همه‌ی خطرات احتمالی آن از طرف دیگر، به نتیجه رسیدن این بحث‌وجدل را بسیار مشکل می‌کند. هوش مصنوعی برخلاف سایر ساخته‌های بشر قادر است به معنای واقعی مفهوم زندگی انسان را تغییر دهد ولی همین قدرت می‌تواند در راه نابودی انسان نیز مورداستفاده قرار بگیرد.

در حال حاضر موضع‌گیری در این بلوا بسیار مشکل است ولی به لطف تلاش‌های پیشگامان علوم مختلفی که در پیشبرد هوش مصنوعی و مقایسه‌ی آن با هوش انسان دخیل هستند، دورنمای هوش مصنوعی برتر روزبه‌روز روشن‌تر می‌شود که به‌این‌ترتیب می‌توان فارغ از پیش‌فرض‌ها و باورهای فانتزی و علمی تخیلی در این مورد قضاوت کرد. رایج‌ترین باورهای غلط در مورد هوش مصنوعی به شرح زیر هستند:

در حقیقت هوش مصنوعی دیگری فناوری آینده محسوب نمی‌شود و در حال حاضر کامپیوترهایی ساخته شده‌اند که در مواردی مثل بازی‌های شطرنج و گو و همین‌طور فعالیت‌هایی نظیر کنترل بازار سهام و گفتگو از انسان بسیار هوشمندانه‌تر عمل می‌کنند. کامپیوترها و الگوریتم‌های هوش مصنوعی که آن‌ها را به ماشین‌های هوشمند تبدیل می‌کنند، به‌سرعت در حال رشد هستند و بدون تردید در آینده نزدیک در همه‌ی زمینه‌ها از انسان بهتر عمل خواهند کرد.

یک از محققین روانشناسی دانشگاه نیویورک به نام گری مارکوس می‌گوید:

تقریبا همه‌ی فعالان عرصه‌ی هوش مصنوعی باور دارند که ماشین‌ها نهایتا بر انسان تسلط پیدا خواهند کرد و تنها اختلاف‌نظر بین افراد خوش‌بین و دیرباورها، زمان رسیدن این رویداد است. به عقیده آینده‌پژوه‌های موافق و خوش‌بین مثل ری کرزویل، حداکثر تا دو دهه‌ی دیگر شاهد حضور هوش مصنوعی برتر خواهیم بود و بدبین‌ترین نظریه‌پردازها این مسئله را تا نهایتا یک قرن دیگر اجتناب‌ناپذیر می‌دانند.

به عقیده‌ی افراد خوش‌بین به هوش مصنوعی برتر، عملکرد بیولوژیکی مغز انسان به شکل قابل‌توجهی بی‌همتا، غیرقابل شبیه‌سازی و ناشناخته است و به همین دلیل تسلط کامل هوش مصنوعی بر انسان را غیرممکن می‌دانند. به استدلال آن‌ها؛ هوش مصنوعی حتی با بهترین کارایی و عملکرد بازهم یک مکانیسم محدود به قوانین فیزیک است و نمی‌توانند هیچ مشکل ناشناخته و غیرقابل‌حلی ایجاد کنند.

یک از نظریه‌های نگران‌کننده‌ی فعلی تبدیل‌شدن هوش مصنوعی به آگاهی است؛ یعنی در آینده ماشین‌های هوشمند قادر خواهند بود کاملا مثل انسان فکر کنند. این نظریه منتقدان زیادی دارد که یکی از آن‌ها پل آلن است. آلن معتقد است که ما هنوز راه درازی تا تولید هوش مصنوعی جامع (AGI) داریم. AGI نوعی هوش مصنوعی است که کاملاً مانند انسان عمل می‌کند و هوشمند بودن آن به انجام فعالیت خاصی محدود نیست. ساخت چنین ماشینی به شناخت کامل تئوری عملکرد آگاهی انسان و بازسازی آن نیاز دارد. ولی ماوری شاناهان (Murray Shanahan)، متخصص روباتیک در کالج سلطنتی لندن با تیم آلن موفق نیست و از دیدگاه او باید از تضاد مفهوم آگاهی انسان با ماهیت دیجیتال هوش مصنوعی چشم‌پوشی کرد.

او می‌گوید:

مطمئنا آگاهی انسان مفهومی بسیار جذاب و مهم است ولی من فکر نمی‌کنم که برای ساخت هوش مصنوعی جامع انسان‌گونه، بازسازی عینی آگاهی انسان الزامی باشد. به عبارت دقیق‌تر واژه‌ی «آگاهی» به مجموعه‌ای از صفات متمایز روان‌شناختی و ذهنی اشاره دارد که به همراه هم اندیشه یا به تعبیری قدرت شناخت انسان را شکل می‌دهند.

تصور وجود ماشینی که بتواند تعداد زیادی از این صفات را بازسازی کند، غیرممکن نیست و ساخت یک هوش مصنوعی به‌شدت هوشمند ولی ناتوان از درک دنیا به‌صورت خودآگاه، هوشیار و عامل امکان‌پذیر است. به عقیده‌ی شاناهان، شاید بتوان هوش و آگاهی را در یک ماشین با هم ترکیب کرد ولی باید به خاطر داشت که آن‌ها دو مفهوم کاملا مستقل و جدا از هم هستند.

اگر یک ماشین هوشمند بتواند تست تورینگ (آزمونی غیرحضوری که شرکت‌کننده‌ی آن ناشناس است و ماشین تنها در صورتی قادر به قبول شدن در آن خواهد بود که برگزارکننده‌ی آزمون نتواند آن را شناسایی کند)، لزوما یک هوش مصنوعی آگاه نیست. شاید از دیدگاه ما یک هوش مصنوعی پیشرفته بسیار خودآگاه و هوشیار به نظر برسد ولی در حقیقت آگاهی و شناخت آن از یک تکه سنگ بیشتر نیست.

 در ماه ژانویه مارک زاکر برگ گفت که ما نباید از پیشرفت هوش مصنوعی هراس داشته باشیم و این فناوری می‌تواند مزایای غیرقابل‌باوری به دنیای ما ارزانی کند. حداقل نیمی از گفته‌های او کاملا درست هستند و محاسن بی‌شمار هوش مصنوعی ازجمله خودروهای خودران و روش‌های درمانی جدید را نمی‌توان انکار کرد ولی هیچ تضمینی وجود ندارد که همه‌ی ماشین‌های هوشمند آینده با مقاصد انسان‌دوستانه ساخته خواهند شد.

یک ماشین هوشمند بسیار پیشرفته را در نظر بگیرید که برای انجام کارهایی مثل حل مشکلات اقتصادی حاد یا نفوذ به سیستم اطلاعاتی دشمن طراحی شده است. این ماشین با همه توانایی وظایف تخصصی‌اش را به بهترین نحو انجام می‌دهد ولی در خارج از این حیطه کاملا بی‌استفاده خواهد بود. به‌عنوان‌مثال DeepMind گوگل تبحر زیادی در بازی گو دارد ولی از هیچ مهارتی دیگری برخوردار نیست و البته نیازی هم به آن ندارد.

با این پیش‌فرض احتمالا در آینده هیچ نوع اقدام پیشگیرانه و امنیتی در خارج از محدوده‌ی فعالیت ماشین‌های هوشمند اعمال نخواهد شد. به‌عنوان نمونه می‌توان به ویروس کامپیوتری استاکس‌نت اشاره کرد که توسط ارتش ایالات‌متحده و اسرائیل برای نفوذ در سیستم‌های کنترلی نیروگاه‌های هسته‌ای ایران طراحی شد ولی نهایتا (ناخواسته یا عمدی) نیروگاه‌های هسته‌ای روسیه را موردحمله قرار داد.

نمونه‌ی دیگر بدافزار فلیم (Flame) است که هدف از توسعه‌ی آن جاسوسی سایبری در خاورمیانه بود. اگر در آینده استاکس‌نت یا فلیم تغییر شکل پیدا کنند و با گسترش ‌ کنترل نشده به اهدافی ناخواسته حمله‌ور شوند نباید باعث غافلگیری ما بشود. البته این بدافزارها هیچ‌کدام هوش مصنوعی نیستند ولی به دلیل ماهیت نرم‌افزاری به‌راحتی می‌توانند در آینده توسط هوش مصنوعی مورداستفاده قرار بگیرند.

از دیدگاه ریچارد لوسمور محقق هوش مصنوعی و خالق کتاب‌های کمیک Surfing Samurai Robots، بیشتر سناریوهای دخیل در رستاخیز ماشین‌ها و نابودی بشر به دست هوش مصنوعی غیرقابل درک هستند. به گفته‌ی او در همه‌ی این سناریوها فرض بر این گذاشته شده که هوش مصنوعی برتر کاملا از نتایج اقدام خود آگاه است و می‌داند که تصمیم نابودی بشر از یک تضاد منطقی ناشی می‌شود ولی بااین‌حال خود را به اجرای آن مجاب می‌کند.

به اعتقاد لوسمور اگر واقعا هوش مصنوعی در هنگام تصمیم‌گیری برای نابودی انسان این‌گونه عمل کند، احتمالا در طول عمر خود بارها با تضادهای منطقی ازاین‌دست روبرو شده که برای نادیده گرفتن هرکدام ناگزیر از تخریب پایگاه دانش (محل ذخیره‌سازی داده‌های ساختاریافته و غیر ساختاریافته‌ی هوش مصنوعی) و تغییر معماری منطقی خود است که به‌این‌ترتیب دیگر هوش مصنوعی برتر و بالطبع خطرآفرین نخواهد بود. علاوه بر این او افرادی را که معتقدند «هوش مصنوعی فقط کار‌هایی را انجام می‌دهد که برای آن برنامه‌نویسی ‌شده است» را به ارائه‌ی استدلال غلط و سفسطه انگیزی متهم می‌کند و نظریات آن‌ها را مشابه کسانی می‌داند که در آغاز عصر دیجیتال، عین این عبارت را برای قابلیت‌های بالقوه کامپیوتر به کار می‌بردند و هرگونه انعطاف‌پذیری و عملکرد خارج از محدوده را برای آن غیرممکن می‌دانستند.

 در جبهه‌ی مقابل، دو نفر از محققان موسسه‌ی آینده‌ی انسان در دانشگاه آکسفورد به نام‌های پیتر مکینتایر و استوارت آرمسترانگ با نظر لوسمور موافق نیستند و به اعتقاد آن‌ها عملکرد هوش مصنوعی در حد وسیعی به برنامه‌نویس‌های آن بستگی دارد. این دو دانشمند می‌گویند هوش‌های مصنوعی آینده بی‌نقص و بدون اشتباه نیستند و بالعکس حتی از ذکاوت لازم برای درک انتظارات ما نیز بی‌بهره خواهند بود.

مکینتایر می‌گوید:

 بنا به تعریف؛ ابرهوش مصنوعی (ASI) یک عامل هوشمند است که همه‌ی فعالیت‌های انسانی را بهتر از باهوش‌ترین انسان‌ها انجام می‌دهد. یک ابرهوش مصنوعی می‌تواند بفهمد که ما دقیقا چه انتظاری از آن داریم.

مکینتایر و آرمسترانگ باور دارند هوش‌های مصنوعی آینده فقط کارهایی را انجام خواهند داد که برای آن برنامه‌نویسی شده‌اند ولی اگر سازنده کار خود را بسیار خوب انجام بدهد و هوش مصنوعی به‌اندازه‌ی کافی باهوش باشد که بتوان آن را ASI محسوب کرد، باید بتواند در محدوده‌ی عملکرد خود خط قرمز بین متن قانون ( پیگیری بدون انعطاف وظایف) با روح قانون (توجه به انتظارات و مصلحت‌های انسان) را تشخیص بدهد.

مکینتایر وضعیت بشر در آینده را با شرایط یک موش مقایسه می‌کند که برای زنده ماندن به غذا و سرپناه نیاز دارد ولی در مسیر رفع این نیاز ناچار از رویارویی مداوم با انسان‌هایی است که وجود جونده‌ها در منازل خود را تحمل نمی‌کنند. او می‌گوید:

به همان اندازه که ما هدف و انگیزه‌ی موش‌ها از زندگی در مجاورت انسان با وجود همه خطرها را درک می‌کنیم، ماشین‌های ابرهوشمند آینده نیز همان‌قدر انتظارات و مصلحت‌های ما را درک خواهند کرد و به همان اندازه نسبت به آن بی‌تفاوت خواهند بود.