چرا افراد باهوش، قربانیان اصلی هوش مصنوعی هستند؟

ریاضیدانی ChatGPT را باز می‌کند تا محاسبه‌ای را چک کند که خودش به‌صورت ذهنی از پس آن برمی‌آمد. مدیری از هوش مصنوعی می‌خواهد پیش‌نویس ایمیلی را برایش بنویسد که تا امروز صدها بار مشابهش را نوشته است و استادی از NoteBookLM می‌خواهد مقاله‌ی دانشجویی را برایش خلاصه کند؛ مقاله‌ای که خودش دانش و صلاحیت کافی برای خواندن و فهمیدنش را دارد.

آیا بین «به‌خاطر سپردن اطلاعات» و «دانستن نشانی اطلاعات» تفاوتی وجود ندارد؟ آیا فرقی نمی‌کند که خودتان راه‌وچاه انجام کاری را بلد باشید یا فقط بدانید چطور همان کار را به دیگری بسپارید؟

برون‌سپاری شناختی یا همان عادت سپردن زحمت‌های فکری به ابزارهای بیرونی باید زنگ خطری باشد برای هر کسی که برای هوش و ذکاوتش ارزش قائل است. وقتی بر سر دوراهی «فکرکردن به یک مسئله» یا «واگذاری آن به تکنولوژی» قرار می‌گیریم، آیا ابزار را انتخاب خواهیم کرد؟ حتی در شرایطی که خودمان کاملاً توانایی موفقیت در آن کار را داریم؟

شما نمی‌توانید مهارتی را در خودتان پرورش بدهید که تمرینش نمی‌کنید.

سم گیلبرت نویسنده و پژوهشگر دانشگاه کمبریج در آزمایش‌هایش متوجه پدیده‌ای شد که آن را سوگیری یادآور (Reminder Bias) می‌نامد، یعنی تمایل به استفاده از حافظه‌های کمکی بیرونی، حتی زمانی که حافظه‌ی خود فرد عملکرد بهتری دارد:

شرکت‌کنندگان ترجیح می‌دادند برای کارهایی که به‌آسانی و بدون کمک در یادشان می‌ماند، یادآورهای دیجیتالی تنظیم کنند. حتی وقتی به آن‌ها پیشنهاد پول دادند تا ترغیب شوند به ذهن خودشان تکیه کنند، باز هم نتوانستند بر این وسوسه غلبه کنند.

ریشه‌ی ماجرا ظاهراً فراشناختی است. آدم‌ها توانایی‌های ذهنی خود را دست‌کم می‌گیرند و با خودشان می‌گویند: «حتما فراموش می‌کنم»، پس یادآور می‌گذارند. فکر می‌کنند: «از پس حل این مسئله برنمی‌آیم»، پس دست‌به‌دامن هوش مصنوعی می‌شوند.

گیلبرت دریافت که این سوگیری‌ها رفته‌رفته به ویژگی‌های شخصیتی تبدیل می‌شوند. کسی که در ۲۵ سالگی عادت کرده بارِ فکری‌اش را زمین بگذارد، به‌احتمال زیاد در ۴۵ سالگی هم همین رویه را ادامه خواهد داد. مسیرهای عصبی‌ای که در جوانی به کار گرفته نشده و تمرین ندیده‌اند، شاید هرگز فرصت شکوفایی پیدا نکنند.

شاید اگر مسئله فقط به حافظه محدود می‌شد، جای نگرانی نبود. واقعاً چه ایرادی دارد یک آلارم را روی گوشی تنظیم کنیم؟ اما پژوهش‌ها نشان می‌دهند که هزینه‌های شناختی این وابستگی، خیلی فراتر از به‌یادآوردن قرارهای ملاقات است.

ناتانیل بار پروفسور تفکر خلاق دانشگاه شریمان می‌گوید افرادی که در آزمون بازتاب شناختی که معیاری برای سنجش تفکر تحلیلی در برابر تفکر شهودی است، نمره پایین‌تری می‌گیرند، برای بازیابی اطلاعات بیشتر گوشی‌های هوشمند وابسته‌اند. این‌ها همان کسانی هستند که به‌محض مواجهه با یک مشکل، ناخودآگاه به سراغ دم‌دست‌ترین و سریع‌ترین راه‌حل می‌روند.

اگر بعضی از شیوه‌های استفاده از هوش مصنوعی، به‌تدریج جلوی شکل‌گیری مهارت‌های تحلیلی را بگیرند، همه‌چیز نگران‌کننده‌تر می‌شود. وقتی دانشجویی مدام برای حل مسائل به هوش مصنوعی تکیه می‌کند، آیا می‌تواند زیرساخت‌های عصبی و ذهنی لازم را که فردا برای حل مشکلات دیگر به کارش می‌آیند، در خودش پایه‌ریزی کند؟

طرف‌داران سنتی ایده‌ی «برون‌سپاری و تخلیه بار شناختی» غالباً استدلال ساده و قانع‌کننده‌ای دارند: چرا باید چیزهایی را حفظ کنید که می‌توانید در لحظه جست‌وجویشان کنید؟ چرا انرژی‌تان را برای تفکرات سطح بالاتر ذخیره نکنید؟

ولی این استدلال درک درستی از کارکرد مغز ندارد. دانش چیز جدایی از تفکر نیست؛ بلکه بستر و پایه‌ای است که تفکر به آن نیاز دارد.

پزشکی که بیماری را تشخیص می‌دهد، وکیلی که دفاعیه و منطق را می‌چیند، یا معلمی که به سؤالی پاسخ می‌دهد، همگی به‌صورت آنی از دانش و محتوای ذهنشان استفاده می‌کنند.

اگر فقط بدانید اطلاعات «کجا» هستند اما خودتان بر آن‌ها مسلط نباشید، شما گرفتار «توهم دانایی» شده‌اید. به همین ترتیب وقتی هوش مصنوعی ممکن است به ما احساس کاذب دانشمند بودن بدهد، چون به کمکش می‌توانیم سریعاً به اطلاعاتی که می‌خواهیم برسیم. اما با این روال هرگز درک و بینش عمیقی را که لازمه‌ی تخصص واقعی است، در وجودمان توسعه نمی‌دهیم.

اگر نتایج پژوهش جدید درست باشد، افراد باهوش با تناقضی عجیب روبرو هستند: آن‌ها بهتر از دیگران می‌توانند قدرت هوش مصنوعی را بفهمند و آن را وارد شیوه‌ی کارشان کنند. اما همین گروه آسیب‌پذیرترین افراد در برابر هزینه‌های شناختی هوش مصنوعی نیز خواهند بود.

هوش مصنوعی آن‌ها را کاملاً ناتوان یا کودن نمی‌کند، اما ممکن است مانع از توسعه‌ی توانایی‌هایی شود که در شرایط عادی و بدون این ابزار می‌توانستند در خودشان پرورش دهند.

شاید خروجی کار، یکسان به نظر برسد. فرایندها پنهان‌اند و جای خالی رشد شناختی هم قابل‌اندازه‌گیری نیست؛ تا روزی که فرد با مشکلی روبرو شود که هوش مصنوعی هم نتواند حلش کند.

مشکل همه‌ی این تحقیقات این است که حکم نوش‌داروی پس از مرگ سهراب را دارند و دیرتر از آن به دست ما می‌رسند که جنبه‌ی پیشگیرانه داشته باشند. نسلی که با گوشی‌های هوشمند بزرگ شده، همین‌الان وارد بازار کار شده است. دانش‌آموزانی که در حال حاضر برای هر تکلیفی از چت‌جی‌پی‌تی استفاده می‌کنند، در حال توسعه عادت‌های شناختی‌ای هستند که تغییر دادنشان آسان نخواهد بود.

ما هنوز نمی‌دانیم که آیا این اثرات دائمی‌اند یا بعدا می‌توان یا تمرین آگاهانه جبرانشان کرد. نمی‌دانیم چه مقدار کمک‌گرفتن از هوش مصنوعی مفید است و از کجا به بعد آسیب‌زا می‌شود.

ما حتی روش‌ها و معیار دقیقی برای سنجش مهارت‌های روبه‌زوال ذهنی نداریم، چون آزمون‌های استاندارد نمی‌توانند فرق میان «کسی که خوب فکر می‌کند» و «کسی که خوب سرچ می‌کند» را تشخیص دهند.

اما چیزی که فعلاً داریم، یک الگوی تکرارشونده در پژوهش‌هاست که دیگر سخت می‌شود نادیده‌اش گرفت. به نظر می‌رسد «تخلیه‌ی بار شناختی» خیلی زود به عادت تبدیل می‌شود و بیشتر هم برای کسانی جذاب است که از قبل به میان‌برهای ذهنی علاقه دارند. از همه مهم‌تر، ممکن است دقیقاً جلوی شکل‌گیری همان توانایی‌هایی را بگیرد که قرار بوده تقویتشان کند.

برای آدم‌های باهوش، ماجرا این‌طور پیش می‌رود که وقتی کارهای ذهنی‌ای را که اساس باهوش‌بودنشان بوده به هوش مصنوعی می‌سپارند، بی‌سروصدا بخشی از توانایی تفکر اصیلی را از دست می‌دهند که هوش مصنوعی هنوز نمی‌تواند تقلیدش کند.

این افول، بی‌سروصدا رخ می‌دهد و جار نمی‌زند. تنها تفاوتش فاصله‌ی میان کسی است که می‌توانستید باشید و کسی که حالا هستید؛ شکافی که هرگز قابل‌اندازه‌گیری نیست، چون آن نسخه‌ی دیگر شما هیچ‌وقت فرصت زیستن نیافت.