چت‌بات‌هایی که قضاوت نمی‌کنند؛ چرا مردم به‌جای پزشک، سراغ هوش مصنوعی می‌روند؟

دوشنبه 18 خرداد 1405 - 14:36
مطالعه 8 دقیقه
مراجعه به پزشک یا استفاده از هوش مصنوعی برای درمان
بیماران خسته از نگاه‌های سرزنش‌آمیز، حالا سلامتی خود را به الگوریتم‌هایی می‌سپارند که با حوصله‌ای بی‌نهایت، جایگاه مشاوران پزشکی را تسخیر کرده‌اند.
تبلیغات

اغلب ما اگر نیمه‌شب با درد مبهمی در سینه از خواب بیدار شویم؛ به‌جای اینکه بلافاصله با اورژانس تماس بگیریم یا اعضای خانواده را از خواب بیدار کنیم، دستمان را به سمت گوشی هوشمندمان دراز می‌کنیم. شاید با اضطراب علائم فیزیکی را در یکی از چت‌بات‌های هوش مصنوعی تایپ کنیم و توصیه‌هایش را به‌دقت بخوانیم؛ اما اگر همین چت‌بات نتیجه‌گیری کند که به جراحی قلب باز داریم، آیا حاضریم تیغ جراحی را به دست بازوهای رباتیک بسپاریم؟ مسلما نه!

خلاصه صوتی

خلاصه‌ی صوتی مقاله، ساخته‌شده با هوش مصنوعی

چنین تناقض روشنی در واکنش ما به توصیه‌های پزشکی AI، مرزهای بهداشت و درمان را در سال ۲۰۲۶ دوباره ترسیم می‌کند؛ در جامعه‌ای که افراد بیش‌از گذشته از یکدیگر فاصله گرفته‌اند، اعتماد عمومی به توانایی تصمیم‌گیری آگاهانه در حوزه‌ی سلامت به پایین‌ترین سطوح خود رسیده و نسبت به سال گذشته ۱۰ واحد کاهش یافته است.

حالا گزارش جدید تراست بارومتر ادلمن (Edelman Trust Barometer) نشان می‌دهد که در حال حاضر ۳۵درصد از مردم جهان برای مدیریت سلامت خود به‌صورت مستقیم به هوش مصنوعی پناه می‌برند؛ البته نفوذ AI، جغرافیای یکدستی ندارد؛ درحالی‌که در کشوری مثل هند ۶۵درصد مردم کاربر سیستم‌های هوش مصنوعی هستند، در آمریکا این عدد به ۲۰درصد می‌رسد.

وقتی اعتماد عمومی مردم به اطلاع‌رسانی رسمی چنین فرو می‌ریزد، اتاق‌های عمل و مراقبت‌های حاد تا کجا در انحصار پزشکان باقی می‌ماند؟ چرا در قلمرو وسیع پیشگیری و سبک زندگی، الگوریتم‌های هوش مصنوعی بدون داشتن هیچ‌گونه مدرک پزشکی، در حال تبدیل‌شدن به معتمدترین مشاوران افکار عمومی هستند؟

نخستین سطح اعتماد؛ چرا تیغ جراحی را به ماشین نمی‌سپاریم؟

گزارش ادلمن، رفتار بیماران را با «سیستم مراقبت سلامت دوسطحی» (Two-Tier Health Trust System) تعریف می‌کند؛ در لایه‌ی نخست، وقتی پای مرگ و زندگی، مراقبت‌های حاد و تصمیم‌گیری‌های حساس بالینی در میان است، انسان‌ها همچنان به منابع دارای صلاحیت علمی و رسمی پناه می‌برند.

درواقع پزشکان با کسب ۸۰درصد اعتماد جهانی، همچنان معتمدترین صدا در بحران‌های سلامت هستند و این جایگاه مستحکم را در میان همه‌ی گروه‌های اعتقادی، حتی بدبین‌ترین افراد جامعه نیز حفظ کرده‌اند. به‌علاوه وقتی پای تأثیرگذاری بر روند «تشخیص بیماری» به‌میان می‌آید، پزشکان با ضریب نفوذ ۴۸درصدی در برابر تأثیر ۲۳درصدی منابع غیررسمی، با اختلاف پیشتازند.

در مواجهه با تصمیم‌گیری‌های حساس بالینی، انسان‌ها همچنان پاسخگویی اخلاقی پزشک را به قدرت پردازش ترجیح می‌دهند

اما چرا در عصری که یک دستیار هوشمند می‌تواند در کسری از ثانیه، میلیون‌ها پرونده‌ی پزشکی را مرور کرده و الگوهای پنهان را کشف کند، ما باز هم مراجعه به پزشکان را ترجیح می‌دهیم؟ همان‌طور که خطای اپلیکیشن مسیریاب در پیداکردن یک کوچه با خطای سیستم ناوبری هواپیمای مسافربری قابل‌قیاس نیست، توهم هوش مصنوعی در پیشنهاد یک دمنوش گیاهی شاید نادیده گرفته شود؛ اما در برنامه‌ریزی برای جراحی عروق فاجعه‌بار خواهد بود.

در فضای سرد اتاق عمل یا لحظه‌ی اعلام یک تشخیص سنگین، بیمار به چیزی فراتر از قدرت پردازش ماشینی، به مسئولیت‌پذیری اخلاقی، درک شهودی و همدلی انسانی نیاز دارد؛ ویژگی‌هایی که کدهای برنامه‌نویسی توان بازتولید آن‌ها را ندارند.

هوش مصنوعی در این لایه‌ی حساس، به‌جای آنکه نقش یک تصمیم‌گیرنده‌ی مستقل یا پزشک جایگزین را ایفا کند، در بهترین حالت دستیار فوق‌هوشمندی است که داده‌های پردازش‌شده را برای تأیید نهایی روی میز جراح قرار می‌دهد.

نقش الگوریتم‌ها در پیشگیری و سبک زندگی

اما رویارویی اصلی انسان و تکنولوژی در لایه‌ی دوم سیستم منعکس می‌شود؛ جایی که از راهروهای استریل بیمارستان‌ها خارج می‌شویم و به روزمرگی افراد قدم می‌گذاریم. داده‌های گزارش ادلمن نشان می‌دهند که در حوزه‌ی پیشگیری و خودمراقبتی، یعنی سطح دوم سیستم اعتماد سلامت، فاصله‌ی نفوذ پزشکان با منابع غیررسمی تنها به ۶ واحد رسیده است.

حتی فراتر از حوزه‌ی پیشگیری و خودمراقبتی، وقتی صحبت از مدیریت رژیم غذایی، تغذیه و مصرف مکمل‌ها به‌میان می‌آید، اغلب مردم دیگر منتظر وقت ویزیت و نسخه‌های رسمی نمی‌مانند. در این عرصه، الگوریتم‌های هوش مصنوعی دوشادوش دوستان، خانواده، شبکه‌های اجتماعی و جوامع بیماران، نقش بازیگران اصلی و معتمد را ایفا می‌کنند.

دلیل چرخش رفتار عمومی و موفقیت الگوریتم‌ها چندان پیچیده نیست و به تجربه‌ی روانی بیماران برمی‌گردد. نهادهای رسمی سلامت عموما ساختار کُند و واکنشی، مبتنی‌بر درمان بیماری پس‌از وقوع، دارند؛ مثلا اغلب بیماران هنگامی که برای تغییر سبک زندگی به سیستم‌های رسمی مراجعه می‌کنند؛ از سرزنش‌شدن واهمه دارند؛ درحالی‌که ابزارهای AI، مشاورانی همیشه بیدارند که باحوصله و بدون نگاه بالابه‌پایین به حرف‌های کاربر گوش می‌دهند.

رژیم غذایی و سبک زندگی اکنون قلمرو چت‌بات‌هایی است که بی‌قضاوت به حرف‌های بیماران گوش می‌دهند

طبق آمار ادلمن، بیماران ویژگی قضاوت‌نکردن هوش مصنوعی را ۱۸ واحد و فهم‌پذیری آن را ۱۱ واحد بهتر از پزشکان انسانی ارزیابی کرده‌اند.

وقتی پای یک رژیم غذایی پیچیده یا تغییر عادت‌های روزمره در میان باشد، چت‌باتی که بدون هیچ طعنه‌ای با کاربر همراهی می‌کند، نسبت به نسخه‌های سنتی جذابیت بیشتری دارد. بی‌دلیل نیست که ۶۷درصد از کاربران هوش مصنوعی در حوزه‌ی سلامت، از این ابزار برای گفت‌وگو درباره‌ی مشکلات شخصی و احساسات خود استفاده می‌کنند.

حس راحتی و اعتماد، مرزهای تخصص را در ذهن جامعه کم‌رنگ کرده است، تاجایی که ۶۴درصد از مردم جهان معتقدند فردی بدون آموزش پزشکی، اما مسلط به هوش مصنوعی می‌تواند حداقل در یک حوزه به‌اندازه‌ی پزشک یا حتی بهتر عمل کند. این باور در میان جوانان ۱۸ تا ۳۴ سال به مرز ۷۲درصد می‌رسد و تغییر چارچوب‌های فکری را نشان می‌دهد.

بدین‌ترتیب، ماشین‌ها موفق شده‌اند انحصار سنتی دانش پزشکی را در حوزه‌ی سبک زندگی بشکنند و جایگاه برتری را در لایه‌ی دوم اعتماد عمومی به‌دست آورند.

اقیانوس اطلاعات و سقوط مرجعیت سنتی پزشکی

مراجعه‌ی روزافزون مردم به ابزارهای هوش مصنوعی برای مسائل مرتبط با بهداشت و سلامت، در وهله‌ی نخست از سردرگمی اطلاعاتی ناشی می‌شود؛ پیش‌‌تر تصور می‌شد افرادی که به باورهای غلط پزشکی اتکا می‌کنند، اقلیتی کم‌سواد و کم‌اطلاع‌اند و صرفا به آموزش بیشتری نیاز دارند؛ اما گزارش ادلمن خط بطلانی بر تمام این پیش‌فرض‌ها می‌کشد.

براساس گزارش ادلمن، درحال‌حاضر ۷۰درصد از مردم جهان حداقل یک ادعای پزشکی کاملا ردشده و اثبات‌نشده را باور کرده‌اند؛ مانند استفاده از واکسن برای کنترل جمعیت و در مقیاسی دقیق‌تر، ۲۹درصد افراد، حداقل به سه باور غلط پزشکی ایمان دارند!

نکته‌ی مهم اینکه برخلاف تصور سنتی، تحصیلات آکادمیک مانعی جدی در برابر اطلاعات غلط نیست؛ چنان‌که ۶۹درصد از فارغ‌التحصیلان دانشگاهی دقیقا مشابه افراد بدون تحصیلات (۷۰ درصد) در دام باورهای اشتباه افتاده‌اند. به‌علاوه، این بحران به هیچ ایدئولوژی خاصی هم محدود نمی‌شود.

امروز فارغ‌التحصیلان دانشگاه نیز در گرداب اطلاعات غلط و باورهای اثبات‌نشده پزشکی غرق شده‌اند

اکنون تنها نیمی‌از مردم جهان به تصمیمات بهداشتی خود اطمینان دارند. در فضایی که اعتماد به پوشش رسانه‌ایِ اخبار سلامت نیز کاهشیافته است و هنوز به سطح قبل از دوران همه‌گیری کرونا بازنگشته، کاربران در میان انبوهی از داده‌های متناقض احساس گم‌گشتگی می‌کنند و توانایی تمایز بین علم و شایعه را ازدست‌داده‌اند.

بازتاب بحران همچنین در کاهش اعتماد افراد به دانشمندان و نهادهای جهانی نیز دیده می‌شود و حتی دوستان و اعضای خانواده نیز دیگر جایگاه پیشین خود را ندارند. وقتی کاربر احساس می‌کند که با توصیه‌های متناقض بمباران می‌شود، تلاش سیستم رسمی برای اثبات اشتباه‌بودن باورهایش، صرفا مقاومت او را بیشتر می‌کند.

در شکاف عمیق رابطه‌ای پیش‌آمده، چت‌باتی که با پردازش سریع، پاسخی شخصی‌سازی‌شده و عاری از هرگونه موعظه را روی صفحه نمایشگر ظاهر می‌کند، جایگزین منابع کلاسیک می‌شود و مرجعیت نهایی را برای تأیید یا رد باورهای روزمره سلامت به‌دست می‌گیرد.

انسان در برابر الگوریتم؛ نبردی بر سر اعتماد

خروج از بحرانِ بی‌اعتمادی تنها با تغییر نگرشی بنیادین در سطح مدیران ارشد و سیاست‌گذاران ممکن می‌شود؛ زیرا دوران کمپین‌های یک‌طرفه و تلاش برای یکسان‌سازی عقاید به سر آمده است. سازمان‌ها باید از تلاش بی‌حاصل برای اصلاح باورهای بیماران دست بردارند و در عوض، روی نتایج عملی درمان تمرکز کنند.

در عصر هوش مصنوعی، درک و پذیرش تردیدها و عدم قطعیت‌های بیمار، بسیار بیشتر از سخنرانی‌های علمی از بالابه‌پایین نتیجه می‌دهد.

سیستم درمان باید تجربه بیمار را از نو بسازد؛ تجربه‌ای که بسیار انسانی‌تر، ساده‌تر و همدلانه‌تر باشد

در جهانی که تنها ۳۲درصد از مردم معتقدند نسل آینده، وضعیت بهتری خواهد داشت، گزارش ادلمن از فرصت «دو بار شنیدن» می‌گوید؛ زیرا ۷۲درصد از افرادی که باورهای ریشه‌داری دارند؛ باید یک حرف را چندین بار و از زبان چند منبع مختلف بشنوند تا رفتارشان تغییر کند.

اینجاست که پزشکان باید به‌عنوان مهم‌ترین و ارزشمندترین حلقه‌ی کمک به بیماران وارد میدان شوند و با همراهی شبکه‌ای از واسطه‌های معتمد، از جمله، سازمان‌های حمایت از بیماران با ۵۹درصد اعتماد مردمی و تولیدکنندگان محتوای دارای دانش پزشکی با ۵۲درصد اعتماد مردمی، دیوارهای بی‌اعتمادی را کنار بزنند.

نقش نهایی کسب‌وکارها در سلامت فردا

در اجرای فرمول جدید، جایگاه کسب‌وکارها و شرکت‌های فناوری نقشی تعیین‌کننده پیدا می‌کند. برای نخستین‌بار در تاریخ نظرسنجی ادلمن، کسب‌وکارها تنها نهادی هستند که در چشم مردم هم‌زمان اخلاقی و توانمند شناخته می‌شوند.

اکنون کارفرمایان بسیار بیشتر از دولت، رسانه‌ها یا سازمان‌های مردم‌نهاد مورداعتماد جامعه قرار دارند؛ به‌همین دلیل، استفاده از محیط کار به‌عنوان یک کانال ارتباطی سلامت و ادغام ابزارهای هوش مصنوعی در برنامه‌های رفاه شرکتی، می‌تواند مزیت راهبردی بهینه‌ای باشد.

به‌علاوه آمارها نشان می‌دهد وقتی پای جلب‌اعتماد در میان باشد، حفظ بی‌طرفی سازنده و تشویق افراد به همکاری بسیار بیشتر از جانب‌داری در مسائل تفرقه‌برانگیز برای برندها اعتبار می‌آورد؛ شکافی که امروز در باورهای سلامتیِ مردم می‌بینیم، فراتر از مشکلات ارتباطی؛ ریسک تجاری سهمگینی است که هم پایبندی به درمان و هم اعتماد به برند را تهدید می‌کند.

در نهایت، نباید رویارویی انسان و هوش مصنوعی را در حوزه‌ی سلامت، نزاعی بر سر داده و پردازش اطلاعات بدانیم.

هوش مصنوعی به‌لطف ویژگی‌هایی مانند همیشه دردسترس‌بودن و قضاوت‌نکردن بیمار، هر روز مردم بیشتری را به‌سوی خود جذب می‌کند. در مقابل، کادر درمان و نهادهای سلامت باید روی نقطه‌قوت انحصاری خودشان، یعنی مسئولیت‌پذیری و ایجاد ارتباط انسانی متمرکز شوند و تجربه‌ی بیمار را انسانی‌تر، ساده‌تر و شخصی‌تر کنند.

نظرات