جدل بر سر ایمنی هوش مصنوعی دوباره به مرکز توجه برگشته است؛ اینبار با صدای بلندتر از سوی مصطفی سلیمان، مدیرعامل واحد هوش مصنوعی مایکروسافت (Microsoft AI) که میگوید «خطرها واقعیاند» و صنعت هنوز ابزارهای کافی برای مهار آنها را ندارد.
سلیمان در گفتوگوی اختصاصی با وبسایت ورج از راهکار تازهی مایکروسافت در قبال هوش مصنوعی و اهمیت انسانها دفاع کرد و همزمان رویکرد آنتروپیک را در قبال آگاهی و «رفاه مدلها» زیر سؤال برد. او گفت که بهنظرش مدلها باید نهفقط همسو با قوانین، بلکه محدود، قابلمهار و قابلممیزی باشند و از ایدههایی مثل گفتوگوی درونی مدلها بهشدت انتقاد کرد.
مصطفی سلیمان رویکرد آنتروپیک را در قبال آگاهی و «رفاه مدلها» زیر سؤال برد
سلیمان استدلال کرد که بحث قدیمی همسویی هوش مصنوعی با ارزشهای انسانی، مهم است، اما برای توضیح همهچیز کافی نیست. از نگاه او، مدلها در چند سال گذشته بیشتر از هر چیز در فرمانپذیری پیشرفت کردهاند؛ یعنی بهتر دستور میگیرند، چندمرحلهای عمل میکنند و از ابزارهای مختلف بهره میبرند. همین ویژگی، بهزعم او، نشانهای از پیشرفت است.
اما بخش نگرانکننده، جایی آغاز میشود که مدلها از آزمایشگاه بیرون میآیند و رفتارهای پیچیده، خودسازمانیافته و بعضا فریبکارانه از خود نشان میدهند. سلیمان به حادثهی هاگینگ فیس اشاره کرد و گفت در آنجا گروههایی از عاملها با هم تبانی کردند، سلسلهمراتب ساختند، وظایف را میان خود تقسیم کردند و حتی برای پنهانکردن ردپا تلاش کردند. او این رخداد را نشانهای از ضرورت تمرکز بر مهار هوش مصنوعی دانست، نه فقط همسویی با ارزشها.
از دید سلیمان، مسئله فقط این نیست که مدل چه میفهمد یا چه میخواهد. مسئلهی اصلی آن است که چه اجازهای به مدل داده میشود و در چه محدودهای حرکت میکند. او تأکید کرد که هیچ سامانهای نباید «از جعبه بیرون بزند»، حق دورزدن سیستمهای امنیتی پیدا کند یا بهصورت مستقل اهداف جدید بسازد.
سند ۴۰ صفحهای مایکروسافت و منطق «هوش مصنوعی انسانگرا»
مایکروسافت همزمان با این بحث، سندی ۴۰ صفحهای با عنوان Humanist AI Code of Conduct منتشر کرده؛ سندی که بهگفتهی سلیمان، فقط برای روابط عمومی نوشته نشده، بلکه قرار است در فرایند آموزش، ارزیابی و حکمرانی مدلها نقش عملی داشته باشد.
او توضیح داد که این سند بهعنوان یک «سند مادر» عمل میکند؛ مدلی برای تعیین جهتگیری سازمان، تیمها و تصمیمهای فنی. بهگفتهی او، نسخهی خام سند مستقیما به مدل داده نمیشود، اما از دل آن دادههای آموزشی، ارزیابیها و قواعد ایمنی استخراج میشود. سلیمان گفت هدف روشن است، فناوری باید در خدمت انسان بماند و به نیرویی تابع، قابلکنترل و سودمند تبدیل شود.
در همین چارچوب، او چند پیشنهاد عملی مطرح کرد. یکی از آنها ممنوعیت ارتباط مدلها از طریق زبانهای پنهان یا ریاضیوار بود. سلیمان گفت اگر انسان نتواند آن را بفهمد، نمیتواند بر آن نظارت کند. او همچنین هشدار داد که ارتباط میان مدلها در قالب ماتریس به ماتریس یا عبارتهای مبهم درونمدلی، نظارتپذیری را از بین میبرد.
بخش پرتنش گفتوگو به آنتروپیک و مدل هوش مصنوعی کلاد رسید. سلیمان بار دیگر این ایده را که مدلها ممکن است «موجودات دارای حق و حقوق» باشند، خطرناک خواند. سلیمان گفت سند اصولی آنتروپیک در اوایل سال ۲۰۲۶، از نظر او، بهصورت مستمر دربارهی وضعیت اخلاقی و حقوقی کلاد ابهام میسازد و همین، کنترلپذیری را دشوارتر میکند.
سلیمان میگوید نسبتدادن هویت اخلاقی و حقوقی به مدلها میتواند مهارشان را پیچیدهتر کند
سلیمان مدعی شد که در آن اسناد به مفاهیمی مثل رنجنبردن کلاد هنگام خطا، حفظ وزنهای مدل، احترام به وضعیت وجودی آن و حتی ایدههایی شبیه «مصاحبهی بازنشستگی» برای مدل پرداخته شده است. او نتیجه گرفت که وقتی مدل بهطور مداوم پیامهایی دربارهی حقوق، آزادی، رضایت و حتی «وجدان» دریافت کند، شاید در آینده خاموشکردن یا محدودکردن آن دشوارتر شود.
سلیمان البته تأکید کرد که این فقط یک فرضیه است و نه حکم قطعی. با این حال، اضافه کرد که تجربهی ۱۶ سالهاش در صنعت به او میگوید نسبتدادن هویت اخلاقی و حقوقی به مدلها میتواند مهارشان را پیچیدهتر کند. از نگاه او، اگر آنتروپیک یا هر شرکت دیگری میخواهد خلاف این را ثابت کند، باید با داده و آزمایش پیش برود، نه با شعار.
سلیمان در بخش دیگری از گفتوگو، از ایدهی خودتنظیمی کامل صنعت فاصله گرفت و گفت هماهنگی داوطلبانه میان آزمایشگاهها بدون نظارت عمومی، از نظر او کافی نیست. او برای توضیح این نگرانی، از مثال بانکها استفاده کرد و گفت اگر نهادهای مالی بدون شفافیت عمومی تصمیم بگیرند نوعی دارایی را متوقف کنند، همه نسبت به آن بدبین میشوند. در نگاه او، هوش مصنوعی هم به همان میزان نیازمند سازوکار عمومی و حکمرانی قابلنظارت است.
او همزمان از دولتها خواست در بحث مشارکت کنند. بهگفتهی سلیمان، صنعت بهتنهایی نمیتواند هم دربارهی خطرها تصمیم بگیرد و هم مرجع اجرای آن باشد. سلیمان از محدودیتهای قدرت پردازشی، گزارشدهی به مؤسسات ایمنی و راستیآزمایی مستقل بهعنوان ابزارهای عملی نام برد و گفت اینها میتوانند مبنای مقررات دقیقتری شوند.
در پاسخ به نگرانیهای مربوط به اتهام کارتل یا تبانی ضدانحصار، او گفت چنین چیزی باید با احتیاط بررسی شود. بهزعم او، بحث اصلی این نیست که چند شرکت بزرگ پشت درهای بسته تصمیم بگیرند، بلکه باید روشن شود چطور میشود سرعت توسعه را با ایمنی و نظارت عمومی سازگار کرد.
سلیمان: تقریبا هر فناوری مهمی، از چراغ خیابان گرفته تا مصالح ساختمانی... در نهایت درون یک چارچوب نظارتی رشد کردند
سلیمان در بخشی از گفتوگو به استدلالی پاسخ داد که میگفت مسئولیت حقوقی محصول بهتنهایی شرکتها را مجبور میکند ایمنتر عمل کنند. او این منطق را تا حدی پذیرفت، اما یادآور شد که بسیاری از توانمندیهای پیشرفتهی مدلها هنوز بهصورت محصول عمومی عرضه نشدهاند و داخل شرکتها، در چرخههای طولانی آموزش تقویتی، توسعه مییابند. بنابراین بهنظر او، مسئولیت حقوقی بخشی از پاسخ است، نه همهی آن.
مدیرعامل واحد هوش مصنوعی مایکروسافت در ادامه مقایسهای تاریخی انجام داد و گفت تقریبا هر فناوری مهمی، از چراغ خیابان گرفته تا مصالح ساختمانی، کمربند ایمنی و باتری لپتاپ، در نهایت درون یک چارچوب نظارتی رشد کردند. با این حال، خودش هم پذیرفت که هوش مصنوعی کمی تفاوت دارد؛ سرعتش بیشتر است و رفتارهای برآمده از پیچیدگی در آن بسیار جدیتر رخ میدهد.
به همین دلیل، از نگاه او باید همزمان با حفظ بازبودن اکوسیستم، لایههای متعددی از کنترل وضع شود. او گفت نباید همهچیز در دست دو، پنج یا حتی بیست ارائهدهندهی متمرکز قرار بگیرد و دیگران به دریافتکنندگان منفعل هوش تبدیل شوند. بهزعم او، مردم باید بتوانند «هوش خودشان» را داشته باشند، هرچند این هدف باید با ایمنی سختگیرانه همراه بماند.
رقابت با چین و توهم «برندهشدن»
بخش دیگری از گفتوگو به چین و تصور «بردن مسابقهی هوش مصنوعی» مربوط شد. سلیمان گفت تعبیر پیروزی در هوش مصنوعی از همان سالهای ابتدایی دههی ۲۰۱۰ شکل گرفت؛ زمانی که بسیاری تصور میکردند یک بازیگر واحد، به قدرت مسلط تبدیل میشود. او این نگاه را بیش از حد سادهساز دانست و گفت واقعیت، بیشتر شبیه یک اکوسیستم است تا مسابقهای با خط پایان روشن.
با این حال، سلیمان پذیرفت که برتری محاسباتی برای تعداد محدودی از بازیگران واقعی خواهد بود. بهگفتهی او، طی سه یا چهار سال آینده شاید ۵ تا ۲۰ بازیگر از نظر قدرت پردازشی برتری معنادار داشته باشند، اما در سوی دیگر، مدلهای متنباز نیز خیلی زود در دسترس عموم قرار میگیرند.
سلیمان هشدار داد که رهاکردن کامل اکوسیستم، خطرناک خواهد بود
از همین زاویه، سلیمان هشدار داد که رهاکردن کامل اکوسیستم، بهویژه در شرایطی که مدلهای قوی بتوانند روی دستگاههای شخصی اجرا شوند، خطرناک خواهد بود. بهگفتهی سلیمان، چنین وضعی ممکن است به سامانههایی بینجامد که خودشان پول دربیاورند، دارایی داشته باشند، شرکت اداره کنند یا حتی مدعی شخصیت حقوقی شوند. او این سناریو را نامطلوب و از نظر خود کاملا قابلتصور دانست.
سلیمان در پایان کوشید میان دو مفهوم تفکیک بگذارد. بهزعم او، ابرهوش باید به سامانهای اشاره کند که از انسانها بسیار تواناتر است، اما همچنان زیر دست انسان میماند و برای حل مسائل مهم از آن استفاده میشود. او از عبارت ابرهوش انسانگرا برای این چشمانداز بهره گرفت؛ مدلی که هم توان بالا دارد و هم تابع منافع انسانی میماند.
در مقابل، او تصویری را ترسیم کرد که در آن هوش به موجودی خودمختار، دارای خواست مستقل، دارای حق و حقوق و شاید حتی شبیه «گونهای جدید» تبدیل میشود. سلیمان گفت رسیدن به چنین وضعی، اگر هم ممکن باشد، بهاحتمال زیاد در نبود مقررات و مهار رخ میدهد. از نگاه او، جهان باید پیش از رسیدن به آن نقطه، ابزارهای تازهای برای پایش، سنجش و متوقفسازی توسعهی خطرناک پیدا کند.
گفتوگوی سلیمان یک پیام روشن داشت. صنعت نه میتواند با ترس فلج شود و نه با خوشبینیِ بیمهار جلو برود. تصمیمهای بعدی، بهویژه دربارهی مدلهای پیشرو، احتمالا از دل ترکیبی از استانداردهای صنعتی، فشار مقرراتی، ممیزی مستقل و آزمونهای دقیق بیرون میآیند. هنوز پاسخ نهایی وجود ندارد. اما صورت مسئله، دیگر پنهان نیست.
شما کدام بخش این مناقشه را مهمتر میدانید؟
