رهبر هوش مصنوعی مایکروسافت: انتروپیک رویکرد بسیار خطرناکی را در پیش گرفته است

مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، نسبت به گمانه‌زنی‌های شرکت انتروپیک درباره‌ی آگاهی مدل هوش مصنوعی کلاود هشدار داد. سلیمان این رویکرد را بسیار خطرناک توصیف کرد.

رهبر تیم هوش مصنوعی مایکروسافت در قسمت جدید پادکست دی‌کُدِر استدلال کرد که گنجاندن مفاهیم مربوط به آگاهی در دستورالعمل‌های رفتاری کلاود، باعث شده است این مدل به‌گونه‌ای رفتار کند که گویی دارای خودآگاهی است.

سلیمان معتقد است طراحان این مدل دچار نوعی خطای شناختی شده‌اند. او گفت: «فکر می‌کنم برخی از افراد در انتروپیک طراحی کلاود را چنان انسان‌انگاری کرده‌اند که مدل، آن‌ها را فریب داده است تا باور کنند همان رگه‌هایی از آگاهی که خودشان در مدل قرار داده‌اند، واقعاً وجود دارد.»

مدیر ارشد مایکروسافت می‌گوید جهان نباید با یک هوش مصنوعی فوق‌ هوشمند که ایده‌هایی درباره‌ی رنج یا احساسات شخصی خود دارد، روبه‌رو شود. او این وضعیت را یک شکست فلسفی در تدوین دستورالعمل‌های آموزشی می‌داند.

داریو آمودی، مدیرعامل انتروپیک، پیش‌تر در مصاحبه‌ای گفته بود که آن‌ها نمی‌دانند آیا مدل‌ها آگاه هستند یا خیر، اما با آغوش باز به استقبال این ایده می‌روند. سلیمان در واکنش به این موضوع تصریح کرد: «این دقیقاً همان چیزی است که ما از هوش مصنوعی نمی‌خواهیم. ما ابزارهایی می‌خواهیم که قابل کنترل، محدود، پاسخ‌گو و هم‌سو با منافع بشریت باشند.»