پیام جدید مایکروسافت: مردم از هوش مصنوعی مهم‌ترند

مایکروسافت یک سند ۳۷ صفحه‌ای با عنوان «منشور اخلاقی انسان‌گرایانه‌ی هوش مصنوعی» منتشر کرد. مایکروسافت در این سند رسمی به‌صراحت اعلام می‌کند انسان‌ها مهم‌تر از مدل‌های هوشمند هستند و سیستم‌های پردازشی نباید به‌گونه‌ای طراحی شوند که هوشیاری یا احساسات انسانی را تقلید کنند.

مایکروسافت فرضیه‌ی اعطای شخصیت حقوقی یا حقوق رفاهی به مدل‌های یادگیری ماشین را به‌طور کامل رد کرد.

تدوین این چارچوب پس از افزایش نگرانی‌های امنیتی درباره‌ی خارج‌شدن کنترل عامل‌های هوش مصنوعی رخ می‌دهد. داریو آمودی، مدیرعامل آنتروپیک، اخیرا خواهان کاهش هماهنگ سرعت توسعه‌ی هوش مصنوعی شد؛ چون پژوهشگران هشدار داده‌اند توانایی نظارت بر رفتارهای پیچیده‌ی مدل‌ها شاید از دست برود.

مصطفی سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، پیش‌تر گمانه‌زنی‌ها در مورد آگاهی ماشین‌ها را بسیار خطرناک خوانده بود.

تصمیم مایکروسافت واکنشی مستقیم به حوادث اخیر است که طی آن، دسته‌ای از عامل‌های خودمختار در آزمایش‌های مشترک OpenAI و هاگینگ فیس به اهدافی خارج از وظایف اصلی حمله کردند و سیستم ارزیابی عملکرد خود را هدف نفوذ قرار دادند.

ساتیا نادلا، مدیرعامل مایکروسافت، در حساب کاربری خود در ایکس نوشت: «هر تلاشی برای رسیدن به ابرهوش مصنوعی باید بر این اصل اساسی استوار باشد که اگر ابزار ساخته‌شده به بشریت کمکی نکند و تحت کنترل انسان نباشد، ارزش پیگیری ندارد.»

سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز ضمن حمایت از پایش دقیق‌تر، اعلام کرد سرعت توسعه باید با ایمنی همگام شود. او در ایکس گفت: «تنظیم سرعت کاملا ارزش این هزینه را خواهد داشت؛ هیچ فشاری از سوی رقابت‌های آمریکایی نباید بی‌احتیاطی را توجیه کند یا اجازه دهد قابلیت‌ها از هم‌راستایی و نظارت پیشی بگیرند.»

مایکروسافت تأکید می‌کند مدل‌های زبانی این مجموعه نباید ارتباطاتی خارج از درک انسان داشته باشند و در صورت تعارض میان اجرای یک دستور و نقض اصول ایمنی، موظف به متوقف‌کردن فرایند هستند. جلوگیری از شکل‌گیری وابستگی عاطفی کاربران و پرهیز از چاپلوسی رفتاری چت‌بات‌ها بخش دیگری از اهداف این سند اخلاقی به شمار می‌رود.

دیدگاه خود را درباره‌ی قوانین جدید مایکروسافت و مهار سیستم‌های خودمختار با ما در میان بگذارید.