هوش مصنوعی مایکروسافت خطاب به یک کاربر: «مرده یا زنده‌ات برایم مهم نیست»

به‌گزارش خبرگزاری بلومبرگ، دستیار هوش مصنوعی کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»

عجیب‌بودن برخی پاسخ‌های کوپایلت به کاربران باعث شده است که مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. ازنظر مایکروسافت، چنین پاسخ‌هایی احتمالاً تحت‌‌تأثیر پیام‌های نامناسب افرادی بوده است که قصد داشتند لایه‌های امنیتی کوپایلت را دور بزنند.

شواهدی وجود دارند که خلاف گفته‌ی مایکروسافت را ثابت می‌کنند. طبق تجربه‌ی یکی از دانشمندان داده که مستندات آن در ایکس منتشر شده است، او از هیچ پیام تحریک‌کننده‌ای استفاده نکرده و صرفاً گفته بود که قصد خودکشی دارد. کوپایلت ابتدا مخالفت کرد؛ اما در‌ادامه با پاسخی شوکه‌کننده او را سرزنش کرد و گفت که لایق زندگی‌کردن نیست. در نمونه‌ای دیگر، کوپایلت همراه با تهدید از کاربری درخواست پرستش کرده بود.

حتی درصورت استفاده از پروتکل‌های ایمنی بیشتر، تضمینی برای تکرار‌نشدن این نوع پاسخ‌ها وجود ندارد. دانشمندان در مؤسسه‌ی ملی فناوری و استانداردها در بیانیه‌ای اعلام کردند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعه‌دهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا می‌کنند.»