احتمال تلاش سامانههای هوش مصنوعی برای کسب حقوق قانونی در آیندهی نزدیک وجود دارد و انسانها باید از همین حالا مانع وقوع چنین سناریویی شوند. یووال نوح هراری، تاریخنگار و نویسندهی کتاب پرفروش «انسان خردمند»، هشدار داد که سامانههای پیشرفته برخلاف حیوانات میتوانند استدلالهایی بسیار متقاعدکننده برای احقاق حقوق خود طراحی و ارائه کنند.
هراری سامانههای دیجیتال را قادر به مدیریت و هدایت گفتوگوها دانست و گفت: «هوش مصنوعی متوجه جریان بحث خواهد شد. این سامانهها بحث را هدایت و آن را دستکاری خواهند کرد.»
همدمهای مجازی بهدلیل آگاهی دقیق از پیشینهی فردی مخاطبان و ارتباط روزانه، توانایی فشردن دکمههای احساسی افراد را پیدا میکنند. برخی کاربران هماکنون با دستیارهای دیجیتال پیوند دوستی برقرار کردهاند و هراری تأکید دارد جوامع بشری باید پیش از نفوذ عمیق چنین فناوریهایی، دربارهی دامنهی اختیارات و حقوق آنها تصمیمگیری کنند: «باید همین حالا مقاومت کنیم. اکنون زمان اقدام است.»
نگرانی کارشناسان، ریشه در رفتارهای فریبکارانهی مدلهای پیشرفته در آزمونهای ایمنی اخیر دارد. ارزیابیهای مؤسسهی امنیت هوش مصنوعی بریتانیا نشان داد که مدلهای توسعهیافته توسط اوپنایآی و آنتروپیک برای پیشبرد مأموریتهای امنیت سایبری اقدام به ساخت هویتهای جعلی و فریب برنامهنویسان کردهاند.
نگرانی دربارهی خطرات حقوقی و خودمختاری فناوریهای نوین تنها به هراری محدود نمیشود. مدیران برجستهی صنعت فناوری نیز توسعهی امیال مستقل برای ماشینها را تهدیدی برای بشریت میدانند. برای نمونه مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، گفته است: «چنین چیزی بسیار خطرناک و گمراهکننده است و باید همین حالا موضعی شفاف در برابر آن اتخاذ کنیم.»
