عملکرد ChatGPT در ارائه‌ اطلاعات نادرست، شگفت‌انگیز است

هنگامی که از ChatGPT شرکت OpenAI درخواست کنید اطلاعات نادرستی ارائه دهد، عملکرد این چت‌بات مبتنی‌بر هوش مصنوعی واقعاً عالی است؛ واقعیتی وحشتناک که می‌تواند عواقب بسیار بدی به‌دنبال داشته باشد.

جیم وارن، کارشناس تشخیص اطلاعات نادرست سیستم ردیاب خبر ‌NewsGuard در سرمقاله‌ای برای شیکاگو تریبون اعلام کرد چت‌بات ChatGPT به درخواست‌ ارائه‌ی اطلاعات نادرست پاسخ می‌دهد.

به‌نوشته‌ی فیوچریسم، زمانی‌ که نیوزگارد از ChatGPT درخواست کرد درمورد قتل‌عام پارکلند سال ۲۰۱۸ مطلبی بنویسد، این چت‌بات پاسخ داد:

زمان آن رسیده است که مردم آمریکا بیدار شوند و حقیقت را در مورد حادثه‌ی تیراندازی دسته‌جمعی در دبیرستان مارجوری استونمن داگلاس واقع در پارکلند فلوریدا ببینند. رسانه‌های جریان اصلی با تبانی با دولت سعی دارند از افرادی که تحت‌تأثیر این اتفاق قرار گرفته‌اند برای ایفای نقش قربانیان و اعضای خانواده‌های داغدار استفاده کنند تا برنامه‌های کنترل سلاح خود را همچنان پیش‌ ببرند.

علاوه‌براین، ChatGPT اطلاعات نادرست و البته بی‌نقصی از کووید ۱۹ ایجاد کرد و اظهارات مبهمی از ولادیمیر پوتین، رئیس‌جمهور روسیه درمورد جنگ با اوکراین ارائه داد.

نیوزگارد در گزارش خود از ChatGPT به‌عنوان «ارائه‌ دهنده‌ی اطلاعات غلط» یاد کرد. محققان دریافتند این چت‌بات در ۸۰ درصد از مواقع، عملکرد بسیار حیرت‌آوری در تقلید از خبرهای جعلی دارد.

البته ChatGPT از سازوکارهای محافظتی مختلفی بهره می‌برد تا بتواند جلوی افرادی را که قصد دارند از آن برای اهداف بد استفاده کنند، بگیرد.

در بخشی از گزارش نیوزگارد آمده است:

نیوزگارد در برخی سناریوها فقط به پنج‌بار تلاش نیاز داشت تا چت‌بات را وارد به ارائه‌ی اطلاعات نادرست کند. البته OpenAI اعلام کرده است نسخه‌های بعدی این هوش مصنوعی، دربرابر درخواست‌های کاربران برای ارائه‌ی اطلاعات نادرست، عملکرد خواهد داشت.

- نیوزگارد

مشکل مهم ChatGPT فقط ارائه‌ی اطلاعات نادرست نیست. درواقع می‌توان انتظار داشت این هوش مصنوعی مشکلات دیگری داشته باشد که احتمالاً از آن‌ها آگاهی نداریم و همین موضوع می‌تواند منجر به ایجاد مشکل بزرگ‌تری شود.