چت‌بات جدید آمازون اطلاعات محرمانه این شرکت را فاش کرد

چت‌بات هوش مصنوعی آمازون Q به‌دلیل مسائل مربوط به‌دقت و نشت داده‌ها با انتقاد کارمندان این شرکت مواجه شده و اسنادی که دراختیار Platformer قرار گرفته‌، نشان می‌دهد Q اطلاعات محرمانه‌ مثل موقعیت مکانی مراکز داده‌ی AWS و برنامه‌های تخفیفی داخلی آمازون را فاش می‌کند و علاوه‌بر این متوهم شده است.

سند داخلی فاش‌شده از آمازون به توهمات Q و پاسخ‌های اشتباهی اشاره می‌کند که در این چت‌بات هوش مصنوعی دیده شده و می‌تواند منجر به ایجاد پاسخ‌های مضر یا نامناسب شود. به‌عنوان مثال، آمازون Q می‌تواند اطلاعات امنیتی را فاش کند که حساب‌های مشتریان را درمعرض خطر قرار خواهد داد.

آمازون بحث‌های کارکنانش درمورد چت‌بات Q را کم‌اهمیت می‌داند و ادعا می‌کند هیچ مشکل امنیتی‌ای در این هوش مصنوعی شناسایی نشده است. به‌هرحال اسناد فاش‌شده نگرانی‌هایی را درمورد دقت و امنیت Q ایجاد می‌کند؛ چت‌باتی که هنوز در مرحله‌ی پیش‌نمایش قرار دارد و به‌طور دردسترس عموم نیست.

آمازون Q به‌عنوان رقیب ChatGPT برای مشتریان سازمانی شناخته می‌شود و با امنیت بسیار بالا طراحی شده است. به‌هر حال اسناد فاش‌شده، به خطراتی مثل ارائه‌ی اطلاعات نادرست یا مضر از طرف Q اشاره دارند.