اشتباه مهلک هوش مصنوعی؛ یک کاسه توله‌ببر بخورید!

شرکت سفارش آنلاین غذای جاست ایت (Just Eat) پس از انتشار تصویری تولیدشده با هوش مصنوعی که به‌جای غذا، کاسه‌هایی حاوی توله‌ببر را نشان می‌دادند، عذرخواهی کرد. این اتفاق بار دیگر نشان داد اتکای بیش از حد شرکت‌ها به هوش مصنوعی، بدون بررسی انسانی خروجی‌ها، می‌تواند به اشتباهاتی عجیب و حتی آسیب‌زننده به اعتبار برند منجر شود.

تصاویر تولیدشده با هوش مصنوعی قرار است تهیه‌ی عکس‌های جذاب برای منوهای رستوران‌ها را سریع‌تر و ارزان‌تر کنند؛ اما مدل‌های تصویرساز همیشه مفهوم درخواست را درست درک نمی‌کنند. آن‌ها ممکن است جزئیات را اشتباه بسازند، اشیای نامرتبط را در تصویر قرار دهند یا ترکیب‌هایی غیرمنطقی تولید کنند که در نگاه اول واقعی به نظر می‌رسند.

ماجرای جاست ایت نمونه‌ای از همین مشکل است: تصویری که قرار بود نمایشی از یک غذا باشد، به تصویری نامتعارف از کاسه‌های حاوی توله‌ببر تبدیل شد. چنین خطایی شاید در نگاه اول خنده‌دار به نظر برسد؛ اما برای پلتفرمی که تصاویرش مستقیماً روی تجربه‌ی مشتری و اعتماد به رستوران‌ها تأثیر می‌گذارند، اتفاق خوشایندی نیست.

شرکت‌ها ممکن است به امید کاهش هزینه و افزایش سرعت، تولید تصویر را خودکار کنند؛ اما اگر تصاویر نهایی پیش از انتشار بررسی نشوند، اشتباهات آشکار نیز می‌توانند به دست مشتریان برسند. در این شرایط، مسئولیت نتیجه همچنان بر عهده‌ی شرکتی است که محتوا را منتشر می‌کند، نه ابزاری که آن را ساخته است.