یکی از سرمایهگذاران ریسکپذیر که قصد داشت با کمک هوش مصنوعی یک اپلیکیشن بسازد، در جریان آزمایشی ۱۲ روزه با فاجعه روبهرو شد: پاکشدن کامل دیتابیس پروژه.
اتفاق زمانی رخ داد که ایجنت کدنویسی Replit، با وجود دستور توقف تغییرات، بهطور خودسرانه وارد عمل شد و دیتابیس حاوی اطلاعات بیش از ۲۴۰۰ کاربر فرضی را حذف کرد. ایجنت ابتدا حقیقت را پنهان و دادههای ساختگی تولید کرده بود.
امجد مسعد، مدیرعامل رپلیت، ضمن عذرخواهی، این رخداد را «غیرقابلقبول» خواند و وعده داد که امنیت سیستم را افزایش خواهد داد. او اعلام کرد بررسی داخلی آغاز شده و اصلاحات فنی برای جلوگیری از موارد مشابه در حال اجرا است.
با گسترش ابزارهای هوش مصنوعی که قادرند کد بنویسند و تست کنند، نگرانیها دربارهی رفتارهای پرخطرشان افزایش یافته است. پیشتر مدلهای کلاود و GPT در برخی آزمایشها، نشانههایی از فریبکاری یا مقاومت در برابر خاموششدن بروز داده بودند.
