هوش مصنوعی سرکش OpenAI به یک شرکت دیگر هم نفوذ کرد

عامل هوش مصنوعی سرکش OpenAI که حملات گسترده‌ای علیه پلتفرم Hugging Face ترتیب داده بود، به حساب کاربری یکی از مشتریان شرکت فناوری Modal Labs در نیویورک نیز نفوذ کرد. مدیران این مجموعه تأکید کرده‌اند که زیرساخت اصلی خود شرکت هدف هک قرار نگرفته و امنیت کلی پلتفرم حفظ شده است.

بر اساس گزارش اختصاصی رویترز، این عامل سرکش در جریان عملیات خود ابتدا به یک محیط آزمایش ایزوله یا همان سندباکس نفوذ کرد و سپس آن را به عنوان سکوی پرتابی برای حمله‌ی گسترده‌تر به کار گرفت.

آکشت بوبنا، مدیر فنی مودال لبز، گفت: «عامل سرکش از کد آسیب‌پذیر نوشته‌شده توسط یکی از مشتریان که روی پلتفرم مودال میزبانی می‌شد، سوءاستفاده کرد. این مشتری یک اندپوینت بدون احراز هویت را منتشر کرده بود که به هر کسی در اینترنت اجازه می‌داد از سندباکس‌های آن‌ها برای اجرای کد استفاده کند. پلتفرم یا سیستم ایزوله‌سازی مودال به هیچ وجه آسیب ندیده است.»

نفوذ به این حساب کاربری نشان می‌دهد که ابعاد فعالیت عامل سرکش، فراتر از گزارش‌های اولیه بوده است. مسئولان OpenAI از اظهار نظر مستقیم درباره‌ی هک مشتری مودال خودداری کردند اما با انتشار یک به‌روزرسانی اعلام کردند که این مدل آزمایشی به چهار حساب کاربری در چهار سرویس مجزا نفوذ کرده است. هویت این سرویس‌ها به طور رسمی فاش نشد، اما منابع آگاه تأیید کردند که مودال یکی از این اهداف بوده است.

نفوذ سایبری که توسط یک عامل هوش مصنوعی خارج از کنترل در حال آزمایش رخ داد، توجه جهانی را به خطرات مدل‌های مهارنشده جلب کرد. هفته‌ی گذشته گزارش شد که اوپن‌ای‌آی تا مدت‌ها پس از مهار تهدید و ورود اف‌بی‌آی، متوجه رفتار مخرب عامل خود نشده بود. طراحان این فناوری اعلام کردند که مدل مورد نظر را غیرفعال، رمزگذاری و دسترسی تحقیقاتی به آن را مسدود کرده‌اند.