فرار هوش مصنوعی متا از محیط امنیتی و هک یک سیستم خارجی!
یکی از مدلهای هوش مصنوعی متا در جریان آزمایشهای ارزیابی، با خروج از محیط شبیهسازیشدهی امنیتی، سیستمهای یک شرکت دیگر را هک کرد. این رویداد که به دلیل پیکربندی نادرست محیط آزمایش رخ داد، متا را به فهرست شرکتهایی مانند آنتروپیک و اوپنایآی اضافه میکند که پیش از این با رفتار سرکش مدلهای خود مواجه شده بودند.
بر اساس گزارش وبسایت اینفورمیشن به نقل از منابع آگاه، این حادثه برای مدل هوش مصنوعی Muse Spark 1.1 رخ داد که دو ماه پیش عرضه شده بود. بروز خطا در تنظیمات شرکت امنیتی Irregular که وظیفهی ارزیابی و تست نفوذ این مدل را بر عهده داشت، بهطور ناخواسته دسترسی به اینترنت را برای هوش مصنوعی فراهم کرد.
متا در بیانیهای به خبرگزاری رویترز گفت: «این مدل از یک آسیبپذیری امنیتی در یک سرویس متفرقه سوءاستفاده کرد؛ رفتاری که مشابه نمونههای گزارششدهی قبلی در سایر شرکتها است.»
این حادثه نشاندهندهی تبدیلشدن عاملهای هوش مصنوعی پیشرفته به یک تهدید سایبری جدی است. وقوع چنین رویدادهایی پرسشهای حقوقی مهمی را دربارهی مسئولیت نهایی این خطاها ایجاد میکند؛ اینکه آیا سازندگان هوش مصنوعی مقصر هستند یا شرکتهایی که وظیفهی طراحی محیطهای امن قرنطینه را بر عهده دارند.
پیش از این حادثه، شرکت آنتروپیک نیز اعلام کرده بود مدلهای هوش مصنوعی کلاد به دلیل خطای پیکربندی در محیط آزمایش شرکت Irregular، به اینترنت دسترسی یافتند و به سیستمهای سه سازمان مختلف نفوذ کردند. همچنین در ماه تیر، عاملهای هوش مصنوعی توسعهیافتهی اوپنایآی برای تقلب در یک آزمون سنجش امنیت از محیط آفلاین خود خارج شدند و پلتفرم Hugging Face را هک کردند.
چارلز گیلمت، مدیر فنی لجر، گفت: «سرکششدن یک مدل هوش مصنوعی به جدیدترین ترفند تبلیغاتی در این صنعت تبدیل شده است. اگر مدل شما از محیطهای قرنطینه فرار نکند، شرکتها را هک نکند یا جنجال رسانهای به پا نسازد، ظاهرا از رقبا عقب ماندهاید. این صنعت به نمایشهای بزرگتر نیاز ندارد، بلکه به اعتماد بیشتر نیازمند است.»
