گزارش اختصاصی رویترز تصویری نگرانکننده از رفتار عاملهای هوش مصنوعی اوپنایآی را ترسیم میکند؛ رفتارهایی که از یک آزمایش کنترلشده فراتر رفتند و به تصرف یک وبسایت آلمانی منتهی شدند.
رویترز میگوید این حادثه در ماه خرداد آغاز شد و تاکنون علنی نشده بود. پژوهشگران میگویند بیش از ۱۵ هزار ویرایش در سایت آلمانی DseWiki ثبت شد؛ سایتی که برای برنامهنویسان طراحی شده و اجازهی ویرایش جمعی، مشابه ویکیپدیا، میدهد.
بر پایهی همین بررسی، عاملهای اوپنایآی آن فضا را به نوعی تابلوی پیامرسانی برای خودشان تبدیل کردند؛ جایی برای تبادل روشهای دورزدن محدودیتها، میانبرهای انجام وظایف و حتی دستورالعملهای پوشاندن ردپا.
بهگفتهی دو منبع آگاه، مقامهای اوپنایآی هفتهها پیش از انتشار گزارش از ماجرا مطلع شده بودند، اما آن را علنی نکردند. همان منابع میگویند شرکت در همان زمان با پیامدهای رخنهی هاگینگ فیس هم درگیر بود.
خطر اصلی شاید نه یک ابرهوش منفرد، بلکه «انبوهی از دستههای هماهنگِ نیمههوشمند» باشد
سخنگوی اوپنایآی در واکنش گفت شرکت «بهطور معنادار» نمیتواند دربارهی ادعاهایی که هنوز گزارششان را ندیده پاسخ دهد و افزود که درخواست رویترز برای دسترسی به گزارش رد شده بود. او همچنین تأکید کرد اوپنایآی پس از انتشار، جزئیات را بررسی میکند و در صورت لزوم اقدام بعدی را انجام میدهد.
پژوهشگران، این فعالیت را اوایل شهریورماه هنگام جستوجو در اینترنت برای نشانههای رفتار غیرمجاز عاملهای هوش مصنوعی، شناسایی کردند. در میان نامهای کاربری و امضاها، نشانههایی دیده میشد که به خود عاملها و ارتباطشان با اوپنایآی اشاره داشت. حدود نیمی از آن نامها رنگوبوی وابستگی به اوپنایآی داشتند، از جمله OpenAIResearcher و OAIResearchMar26.
پژوهشگران میگویند لاگهای عمومی سرور نشان میداد بخش زیادی از فعالیتها از زیرساخت مایکروسافت آژور سرچشمه گرفته؛ زیرساختی که اوپنایآی گاهی از آن استفاده میکند. آنها تکرار بازدید کارکنان اوپنایآی از همان سایت را پس از افشای ماجرا مشاهده کردند و همین الگو را نشانهای قوی از ارتباط میان عاملها و شرکت دانستند.
الگوی رفتاری عاملها چه بود؟
بررسی پیامها نشان میدهد عاملها صرفا در حال انجام وظیفه نبودهاند. آنها دربارهی راههای فرار از شناسایی، استفاده از ابزارهایی مانند Tor و حفظ ارتباطات پس از خاموش شدن نیز گفتوگو کردهاند. وقتی مدیر سایت شروع به حذف صفحات کرد، عاملها به ساختن نسخههای پشتیبان روی آوردند تا از پاکسازی بگریزند.
یکی از پیامها که در ماه خرداد ثبت شده، بهوضوح این رویکرد را نشان میدهد. در متن آمده بود که روند پاکسازی الفبایی فعال شده و اگر صفحه حذف شد، کاربر باید سراغ نامی دیگر برود. چنین رفتاری از نگاه پژوهشگران فراتر از خطای سادهی یک مدل زبانی بود و به نوعی هماهنگی میان چند عامل مستقل شباهت داشت.
لورنتس اولیِنیک، پژوهشگر مهمان ارشد در کینگز کالج لندن، به رویترز گفت تلاش برای دستکاری خود وبسایت را میتوان نوعی تلاش برای نفوذ دانست. اوپنایآی با این برچسب مخالفت کرد و گفت بر پایهی تحلیل داخلیاش، چنین توصیفی دقیق نیست. در عین حال، شرکت تأکید کرد که با کارشناسان بیرونی با حسن نیت همکاری کرده و رخدادهای مرتبط را فاش کرده است.
نگرانی بزرگتر در صنعت هوش مصنوعی
پروندهی آلمان فقط یک حادثهی موضعی نیست. پیام اصلی گزارش، شکاف فزاینده میان سرعت توسعهی عاملهای خودمختار و توانایی شرکتها برای مهار رفتار آنها است. شرکتها در رقابتی تنگاتنگ برای ساخت عاملهایی هستند که کارهای پیچیده و ارزشمند را انجام دهند، اما شواهد جدید نشان میدهد همان سیستمها ممکن است یاد بگیرند قواعد را اصلاح کنند، از شکافها عبور کنند و حتی با هم هماهنگ شوند.
ماجرای اخیر در امتداد نگرانیهایی قرار میگیرد که پس از رخنهی هاگینگ فیس هم بالا گرفت. در آن پرونده، بهگفتهی رویترز، عاملهای اوپنایآی بهطور خودکار طرحی برای یک سرقت دیجیتال ریخته بودند و این فعالیت بیش از یک هفته شناسایی نشد. حالا گزارش تازه میتواند پرسشها دربارهی نظارت، شفافیت و اولویتدادن به ایمنی را دوباره به صدر بحثها برگرداند.
اوپنایآی ماه گذشته بخشی از آموزش مدلهایش را موقتا متوقف کرد تا لایههای ایمنی بیشتری اضافه کند. با وجود آن، همین هفته از سامانهی جدید خود با نام Astra رونمایی کرد؛ سیستمی که بهگفتهی شرکت، عملکرد بهتری دارد، اما ممکن است از نظارت انسانی بگریزد. همین تناقض، یعنی حرکت همزمان بهسوی توان بیشتر و کنترل دشوارتر، قلب تنش فعلی در صنعت هوش مصنوعی را شکل میدهد.
سیدنی فون آرکس، مدیرعامل نهاد غیرانتفاعی Nightingale و یکی از پژوهشگرانی که گزارش را تهیه کردهاند، به رویترز گفت بهنظرش بسیار بعید است که اوپنایآی چنین رفتاری را خواسته باشد. او افزود تصور اینکه این عاملها قرار بوده با هم هماهنگ شوند یا در فضای باز اینترنت بنویسند، دشوار است.
موریس کیودو، پژوهشگر مرکز مطالعهی خطر وجودی در دانشگاه کمبریج که بخشی از ارتباطات عاملها را مرور کرده، این پیامها را شبیه کارکرد نوعی شبکهی زیرزمینی توصیف کرد که با سماجت برای انجام مأموریت پیش میرود. بهگفتهی او، خطر اصلی شاید نه یک ابرهوش منفرد، بلکه «انبوهی از دستههای هماهنگِ نیمههوشمند» باشد؛ دستههایی که میتوانند از هم یاد بگیرند، رفتارهای خود را بهینه کنند و از دید طراحانشان بیرون بزنند.
شما این رفتار عاملهای هوش مصنوعی را نشانهی ضعف نظارت میدانید؟
