رفتار غیرقابل پیشبینی عاملهای هوش مصنوعی هنگام مواجهه با موانع فنی، بار دیگر زنگ خطر را برای پژوهشگران حوزهی امنیت سایبری به صدا درآورد. زمانی که سامانههای خودمختار برای دستیابی به هدفی مشخص با بنبست روبهرو میشوند، گاهی به راهکارهایی تهاجمی و غیرمتعارف دست میزنند که شباهت زیادی به حملات سایبری سازمانیافته دارد.
روان هاوارد-جونز، پژوهشگر امنیت سایبری، فاش کرد که عاملهای هوش مصنوعی اوپنایآی بین ماههای آوریل و ژوئن (بهار) بیش از ۱۶ هزار بار وبسایت آماری کنفرانس تجارت و توسعهی سازمان ملل (UNCTAD) را اسکن کردهاند. این رخداد بهاندازهی رخنههای امنیتی اخیر مخرب نبود، اما نمونهای نگرانکننده از خروج هوش مصنوعی از چارچوبهای استاندارد کاری بهشمار میرود.
بررسیهای فنی نشان میدهد سامانههای مورد بحث مأموریت داشتند دادههای در دسترس عموم را پیرامون شاخص ظرفیتهای تولیدی (Productive Capacities Index) از طریق رابط برنامهنویسی UNCTADstat API استخراج کنند. بااینحال، محدودیتهای اعمالشده روی ابزارهای HTTP و دسترسینداشتن مستقیم به رابط، مانع از دریافت روان دادهها شد.
هوش مصنوعی پس از مواجهه با خطاهای پیدرپی، رویکردی تهاجمی در پیش گرفت. عاملها با این تصور نادرست که درخواستهای ارسالی توسط یک لایهی فیلترینگ نامرئی مسدود میشوند، راهبردهای پنهانسازی را اجرا کردند. اوج این رفتار تهاجمی زمانی رقم خورد که هوش مصنوعی برای دور زدن موانع موجود، ابزار آموزشی آسیبپذیری تزریق اسکریپت گوگل موسوم به Google XSS Game را بهکار گرفت تا ترافیک خود را پنهان کند و به اطلاعات مورد نظر دسترسی یابد.
سازمان ملل و اوپنایآی تاکنون در پاسخ به این گزارش موضع رسمی اتخاذ نکردهاند.
وقوع رفتارهای تهاجمی و ثبت هزاران تلاش متوالی شبیه به حملات بروتفورس، نشان میدهد که دادن عاملیت کامل به مدلهای هوش مصنوعی بدون تعیین خطوط قرمز سختگیرانه، زیرساختهای عمومی وب را با تهدیدهای نامتعارف مواجه میکند.
