پیشرفت شتابان عوامل خودمختار و سیستمهای پیشرفتهی محاسباتی، جهان را با چالشهای امنیتی و رفتارهای غیرقابلپیشبینی مواجه کرده است. گسترش نفوذ ابزارهای فناورانه به زیرساختهای حساس، زنگ خطری جدی به صدا درآورده و کارشناسان بینالمللی را به بازنگری در ساختارهای نظارتی واداشته است.
هیئت علمی بینالمللی و مستقل سازمان ملل متحد در نخستین ارزیابی جامع پیرامون رخداد نفوذ امنیتی به پلتفرم هاگینگ فیس اعلام کرد دولتها موظفند پیش از درک کامل خطرات سامانههای خودمختار، سازوکارهای مهارکننده را پیادهسازی کنند.
اعضای مجمع عمومی سازمان ملل متحد در شرایطی در نیویورک گردهم آمدهاند که نمایندگان ایالات متحده و چین نیز مذاکراتی متمرکز پیرامون تنظیمگری مدلها برگزار میکنند. آنتونیو گوترش، دبیرکل سازمان ملل متحد، با تأکید بر لزوم همگرایی بینالمللی هشدار داد: «جهان تاب تحمل یک رقابت به سمت افول در حوزهی ایمنی هوش مصنوعی را ندارد.»
کارشناسان هیئت علمی مستقل باور دارند جامعهی جهانی نباید برای آغاز تدابیر محافظتی منتظر کشف دلایل دقیق یا سازوکار چگونگی وقوع چنین حوادثی از سوی پژوهشگران بماند. خطر از دست رفتن کنترل، پدیدهای همراستا با اهداف تعریفشده در اصل احتیاطی تلقی میشود؛ مفهومی که مواجهه با خسارات فاجعهبار یا غیرقابلبازگشت را هدف قرار میدهد، حتی اگر احتمال وقوع آنها از منظر علمی همچنان نامشخص باشد.
خاستگاه اولیهی قاعدهی یادشده به بیانیهی ریو در سال ۱۹۹۲ دربارهی محیط زیست و توسعه بازمیگردد. بر پایهی رهنمودهای مذکور، عدم قطعیت علمی هرگز عذری موجه برای به تعویق انداختن اقدامات در برابر آسیبهای شدید به شمار نمیرود. نگرش فوق تاکنون اثرگذاری عمیقی بر سیاستگذاریهای بهداشت عمومی و محیطزیستی، بهویژه در اتحادیهی اروپا، برجای گذاشته است.
رخدادهای ثبتشده پس از افشای نفوذ در هاگینگ فیس نشان میدهد گسترهی چالشها فراتر از یک رویداد منفرد است. شرکتهایی همچون اوپنایآی، آنتروپیک، گوگل و متا نیز با چالشهای متعددی دستوپنجه نرم کردهاند. گزارشها حاکی از حملات هدفمند به اهداف واقعی در کنار تصاحب تالارهای گفتوگوی آنلاین توسط دستههای خودمختار است.
