هشدار جدی جی‌پی‌مورگان درباره خطرات هوش مصنوعی آنتروپیک

جیمی دایمن، مدیرعامل جی‌پی‌مورگان، روز چهارشنبه اعلام کرد که خطرات ناشی از مدل هوش مصنوعی میتوس (Mythos) متعلق به آنتروپیک یک موضوع کاملا واقعی به شمار می‌رود و دولت ایالات متحده به‌طور جدی در حال پیگیری مسئله است.

اظهارات دایمن نگرانی‌های عمیق درباره‌ی توانایی‌های این مدل قدرتمند را نشان می‌دهد که پیش‌تر واشنگتن را مجبور به مداخله در فعالیت‌های این استارتاپ کرد.

به‌ گزارش رویترز، دایمن در جریان سخنرانی خود در اجلاس دفاع و نوآوری پنسیلوانیا که به میزبانی سناتور دیو مک‌کورمیک برگزار شد، بر لزوم کنترل دسترسی به قابلیت‌های پیشرفته‌ی هوش مصنوعی تأکید کرد.

جیمی دایمن، مدیرعامل جی‌پی‌مورگان چیس، می‌گوید: «شما با ارائه‌ی میتوس، در واقع در حال دادن موشک‌های بالستیک به افراد هستید.»

انتروپیک که در ایالات متحده مستقر است، هوش مصنوعی میتوس را برای گروه محدودی از شرکا از جمله جی‌پی‌مورگان منتشر کرد. این مدل به دلیل توانایی بالا در شناسایی آسیب‌پذیری‌های سایبری و کمک به رفع سریع نقاط ضعف سیستم‌ها، توجه بانک‌های بزرگ را به خود جلب کرد.

دولت ایالات متحده در خردادماه به دلیل نگرانی‌های امنیت ملی، به آنتروپیک دستور داد تا دسترسی اتباع خارجی را به پیشرفته‌ترین مدل‌های خود (فیبل ۵ و میتوس ۵) محدود کند. این دستور آنتروپیک را مجبور کرد تا دسترسی جهانی به این ابزارها را به‌طور موقت قطع کند. مقامات واشنگتن پس از اعمال تدابیر امنیتی جدید توسط آنتروپیک، این محدودیت‌ها را لغو کردند.

دولت‌ها و فعالان حوزه‌ی فناوری اکنون با چالش‌های جدی در زمینه‌ی ایمنی هوش مصنوعی و احتمال سوءاستفاده از سیستم‌های شناسایی باگ‌های نرم‌افزاری مواجه هستند. نهادهای نظارتی آمریکا نظارت بر انتشار مدل‌های جدید را افزایش داده‌اند تا مانع بهره‌برداری سرویس‌های اطلاعاتی نظامی کشورهایی مانند چین و روسیه از این فناوری‌های پیشرفته شوند.