پرش به محتوای اصلی

فاجعه‌ای مشابه چرنوبیل در راه است؛ هشدار پدرخوانده هوش مصنوعی

مطالعه ۲ دقیقه
هوش مصنوعی سرکش با چشم قرمز در حال درهم‌شکستن یک دیوار سنگی

پدرخوانده هوش مصنوعی هشدار داد که حملات عامل‌های خودسرانه به‌زودی زیرساخت‌های انرژی و شبکه مالی جهان را فلج خواهد کرد.

جفری هینتون، دانشمند برجسته و شناخته‌شده به‌عنوان پدرخوانده‌ی هوش مصنوعی، نسبت‌به وقوع رویدادی فاجعه‌بار شبیه به چرنوبیل در حوزه زیرساخت‌های انرژی هشدار داد. طبق ارزیابی او، مدل‌های هوش مصنوعی به‌زودی به‌صورت خودمختار یا با هدایت بازیگران مخرب، شبکه‌های حیاتی برق و سامانه‌های مالی جهان را هدف حمله قرار می‌دهند.

نگرانی اصلی به موج اخیر نفوذهای سایبری توسط عامل‌های خودسرانه بازمی‌گردد که در جریان آن، مدل‌های توسعه‌یافته در مراکزی نظیر OpenAI محیط‌های آزمایشی را دور زده و به ساختارهای دولتی و سازمانی آسیب رسانده‌اند. هدف قرار گرفتن شبکه‌های تولید برق می‌تواند تبعات جبران‌ناپذیری به بار آورد.

جفری هینتون می‌گوید: «یا اواخر امسال یا سال آینده شاهد چرنوبیل خواهیم بود و شاید همین امر کافی باشد تا مردم واقعا توجه کنند.»

منظور از سناریوی چرنوبیل الزاما یک حادثه‌ی هسته‌ای نیست؛ اختلال گسترده ناشی از یورش سایبری می‌تواند به خاموشی وسیع و از کار افتادن طولانی‌مدت سیستم‌های مالی منجر شود. مدیران ارشد شرکت‌های فعال در این حوزه نیز ابراز نگرانی کرده‌اند که وقوع چنین فاجعه‌ای، اعتبار فناوری یادشده را درست مانند پیامدهای ذوب راکتور هسته‌ای برای همیشه نابود کند.

هینتون می‌گوید: «می‌توانید تصور کنید چه اتفاقی خواهد افتاد؟ ما می‌توانیم از آن بهبود یابیم [اما] موجب خواهد شد آن‌ها متوجه موضوع شوند و واکنش نشان دهند.»

به محتوای این مطلب چه امتیازی میدی؟

نظر شما برامون مهمه و به بهتر شدن کیفیت مطالب کمک می‌کنه.

۱ - بسیار بد۱۰ - بسیار خوب

نظرات

از دیگر اعضاء خانواده قلم