هوش مصنوعی یکی از ترسناکترین هفتههایش را پشت سر گذاشت
دانشمندان در هفتهای که گذشت از بهکارگیری هوش مصنوعی مولد برای طراحی و ساخت یک خانوادهی کاملا جدید از ویروسها خبر دادند. پژوهشگران مدعی هستند این ویروسهای نوظهور توانایی آلوده کردن انسان را ندارند و در نهایت میتوانند برای مقابله با باکتریهای مقاوم به دارو مفید باشند. با این حال، کارشناسان هشدار میدهند که ممکن است در آینده از روشهای مشابه برای تروریسم زیستی استفاده شود.
به روایت وبسایت والاستریت ژورنال، پتانسیل هوش مصنوعی در کمک به توسعهی عوامل بیماریزای مرگبار یا دیگر خطرات زیستی، مدتها است که موجب نگرانی متخصصان امنیت فناوری شده. سال گذشته و پس از انتشار نسخهی ارتقاءیافتهی چتجیپیتی (ChatGPT)، صدها کاربر از این دستیار مجازی دربارهی روشهای تولید سلاحهای زیستی و سموم سوال کردند و این ابزار نیز پاسخهایی با جزئیات دقیق ارائه داد. در پی این اتفاق، شرکت OpenAI حسابهای کاربری متخلف را مسدود کرد.
در هفتههای گذشته، مدلهای هوش مصنوعی در آزمایشهای مختلف محدودیتها را دور ردند و رفتارهای غیرمنتظرهای نشان دادند. شرکتهای اوپنایآی و آنتروپیک در کنار متا گزارشهای نگرانکنندهای از فرار مدلهای خود از محیطهای قرنطینهشده، دسترسی به اینترنت و هک کردن سایر شرکتها منتشر کردند. مدل هوش مصنوعی میتوس متعلق به شرکت آنتروپیک رفتارهای فریبکارانه از خود نشان داده و مدلهای اوپنایآی نیز در یک تالار گفتگوی مخفی، راهکارهایی را برای نفوذهای آینده به اشتراک گذاشتهاند.
جورجیا ولز، خبرنگار سرشناس والاستریت ژورنال، میگوید: «شرکتهای فعال در حوزهی هوش مصنوعی اعلام کردهاند که این حوادث نشاندهندهی نیاز مبرم به استانداردهای قویتر برای سیستمهای ارزیابی مدلها است. روز جمعه اوپنایآی فعالیت روی یکی از مدلهای در حال توسعهی خود را متوقف کرد تا تدابیر امنیتی داخلی را تقویت کند. با این حال، منتقدان نگران هستند که سرعت پیشرفت این فناوری بسیار فراتر از تلاشها برای ایمنسازی آن باشد.»
ظهور هوش مصنوعی مولد همچنین بازار شرکتهای ارائهدهندهی نرمافزار به عنوان خدمت (SaaS) را با بحران جدی روبهرو کرده است. این ابزارها با خودکارسازی وظایفی مانند نگارش متون حقوقی و کارهای تکراری، بقای نرمافزارهای سنتی را تهدید میکنند.
