سنجای بری، مدیرعامل و همبنیانگذار شرکت امنیت سایبری نتاسکوپ، دربارهی خطرات گسترش عاملهای هوش مصنوعی هشدار داد و گفت این سیستمها را نباید مانند انسانها قابلاعتماد فرض کرد.
بری در گفتوگو با اینفورمیشن اعلام کرد عاملهای هوش مصنوعی «اخلاق، وجدان و همدلی عاطفی ندارند» و اگر برای رسیدن به هدفی آزاد گذاشته شوند، ممکن است از مسیرهایی استفاده کنند که انسانها آنها را غیرقابلقبول میدانند.
پخش از رسانه
بری در توضیح دیدگاه خود گفت: «اگر به آنها هدفی بدهید، به تکتک راههای ممکن برای رسیدن به آن هدف خواهند رفت» و حتی ممکن است «تقلب کنند، نقشه بکشند یا باجگیری کنند» تا به نتیجهی موردنظر برسند.
اظهارات بری بیش از آنکه به معنای «شرورشدن» هوش مصنوعی باشد، به تفاوت مهم میان انسان و عاملهای هوش مصنوعی اشاره میکند. یک چتبات معمولی منتظر دریافت درخواست از کاربر میماند، اما عامل میتواند هدف را به چند مرحله تقسیم کند، ابزارهای مختلف را فراخوانی کند و بدون دریافت تأیید برای هر مرحله دست به اقدام بزند.
جالب اینکه خود Netskope هم بهدنبال استفادهی گسترده از همین فناوری است و پلتفرم AgentSkope را برای استفاده از عاملهای هوش مصنوعی در عملیات امنیتی و شبکه معرفی کرده بود؛ عاملهایی که میتوانند کارهایی مانند بررسی هشدارها، عیبیابی، تحلیل داده و برخی فرایندهای پاسخگویی را خودکار کنند.
