یکی از پژوهشگران حوزهی هوش مصنوعی در اعتراض به شتابزدگی شرکتها در توسعهی سیستمهای مهارنشدنی و خطر انقراض انسان، از سمت خود استعفا داد.
جیکوب کاکسن، محقق پیشآموزش مدلها، اعلام کرد شرکتهای توسعهدهندهی هوش مصنوعی برای دستیابی زودهنگام به« ابرهوش»، جان انسانها را به خطر انداختهاند.
کاکسن سابقهی فعالیت در هر دو شرکت OpenAI و آنتروپیک را دارد و هدف از استعفای خود را رفتارهای غیرمسئولانهی این شرکتها عنوان کرد: «من امروز از آنتروپیک استعفا دادم. سه سال گذشته را صرف پژوهشهای پیشآموزش در هر دو شرکت اوپنایآی و آنتروپیک کردم. هیچیک از این دو شرکت مسئولانه رفتار نمیکنند. آنها مستقیما به سوی ابرهوشمندی خودبهبودگر میتازند و روی زندگی ما قمار میکنند.»
کاکسن با تأکید بر اینکه سیستمهای فوقهوشمند به زودی توانایی نفوذ به هر ساختار، ایجاد دگرگونی یکشبه در حوزههای گوناگون و تصاحب منابع واقعی را پیدا خواهند کرد، نسبتبه نادیده گرفتن این خطرات هشدار داد.
کاکسن میگوید: «افرادی که در حال ساخت هوش مصنوعی هستند قلبا باور دارند که این فناوری تا پایان دهه میتواند همهی ما را بکشد. این یک ترفند تبلیغاتی نیست. اگرچه بسیاری از مدیران و پژوهشگران ارشد عبارات خود را در رسانهها محتاطانه بیان میکنند تا معقول به نظر برسند، اما من از زبان همان افراد در محافل خصوصی ابراز ترس شنیدهام. هیچ فعالیت انسانی دیگری این سطح از خطر را ایجاد نمیکند.»
پژوهشگر ۲۷ سالهی پیشین آنتروپیک اعلام کرد این شرکت بهخوبی از خطر برای بشر آگاه است؛ اما باور دارد به دلیل بیمسئولیتی دیگران، خود باید نخستین سازندهی این سیستمها باشد.
