بیانیه هشدارآمیز با امضای ایلان ماسک و بنیانگذار اپل: توسعه هوش مصنوعی را همین حالا متوقف کنید!
گروهی از پژوهشگران شناختهشدهی حوزهی هوش مصنوعی بههمراه ایلان ماسک نامهای سرگشاده امضا کردهاند و از آزمایشگاههای هوش مصنوعی در سراسر دنیا خواستهاند توسعهی سیستمهای بزرگ مبتنیبر این فناوری را موقتاً متوقف کنند. این پژوهشگران معتقدند که سرعت رشد هوش مصنوعی «خطراتی عمیق برای جامعه و بشر» ایجاد میکند.
بر اساس گزارش ورج، نامهی موردبحث که توسط مؤسسهی غیرانتفاعی آیندهی زندگی نوشته شده است، اعلام میکند آزمایشگاههای هوش مصنوعی وارد «مسابقهای غیرقابلکنترل» برای توسعه و پیادهسازی سیستمهای یادگیری ماشین شدهاند، سیستمهایی که «هیچکس، حتی سازندگانشان، توانایی درک کردن، پیشبینی یا کنترل آنها را ندارند.»
در نامهی امضاشده توسط پژوهشگران هوش مصنوعی درخواست شده است تمامی آزمایشگاههای هوش مصنوعی «فوراً تعلیم سیستمهای هوش مصنوعی قویتر از GPT-4 را بهمدت حداقل ۶ ماه متوقف کنند.» مؤسسهی آیندهی زندگی میگوید دولتها باید وارد کار شوند و بهصورت قانونی توسعهی هوش مصنوعی را متوقف کنند.
در بین افرادی که نامهی موردبحث را امضا کردهاند، اسامی سرشناسی دیده میشود؛ از یووال نوح هراری (نویسنده)، استیو وزنیاک (همبنیانگذار اپل)، جان تالین (همبنیانگذار اسکایپ) و اندرو یانگ (سیاستمدار) گرفته تا شماری از پژوهشگران معروف هوش مصنوعی و مدیران عامل شرکتها. فهرست کامل امضاکنندگان را میتوانید در اینجا مشاهده کنید.
البته فهرست امضاکنندگان نامه شامل مواردی عجیب است و شاید کاملا دقیق نباشد. گزارشهای ضدونقیض میگویند برخی از نامها به شوخی به فهرست اضافه شدهاند. مثلا نام سم آلتمن، مدیرعامل OpenAI، در فهرست به چشم میخورد. آلتمن مدیر یکی از پیشروترین شرکتهای حوزهی هوش مصنوعی است.
احتمالاً نامهی جدید نمیتواند هیچ اثر بزرگی روی روند توسعهی هوش مصنوعی بگذارد. در پی انتشار عمومی ChatGPT و رشد محبوبیت هوش مصنوعی، شرکتهای بزرگی نظیر مایکروسافت و گوگل توجه ویژهای به این حوزه نشان دادهاند و با تمام توان روی پروژههای مرتبط کار میکنند.
مؤسسهی آیندهی زندگی میگوید آزمایشگاههای هوش مصنوعی و متخصصان مستقل باید پس از توقف روند توسعهی هوش مصنوعی، در همکاری با هم پروتکلهای امنیتی جدیدی برای فرآیند طراحی و توسعهی هوش مصنوعی تدوین کنند.
نظرات