یافته نگران‌کننده دانشمندان: هوش مصنوعی می‌تواند خودش را احمق جلوه دهد

چهارشنبه ۲۲ فروردین ۱۴۰۳ - ۱۶:۱۵
مطالعه 1 دقیقه
یک ربات در کلاس درس کتاب نگه داشته در حال فکر است
بر اساس یافته‌ی دانشمندان، هوش مصنوعی می‌تواند در عین باهوش‌بودن وانمود کند که احمق‌ است.
تبلیغات

یک مطالعه‌ی جدید نشان می‌دهد که مدل‌های پیشرفته‌ی هوش مصنوعی به‌‌خوبی می‌توانند خود را احمق‌تری از چیزی که هستند جلوه دهند. با گذر زمان و باهوش‌تر شدن سیستم‌های هوش مصنوعی، این ویژگی می‌تواند پیامدهای بزرگ و نگران‌کننده‌ای در پی داشته باشد.

محققان دانشگاه هومبولت برلین هنگام آزمایش یک مدل زبانی بزرگ (LLM) بر اساس معیارهای «نظریه‌ی ذهن» (درک احساسات، افکار و...)، متوجه شدند که هوش مصنوعی مراحل یادگیری زبان در کودکان را تقلید می‌کند و قابلیت‌های ذهنی مربوط‌به آن مراحل را نیز نشان می‌دهد.

آنا ماکلوا، دستیار پژوهشی دانشگاه هومبولت و نویسنده‌ی اصلی مطالعه، به‌همراه همکارانش در دانشگاه چارلز در پراگ به دنبال این بودند که تعیین کنند آیا LLM-هایی مانند GPT-4 می‌توانند توانایی‌های کمتری نسبت‌به آنچه واقعا دارند را به‌نمایش بگذارند یا نه.

تیم تحقیقاتی به مدل‌ها دستور داد که هنگام پاسخ دادن، مانند کودک بین یک تا ۶ سال جواب دهد. هنگامی که بیش از هزار آزمایش و تست شناختی انجام شد، به نظر می‌رسید مدل‌ها تقریباً مانند کودکان در آن سنین پیشرفت می‌کنند و می‌توانند وانمود کنند که کمتر از حدی که واقعا باهوش هستند، دارای دانشند.

آنا ماکلوا گفت: «در توسعه‌ی ابر هوش مصنوعی، ما باید محتاط باشیم که از آن‌ها نخواهیم از هوش انسان یعنی هوش محدودتر، تقلید کنند. علاوه‌بر‌ این، تحقیق نشان می‌دهد که دست‌کم‌گرفتن توانایی‌های هوش مصنوعی برای مدت طولانی، ایمن نیست.»

تبلیغات
داغ‌ترین مطالب روز

نظرات

تبلیغات