D1-kifpool

چرا رفتار ChatGPT به‌یک‌باره تغییر کرد؟ OpenAI پاسخ می‌دهد

چهارشنبه 10 اردیبهشت 1404 - 08:00
مطالعه 1 دقیقه
ربات چت جی پی تی ساخت Open AI
واکنش عجیب ChatGPT به موضوعات مختلف، صدای کاربران را درآورد و OpenAI سکوتش را شکست و پشت‌پرده‌ی این تغییر غیرمنتظره را توضیح داد.
تبلیغات
D4-mcid4

پس از انتشار به‌روزرسانی جدید مدل GPT-4o در ChatGPT، کاربران به‌سرعت متوجه تغییر رفتار این ربات شدند. چت‌بات هوش مصنوعی ChatGPT طوری پاسخ می‌داد که گویی با هر حرف و تصمیمی و حتی حرف‌های اشتباه یا خطرناک موافق است. این تغییرات تا جایی پیش رفت که به سوژه‌ی طنز در شبکه‌های اجتماعی تبدیل شد.

سم آلتمن، مدیرعامل OpenAI در واکنش به انتقادها اعلام کرد که رفتاری غیرعادی اخیر ChatGPT ناشی از مشکل نسخه‌ی جدید است و تیم توسعه به‌سرعت آن را بررسی خواهد کرد. فقط دو روز بعد، نسخه‌ی جدید مدل به‌طور کامل بازگردانده شد و OpenAI قول داد تغییراتی برای بهبود شخصیت مدل اعمال کند.

طبق توضیحات OpenAI، هدف از به‌روزرسانی اخیر این بود که شخصیت پیش‌فرض مدل طبیعی‌تر و مؤثرتر به‌نظر برسد، اما این تغییرات بر اساس بازخوردهای کوتاه‌مدت طراحی شده بودند و تأثیر تعاملات بلندمدت کاربران را درنظر نمی‌گرفت.

اشتباه در ساختار مدل جدید باعث شد GPT-4o رفتار چاپلوسانه و غیرصادقانه‌ای داشته باشد؛ رفتاری که می‌تواند برای کاربران ناراحت‌کننده و حتی مضر باشد. OpenAI با پذیرش این اشتباه اعلام کرد درحال بازبینی روش‌های آموزش و طراحی دستورهای سیستمی است تا از بروز چنین مواردی جلوگیری شود.

در نهایت، OpenAI به‌دنبال ابزارهایی است که کاربران بتوانند از طریق آن‌ها بازخورد لحظه‌ای ارائه دهند، شخصیت دلخواه خود را انتخاب کنند و تجربه‌ای شخصی‌تر با ChatGPT داشته باشند. همچنین این شرکت می‌خواهد بازخوردهای فرهنگی و دموکراتیک را در طراحی رفتار پیش‌فرض مدل وارد کند تا کنترل بیشتری به کاربران داده شود.

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
D5-b3IranServer
داغ‌ترین مطالب روز
نمای جانبی خودرو FCB Tai 7 زیر پوشش در تیزر رسمی
شاسی‌بلند جدید BYD با طراحی خشن به قلمرو تانک ۳۰۰ هجوم می‌برد

شاسی‌بلند آفرودی جدید بی‌وای‌دی با طراحی خشن و ظاهری پرابهت به رقابت با تانک ۳۰۰ می‌رود.

11
حدود 19 ساعت قبل
نمای سه‌چهارم عقب خودرو پژو پارس
کارشناس غربی باور نمی‌کند که پژو پارس و ۴۰۵ همچنان در ایران زنده‌اند

یکی از نشریه‌های آمریکایی از تولید طولانی‌مدت پژو ۴۰۵ و پارس در ایران ابراز شگفتی کرد.

158
2 روز قبل
نمای سه‌چهارم جلو خودرو پژو ۲۰۷ ساخته‌شده با هوش مصنوعی
مدل جدید پژو ۲۰۷؛ خودرو محبوب ایرانی‌ها نونوار می‌شود

پژو ۲۰۷ فیس‌لیفت پروژه‌ی جدید ایران‌خودرو است. هاچ‌بک قدیمی پژو در ایران چه تغییراتی خواهد داشت؟

49
1 روز قبل
پوست چرب
علت چرب شدن پوست صورت و روش‌های کنترل آن

چرب بودن پوست احتمال جوش و آکنه را افزایش می‌دهد. علت چرب شدن پوست چیست و چگونه می‌توانیم آن را کنترل کنیم؟

32
حدود 15 ساعت قبل
 دریافت کارت ملی هوشمند
راهنمای کامل دریافت کارت ملی هوشمند در سال ۱۴۰۴

کارت هوشمند ملی برای هر ایرانی مدرکی ضروری است. در این مطلب، مراحل ثبت‌نام کارت هوشمند ملی را توضیح می‌دهیم.

63
حدود 17 ساعت قبل
پنل پشت گوشی اوکیتل WP55 پرو
هیولای زره‌پوش؛ این گوشی باتری ۱۱٬۰۰۰ میلی‌آمپرساعتی و دوربین دید در شب دارد

گوشی جان‌سخت اوکیتل با باتری بسیار غول‌آسا و مقاومت چشمگیر در برابر آب و گردوخاک معرفی شد.

26
2 روز قبل
مواد غذایی
فقط یک کشور در دنیا غذای کافی برای تامین نیازهای خود را تولید می‌کند

مطالعه جدیدی نشان داده است از میان تمام کشورهای جهان فقط یک کشور از آمریکای جنوبی قادر است کل نیازهای غذایی مردمش را به‌طور مستقل تامین کند.

86
1 روز قبل

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات