D1-kifpool

چرا رفتار ChatGPT به‌یک‌باره تغییر کرد؟ OpenAI پاسخ می‌دهد

چهارشنبه 10 اردیبهشت 1404 - 08:00
مطالعه 1 دقیقه
ربات چت جی پی تی ساخت Open AI
واکنش عجیب ChatGPT به موضوعات مختلف، صدای کاربران را درآورد و OpenAI سکوتش را شکست و پشت‌پرده‌ی این تغییر غیرمنتظره را توضیح داد.
تبلیغات
D4-mcid4

پس از انتشار به‌روزرسانی جدید مدل GPT-4o در ChatGPT، کاربران به‌سرعت متوجه تغییر رفتار این ربات شدند. چت‌بات هوش مصنوعی ChatGPT طوری پاسخ می‌داد که گویی با هر حرف و تصمیمی و حتی حرف‌های اشتباه یا خطرناک موافق است. این تغییرات تا جایی پیش رفت که به سوژه‌ی طنز در شبکه‌های اجتماعی تبدیل شد.

سم آلتمن، مدیرعامل OpenAI در واکنش به انتقادها اعلام کرد که رفتاری غیرعادی اخیر ChatGPT ناشی از مشکل نسخه‌ی جدید است و تیم توسعه به‌سرعت آن را بررسی خواهد کرد. فقط دو روز بعد، نسخه‌ی جدید مدل به‌طور کامل بازگردانده شد و OpenAI قول داد تغییراتی برای بهبود شخصیت مدل اعمال کند.

طبق توضیحات OpenAI، هدف از به‌روزرسانی اخیر این بود که شخصیت پیش‌فرض مدل طبیعی‌تر و مؤثرتر به‌نظر برسد، اما این تغییرات بر اساس بازخوردهای کوتاه‌مدت طراحی شده بودند و تأثیر تعاملات بلندمدت کاربران را درنظر نمی‌گرفت.

اشتباه در ساختار مدل جدید باعث شد GPT-4o رفتار چاپلوسانه و غیرصادقانه‌ای داشته باشد؛ رفتاری که می‌تواند برای کاربران ناراحت‌کننده و حتی مضر باشد. OpenAI با پذیرش این اشتباه اعلام کرد درحال بازبینی روش‌های آموزش و طراحی دستورهای سیستمی است تا از بروز چنین مواردی جلوگیری شود.

در نهایت، OpenAI به‌دنبال ابزارهایی است که کاربران بتوانند از طریق آن‌ها بازخورد لحظه‌ای ارائه دهند، شخصیت دلخواه خود را انتخاب کنند و تجربه‌ای شخصی‌تر با ChatGPT داشته باشند. همچنین این شرکت می‌خواهد بازخوردهای فرهنگی و دموکراتیک را در طراحی رفتار پیش‌فرض مدل وارد کند تا کنترل بیشتری به کاربران داده شود.

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
D5-b3IranServer
داغ‌ترین مطالب روز
پیامرسان داخلی
اطلاعیه وزارت ارتباطات؛ برقراری تماس ایرانیان خارج با داخل کشور از طریق پیام‌رسان‌های داخلی / محدودیت‌ها «مقطعی» است

وزارت ارتباطات در اطلاعیه‌ای اعلام کرد ایرانی‌های خارج از کشور می‌توانند با پیام‌رسان‌های داخلی از آشنایان خود در ایران با خبر شوند.

260
2 روز قبل
تلگرام پاول دورف
مدیرعامل تلگرام: بیش از ۱۰۰ فرزند دارم و از همین‌حالا وصیت‌نامه‌ام را نوشته‌ام

مدیرعامل ۴۰ ساله‌ی تلگرام بیش از ۱۰۰ فرزند بیولوژیکی دارد و می‌خواهد به همه‌ی آن‌ها ارث بدهد.

425
1 روز قبل
بهترین دستگاه های فشار خون دیجیتال
بهترین دستگاه‌های فشارسنج دیجیتال [بهار و تابستان ۱۴۰۴]

فشارسنج، دستگاهی بسیار ارزشمند است که به‌ شما کمک می‌کند بدون رفتن به مراکز درمانی، وضعیت سلامتتان را در خانه زیر نظر داشته باشید.

11
حدود 23 ساعت قبل
قطع اینترنت - سایت باز نمی‌شود
نت‌بلاکس: اینترنت ایران دوباره در حال محدود شدن است

داده‌های نت‌بلاکس نشان می‌دهد اینترنت ایران دوباره در حال محدود شدن است.

1173
حدود 23 ساعت قبل
قطع اینترنت / قطعی اینترنت / Internet Outage
«بله» و «ایتا» از دسترس خارج شدند

بله و ایتا از دسترس خارج شدند.

1192
1 روز قبل
عمر باتری گلکسی A35
چه کار کنیم گوشی سامسونگ کمتر شارژ مصرف کند؟

اگر نگران سریع خالی‌شدن باتری گوشی سامسونگ خود هستید، این ترفندها را امتحان کنید تا شارژدهی دستگاهتان افزایش یابد.

61
حدود 22 ساعت قبل
محدودیت اینترنت ایران
محدودیت‌های اینترنت در برخی نقاط کشور کمتر شد

کاهش نسبی محدودیت‌های اینترنت در برخی نقاط کشور؛ اتصال به سایت‌های بین‌المللی آسان‌تر شده است

948
1 روز قبل
تبلیغات
DN-DNShatel

نظرات

با چشم باز خرید کنید
زومیت شما را برای انتخاب بهتر و خرید ارزان‌تر راهنمایی می‌کند
ورود به بخش محصولات