هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا

پس‌از انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیده‌ی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهی‌اوقات به زبان‌های دیگری مانند چینی، فارسی یا زبان‌های دیگر فکر می‌کند. مدل مذکور در فرآیند پاسخ‌دهی، مراحل استدلالی خود را به زبان دیگری انجام می‌دهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه می‌دهد.

ازنظر برخی متخصصان، چینی فکر کردن ChatGPT به‌دلیل استفاده از داده‌های چینی در فرآیند آموزش مدل است. شرکت‌هایی مانند OpenAI برای برچسب‌گذاری داده‌های پیشرفته‌ی علمی و ریاضی از خدمات شرکت‌های چینی استفاده می‌کنند. این برچسب‌ها نقش کلیدی در یادگیری مدل‌ها دارند و می‌توانند به جانب‌داری یا تأثیر زبانی منجر شوند.

در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به داده‌های چینی ندارد. آن‌ها می‌گویند مدل‌ها احتمالاً زبان‌هایی را انتخاب می‌کنند که برای انجام وظیفه‌ای خاص، کارآمدتر باشند یا حتی به‌طور تصادفی به این زبان‌ها جابه‌جا می‌شوند. از آنجاکه مدل‌ها کلمات را به‌صورت توکن پردازش می‌کنند، تفاوتی میان زبان‌ها برای آن‌ها وجود ندارد.

نظریه‌های دیگر نشان می‌دهند که پاسخ‌های چینی ChatGPT می‌تواند نتیجه‌ی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. به‌عنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی به‌دلیل کوتاهی و کارآمدی آن در برخی موارد می‌تواند کارآمدتر باشد.

درنهایت، به‌دلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدل‌ها، دلیل قطعی این رفتار مشخص نیست. به‌همین‌دلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوه‌ی ساخت و آموزش سیستم‌های هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیده‌هایی را بهتر درک کرد.