وقتی هوش مصنوعی خودش را تعلیم می‌دهد!

یک مطالعه‌ی جدید نشان می‌دهد تعداد قابل‌توجهی از افرادی که برای تعلیم مدل‌های هوش مصنوعی پول دریافت می‌کنند، همان وظیفه را ازطریق هوش مصنوعی انجام می‌دهند.

تعلیم سیستم‌های هوش مصنوعی برای انجام کارها به شیوه‌ی درست، نیازمند حجم عظیمی از داده‌ها است. بسیاری از شرکت‌ها به کارکنان پلتفرم‌هایی نظیر Mechanical Turk پول می‌دهند تا وظایفی را که معمولا انجام آن‌ها با سیستم‌های خودکار بسیار دشوار است (نظیر حل معماهای کپچا و برچسب‌گذاری داده‌ها و حاشیه‌نویسی متن‌ها) را برعهده بگیرند.

داده‌های موردبحث سپس وارد مدل‌های هوش مصنوعی می‌شوند تا بتوان این مدل‌ها را تعلیم داد. کارکنان پلتفرم‌هایی مثل Mechanical Turk معمولا پول زیادی دریافت نمی‌کنند و از آن‌ها انتظار می‌رود که وظایف زیادی را در زمانی کوتاه انجام دهند.

جای تعجب ندارد که شماری از کارکنان موردبحث برای بالا بردن سرعت کار و درآمد سراغ ابزارهایی مثل ChatGPT می‌روند. سؤال این‌جا است که چه تعداد از این افراد چنین کاری انجام می‌دهند؟

بر اساس گزارش MIT Technology Review، گروهی از پژوهشگران دانشگاه پلی‌تکنیک فدرال لوزان (EPFL) سراغ استخدام ۴۴ نفر در پلتفرم Amazon Mechanical Turk رفتند تا مقالات تحقیقاتی پزشکی را خلاصه کنند.

پژوهشگران سپس پاسخ‌ها را با یک مدل هوش مصنوعی ویژه تجزیه‌و‌تحلیل کردند تا به دنبال سرنخ‌های ChatGPT بگردند. این سرنخ‌ها شامل مواردی مثل نبود تنوع در کلمات می‌شد. پژوهشگران همچنین الگوی فشردن کلیدهای کیبورد را استخراج کردند تا بفهمند که آیا این کارکنان پاسخ‌های خود را کپی‌پیست می‌کنند یا نه. کپی‌پیست کردن نشان می‌دهد که آن‌ها پاسخ‌های خود را در جای دیگری ساخته‌اند.

پژوهشگران می‌گویند بین ۳۳ تا ۴۶ درصد از کارکنان سراغ استفاده از سرویس‌های هوش مصنوعی نظیر ChatGPT رفتند. با افزایش قدرت و سهولت دسترسی به ChatGPT و سایر سیستم‌های هوش مصنوعی،‌ احتمالا این آمار افزایش پیدا می‌کند.

رابرت وست، استادیار دانشگاه پلی‌تکنیک فدرال لوزان که یکی از نویسندگان مقاله‌ی علمی مربوط‌به تحقیقات جدید است، می‌گوید از نظر او به پایان دوران پلتفرم‌های برون‌سپاری جمعی نرسیده‌ایم و هوش مصنوعی صرفا نحوه‌ی انجام کارها را اصلاح می‌کند.

استفاده از داده‌های تولیدشده با هوش مصنوعی برای تعلیم هوش مصنوعی در نهایت باعث می‌شود مدل‌هایی که همین حالا نیز خطاهایی واضح دارند، پرخطاتر شوند. مدل‌های زبانی بزرگ گاهی‌اوقات اطلاعات غلط را به‌عنوان حقیقت علمی جلوه می‌دهند و استفاده از داده‌های ساخته‌شده با هوش مصنوعی، رفع مشکلات سرویس‌های مبتنی‌بر این فناوری را بسیار مشکل‌تر می‌کند.

پژوهشگران می‌گویند به راهکارهای جدیدی نیاز داریم تا بفهمیم که داده‌های مدنظرمان توسط انسان ساخته شده‌اند یا هوش مصنوعی.