انتروپیک بابت محدودیت‌های مخفی Claude Fable عذرخواهی کرد

انتروپیک بابت اعمال محدودیت‌های پنهانی روی مدل جدید هوش مصنوعی Claude Fable 5، عذرخواهی کرد؛ محدودیت‌هایی که به‌صورت مخفیانه عملکرد مدل را کاهش می‌دادند و می‌توانستند هم پژوهشگران و هم شرکت‌هایی را که از این مدل برای توسعه‌ی سامانه‌های رقیب استفاده می‌کنند، تحت تأثیر قرار دهند.

انتروپیک اعلام کرد رویکرد خود را تغییر می‌دهد و ازاین‌پس درباره‌ی زمان فعال‌شدن سازوکارهای محدودکننده شفاف‌تر عمل خواهد کرد؛ حتی اگر نتیجه، افزایش تعداد درخواست‌های ردشده باشد.

Claude Fable 5 نخستین مدل در دسترس عموم از خانواده‌ی میتوس انتروپیک به شمار می‌رود؛ دسته‌ای از سامانه‌های هوش مصنوعی که انتروپیک طی ماه‌های گذشته بارها درباره‌ی خطرات احتمالی انتشار عمومی آن‌ها هشدار داده بود.

انتروپیک می‌گوید بخشی از این نگرانی‌ها را با افزودن تدابیر حفاظتی برطرف کرده و Fable را به‌گونه‌ای منتشر کرده که از پاسخ‌گویی به برخی درخواست‌های «پرریسک» خودداری کند. یکی از حوزه‌هایی که تحت این محدودیت قرار گرفته، فرایند تقطیر مدل‌ها است؛ روشی که در آن از خروجی مدل‌های بزرگ‌تر برای آموزش مدل‌های کوچک‌تر استفاده می‌شود.

انتروپیک در سندی عمومی که شرکت‌های فعال در حوزه‌ی هوش مصنوعی برای توضیح نحوه‌ی عملکرد محصولات خود منتشر می‌کنند، اعلام کرده بود درخواست‌هایی را که به‌عنوان تلاش برای تقطیر شناسایی شوند، با تغییر و تضعیف مستقیم پاسخ‌های مدل مدیریت خواهد کرد. کاربران نیز هیچ هشداری درباره‌ی فعال شدن این سازوکار دریافت نمی‌کردند و از تغییر یافتن پاسخ‌ها مطلع نمی‌شدند.

انتروپیک اکنون می‌گوید نحوه‌ی برخورد با درخواست‌های مرتبط با تقطیر تغییر خواهد کرد. چنین پرسش‌هایی ازاین‌پس به Claude Opus 4.8، مدل پرچمدار پیشین انتروپیک، ارجاع داده می‌شوند. انتروپیک همچنین تأکید کرده کاربران به‌طور واضح از وقوع این فرایند آگاه خواهند شد.

تغییرات اخیر پس از موج گسترده‌ای از انتقادها در جامعه‌ی پژوهشی هوش مصنوعی رخ داد. بسیاری از منتقدان هشدار داده بودند که محدود کردن بی‌سروصدای کاربرانی که احتمال می‌رود در تلاش برای تقطیر Fable و توسعه‌ی مدل‌های رقیب باشند، ممکن است پژوهشگران مستقل و نهادهای ارزیاب را نیز تحت تأثیر قرار دهد.