اپلیکیشن LLM Studio برای ویندوز آرم منتشر شد؛ اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون

جمعه ۸ تیر ۱۴۰۳ - ۱۹:۴۵
مطالعه 2 دقیقه
لپ تاپ مجهز به تراشه اسنپدراگون ایکس الیت روی میز کنار لیوان و دوربین عکاسی
نرم‌افزار محبوب LM Studio برای اجرای مدل‌های هوش مصنوعی در لپ‌تاپ‌های مجهز به تراشه‌ی اسنپدراگون منتشر شد.
تبلیغات

اپلیکیشن LM Studio، پلتفرمی محبوب برای اجرای محلیِ مدل‌های زبانی بزرگ (LLM-ها) روی کامپیوتر، برای ویندوز آرم منتشر شد؛ بدین ترتیب اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون هم ممکن می‌شود.

به گزارش XDA-Developers، نسخه‌ی مخصوص LM Studio برای لپ‌تاپ‌های مجهز به تراشه‌ی اسنپدراگون ایکس الیت، درحال حاضر تنها امکان اجرای مدل‌های زبانی با استفاده از سی‌پی‌یو این دستگاه‌ها را دارد و پشتیبانی از واحد پردازش عصبی (NPU) تراشه‌ی اسنپدراگون، در به‌روزرسانی‌های آینده به آن افزوده خواهد شد.

صفحه‌ی مربوط به نسخه‌ی آرم۶۴ نرم افزار LM Studio

توانایی‌های چشم‌گیر اسنپدراگون ایکس الیت در زمینه‌ی هوش مصنوعی، امکان اجرای محلیِ مدل‌های هوش مصنوعی با حداکثر ۱۳ میلیارد پارامتر را ممکن می‌کند؛ این یعنی طیف گسترده‌ای از مدل‌های زبانی بزرگ از جمله نسخه‌هایی از Llama 3 و WizardLM را می‌توان روی لپ‌تاپ‌های مجهز به تراشه‌ی یاد شده اجرا کرد.

از جمله فواید اجرای محلی مدل‌های زبانی بزرگ با بهره‌گیری از ابزار‌هایی مانند LM Studio، اطمینان از حفظ حریم خصوصی و هم‌چنین از بین رفتن نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های معروفی مانند ChatGPT و جمنای از گوگل است. از طرفی، مدل‌های اجرای شده روی LM Studio، بر خلاف چت‌بات‌های تجاری یاد شده که گاهی به دلایل مختلف از ایجاد پاسخ خودداری می‌کنند، قادر به تولید تمامی خروجی‌های دلخواه کاربر هستند.

نسخه‌ی منتشر شده‌ی LM Studio برای اسنپدراگون را می‌توانید مستقیماً از صفحه‌ی مربوطه در وب‌سایت LM Studio دانلود کنید؛ به‌خاطر داشته باشید که نسخه‌ی فعلی نهایی نیست و ممکن است با باگ‌ها و دیگر مشکلات روبه‌رو شوید.

تبلیغات
داغ‌ترین مطالب روز
تبلیغات

نظرات