D1-kifpool

وقتی مدل هوش مصنوعی روی ویندوز ۹۸ و سیستم پنتیوم ۲ با ۱۹۸ مگابایت رم اجرا می‌شود!

دوشنبه 10 دی 1403 - 10:58
مطالعه 2 دقیقه
یک دایره با نوشته ای درون آن و یک دست با سوزن در کنارش
گروهی خلاق از دانشمندان و مهندسان، مدل هوش مصنوعی را در ویندوز ۹۸ و روی کامپیوتری ۲۶ ساله اجرا کردند.
تبلیغات
D4-mcid4

گروه EXO Labs با انتشار پست وبلاگی مفصلی تشریح کرد که چگونه می‌توان یک مدل زبان بزرگ (LLM) مانند لاما را روی یک کامپیوتر قدیمی با سیستم‌عامل ویندوز ۹۸ و پردازنده‌ی پنتیوم II اجرا کرد. پروژه‌ی گروه EXO Labs، در ویدیویی کوتاه در شبکه‌های اجتماعی به نمایش درآمد و نشان داد، کامپیوتر ۲۶ ساله، با پردازنده‌ی ۳۵۰ مگاهرتزی و ۱۲۸ مگابایت رم، قادر به تولید محتوای جالب با سرعت ۳۵٫۹ توکن در ثانیه است.

گروه EXO Labs در سپتامبر ۲۰۲۳ (شهریور ۱۴۰۲) به‌طور رسمی فعالیت خود را آغاز کرد. این گروه می‌خواهد دسترسی به هوش مصنوعی را برای عموم مردم ممکن کند. اعضای گروه، که شامل دانشمندان و مهندسان دانشگاه آکسفورد هستند، نسبت به تسلط چند شرکت بزرگ بر فناوری‌های AI نگران‌اند و باور دارند که کنترل اکثریت منابع هوش‌ مصنوعی روی فرهنگ و حقیقت جامعه تأثیر مخربی دارد؛ به همین دلیل، آن‌ها به دنبال ایجاد زیرساخت‌های باز برای آموزش مدل‌های پیشرفته و امکان‌پذیر کردن اجرای مدل‌ها روی دستگاه‌های مختلف هستند.

پروژه‌ی گروه EXO Labs با یافتن کامپیوتر قدیمی Pentium II در eBay شروع شد. انتقال داده‌ها به کامپیوتر مذکور، از طریق پروتکل FTP انجام شد. سپس، گروه از کد Llama2.c که آندره کارپاتی، متخصص هوش مصنوعی و یکی از اعضای مؤسس OpenAI، آن را نوشته بود، استفاده کرد و توانست این کد را به یک برنامه‌ی اجرایی مناسب برای ویندوز ۹۸ تبدیل کند.

الکس چیما، یکی از اعضای EXO، به بهبود عملکرد کد و سرعت تولید ۳۵٫۹ توکن در ثانیه اشاره کرد که نشان‌دهنده‌ی قابلیت‌های قابل توجه این نرم‌افزار حتی روی سخت‌افزار قدیمی است. اگرچه مدل ۲۶۰K LLM که EXO اجرا کرد نسبتاً کوچک به‌نظر می‌رسد، اما استفاده از مدل‌های بزرگ‌تر سرعت تولید را به‌صورت قابل‌ توجهی کاهش می‌دهد. برای مثال، عملیات اجرا با مدل ۱۵ میلیون پارامتری، سرعتی کمی بیش از ۱ توکن در ثانیه داشت. همچنین، اجرا روی مدل یک میلیارد پارامتری به سرعت بسیار پایینی معادل ۰٫۰۰۹۳ توکن در ثانیه رسید.

گروه EXO امیدوار است در آینده و با استفاده از معماری BitNet، دسترسی به هوش مصنوعی را برای کاربران آسان‌تر کند. BitNet از وزن‌های سه‌گانه بهره می‌برد و برای مدل ۷ میلیارد پارامتری تنها به ۱٫۳۸ گیگابایت فضای ذخیره‌سازی نیاز دارد.

ویژگی‌های مورد بحث، BitNet را به گزینه‌ای مناسب برای سخت‌افزارهای قدیمی و کم‌هزینه تبدیل می‌کند، به‌ویژه اینکه مدل‌هایی مانند BitNet نیاز به GPU گران‌قیمت را کاهش می‌دهند.

مقاله رو دوست داشتی؟
نظرت چیه؟
تبلیغات
D5-SAMANEHMODIRITD5
داغ‌ترین مطالب روز
درخت کریسمس
پول از درخت نمی‌روید؛ اما روی درختان صنوبر فنلاند واقعاً طلا رشد می‌کند

پژوهشی تازه از ارتباط شگفت‌انگیز درختان و طلا پرده برداشته است؛ کشفی که می‌تواند به یافتن معادن پنهان در آینده کمک کند.

9
حدود 9 ساعت قبل
وام مسکن
شرایط ثبت نام وام خرید مسکن ۱۴۰۴ چیست؟

وام خرید مسکن در سال ۱۴۰۴ چقدر است؟ دریافت این تسهیلات چه شرایطی دارد؟ تعداد اقساط و میزان هر یک از وام‌ها چگونه است؟

16
1 روز قبل
ازکی‌وام و بانک ملت طرح اعتباری دیجیتال تا سقف ۷۵ میلیون تومان را راه‌اندازی کردند
ازکی‌وام و بانک ملت طرح اعتباری دیجیتال تا سقف ۷۵ میلیون تومان را راه‌اندازی کردند

کاربران ازکی‌وام می‌توانند با همکاری بانک ملت تا سقف ۷۵ میلیون تومان اعتبار خرید دریافت کنند؛ فرآیند ثبت‌نام و تخصیص اعتبار کاملاً دیجیتال است.

7
1 روز قبل
خودرو BYD Seal 2025 از نمای جلو و بالا
خودروساز معروف چینی در بازار آلمان بسیار محبوب شده است

محبوبیت یکی از شرکت‌های خودروسازی چینی به‌صورت چشمگیری در آلمان افزایش پیدا کرده است.

72
1 روز قبل
یک پسر نوجوان در حال نگاه به بالا و شمشیر به دست
تیزر سریال جدید دنیای Game of Thrones منتشر شد

اولین تیزر کوتاه سریال جدید دنیای گیم آو ترونز پخش شد.

3
حدود 21 ساعت قبل
کمیته نوبل درحال اعلام برندگان جایزه نوبل شیمی ۲۰۲۵
سه دانشمند از ژاپن، بریتانیا و اردن برنده جایزه نوبل شیمی ۲۰۲۵ شدند

جایزه نوبل شیمی ۲۰۲۵ به پاس ابداع ساختارهای مولکولی با فضاهای بزرگ که امکان عبور گازها و مواد شیمیایی دیگر را فراهم می‌کنند، به سه دانشمند اهدا شد.

5
1 روز قبل
گوشی شیائومی ۱۷ از نمای جلو در دست
شیائومی ۱۷ حالا پرقدرت‌ترین گوشی اندرویدی جهان است

گوشی‌های سری شیائومی ۱۷ در جدیدترین فهرست بنچمارک انتوتو عملکردی خیره‌کننده از خود به‌جا گذاشتند.

160
1 روز قبل
تبلیغات
DN-DNShatel

نظرات

زوبین، همراه شما از انتخاب تا خرید
زوبین مشخصات کامل و لیست فروشندگان کالا را به شما ارائه می‌کند
بریم به زوبین