وقتی هوش مصنوعی روی کنسول ۲۰ ساله اجرا میشود؛ Llama2.c روی ایکسباکس ۳۶۰
فردی به نام اندری دیوید مدل هوش مصنوعی Llama2.c را روی کنسول قدیمی ایکس باکس ۳۶۰ نصب و اجرا کرد. با وجود قدیمیبودن این مدل از کنسول بازی مایکروسافت، دیوید از بوتلودر برای بارگذاری مدل روی آن استفاده و درخواست Sleep Joe said را اجرا کرد. طبق گفتههای دیوید، تلاش موفقیتآمیز EXO Lab برای اجرای Llama روی کامپیوتر ویندوز ۹۸، الهامبخش او برای انجام آزمایشش بود.
مدل هوش مصنوعی که دیوید روی ایکسباکس ۳۶۰ اجرا کرد، از همان LLM استفاده میکند که EXO Lab برای کامپیوتر مجهز به ویندوز ۹۸ با پردازندهی پنتیوم ۲ از آن بهره گرفت. البته دیوید میگوید بهاجبار کد را برای معماری PowerPC کنسول و ویژگیهای خاص مدیریت حافظهی آن بهینهسازی کند.
پخش از رسانه
PowerPC معماری Big-endian محسوب میشود و ابتدا بزرگترین مقدار را ذخیره میکند، درحالیکه پردازنده اینتل مدل پتنیوم ۲ که در EXO Lab استفاده شد، از سیستم Little-endian بهره میبرد که اولویتش ذخیرهی کمترین مقدار است.
برای اطمینان از اینکه مدل بهدرستی کار کند، دیوید باید سیستم تغییر بایتها را پیادهسازی و تضمین میکرد که دادههای ایجاد و ذخیرهشده با همراستایی حافظهی ۱۲۸ بایتی مطابقت داشته باشند، همانطور که نیازهای زیرسیستم حافظهی ایکسباکس ۳۶۰ است.
چالش دیگری که دیوید با آن مواجه شد، استفاده از رم یکپارچه در ایکسباکس ۳۶۰ بود. اگرچه این ویژگی امروزه در کنسولها و APUها رایج است اما هنگام عرضهی کنسول مذکور، نوآوری جدیدی بهشمار میرفت. بنابراین هرچند کنسول مذکور از رم ۵۱۲ مگابایتی بهره میبرد، اندری باید تضمین میکرد که مدل ۶۰ مگابایتی او بتواند در فضای حافظهای که سیستم برای پردازنده یا گرافیک تخصیص میدهد، قرار گیرد.
دیوید میگوید با مدیریت دقیق حافظه و تنظیمات لازم برای سازگاری با معماری PowerPC موفق شد مدل هوش مصنوعی Llama2 را روی کنسول قدیمی ایکسباکس ۳۶۰ اجرا کند. این دستاورد یکی دیگر از گامهای مهم EXO Lab در جهت دسترسی آسان عموم مردم به هوش مصنوعی محسوب میشود و تأکید میکند که فناوری هوش مصنوعی نباید فقط به شرکتهای بزرگ با منابع مالی عظیم محدود شود.
اجرای مدل هوش مصنوعی Llama2 روی دستگاهی که بیش از دو دههی قبل عرضه شده است، قطعاً دستاورد شگفتانگیزی بهشمار میرود. یکی از کاربران به دیوید گفت که رم ۵۱۲ مگابایتی یکپارچهی کنسول مذکور باید برای اجرای مدلهای SmolLM از Hugging Face یا مدل ۴ بیتی Qwen2.5 کافی باشد. دیوید پاسخ داد: «چالش پذیرفته شد!»، بنابراین منتظر دیدن اجرای مدلهای هوش مصنوعی قدرتمندتر روی ایکسباکس ۳۶۰ خواهیم بود.