در ادامه تحولات پرشتاب حوزه هوش مصنوعی روی دستگاه (On-Device AI)، شرکت هاگینگ فیس اعلام کرد که جون کیم (Jun Kim)، خالق و توسعهدهنده اصلی پروژه محبوب oMLX، به این شرکت پیوسته است. این همکاری استراتژیک نویدبخش جهشی چشمگیر در بهینهسازی و اجرای مدلهای هوش مصنوعی روی تراشههای اپل سیلیکون خواهد بود.
همکاری تازه هاگینگ فیس برای توسعه هوش مصنوعی محلی
شرکت هاگینگ فیس (Hugging Face)، بزرگترین هاب اشتراکگذاری مدلها و ابزارهای منبعباز هوش مصنوعی، رسماً اعلام کرد که جون کیم (Jun Kim) به جمع تیم مهندسی این پلتفرم پیوسته است. هدف اصلی این اقدام، تمرکز ویژه بر بهبود اکوسیستم MLX و تبدیل پروژه oMLX از یک پروژه جانبی به یک ابزار کاملاً پشتیبانیشده و پایدار برای توسعهدهندگان است.
پروژه oMLX که با مجوز منبعباز Apache 2.0 منتشر میشود، ابزاری سبک و کاربردی برای اجرای مستقیم مدلهای زبانی بزرگ (LLM) روی سیستمعامل مک است. با جذب سازنده این پروژه، هاگینگ فیس قصد دارد توسعه زیرساختهای مربوط به پردازش محلی را سرعت ببخشد و دسترسی کاربران به جدیدترین مدلهای متنی و تصویری را بدون وابستگی به سرورهای ابری تسهیل کند.
فریمورک MLX اپل چیست و چرا اهمیت دارد؟
برای درک اهمیت این خبر، باید نگاهی به خاستگاه فریمورک MLX انداخت. اپل در اواخر سال ۲۰۲۳ بهطور غافلگیرکنندهای فریمورک یادگیری ماشین اختصاصی خود را تحت عنوان MLX معرفی کرد. این فریمورک توسط تیم تحقیقات هوش مصنوعی اپل طراحی شد تا از معماری حافظه یکپارچه (Unified Memory) و پردازندههای گرافیکی تراشههای سری M نهایت بهره را ببرد.
مزایای اصلی کار با MLX شامل موارد زیر است:
- استفاده بهینه از حافظه یکپارچه: مدلها نیازی به کپی چندباره دادهها میان رم و کارت گرافیک ندارند؛ پردازش مستقیماً در حافظه مشترک انجام میشود.
- سینتکس مشابه پایتورچ و نامپای: توسعهدهندگان بهراحتی میتوانند پروژههای قبلی خود را به محیط اختصاصی مک منتقل کنند.
- مصرف بهینه انرژی و سرعت بالا: بهرهگیری از شتابدهندههای سختافزاری تراشههای سری M1 تا M4 بدون اتلاف منابع.
پروژه oMLX چه تغییراتی را تجربه خواهد کرد؟
تا پیش از این، نگهداری پروژه oMLX عمدتاً بهصورت داوطلبانه و به عنوان یک پروژه فردی پیش میرفت. با ورود جون کیم به هاگینگ فیس، منابع مالی و زیرساختی گستردهای در اختیار این پروژه قرار میگیرد. به گفته هاگینگ فیس، تغییرات کلیدی شامل موارد زیر خواهد بود:
- توسعه مداوم، رفع سریعتر باگها و عرضه بهموقع آپدیتها برای پشتیبانی از مدلهای جدید.
- حفظ مجوز منبعباز (Apache 2.0) و استقلال مدیریتی جون کیم در هدایت پروژه.
- استفاده از oMLX به عنوان یک بستر آزمایشی (Testbed) برای تست ایدهها و معماریهای نوین پردازش محلی.
- یکپارچگی عمیقتر میان مخزن مدلهای هاگینگ فیس و کتابخانههای بهینهشده برای مک.
مقایسه ابزارهای اجرای محلی هوش مصنوعی در محیطهای کاربری
در حال حاضر گزینههای متعددی برای بارگذاری مدلهای هوش مصنوعی روی رایانههای شخصی وجود دارد. جدول زیر موقعیت MLX و ابزارهای مبتنی بر آن را در برابر سایر رقبا نشان میدهد:
| ابزار / فریمورک | تمرکز سختافزاری | سطح بهینهسازی روی مک | سهولت استفاده | مجوز |
|---|---|---|---|---|
| MLX / oMLX | صرفاً اپل سیلیکون (Apple Silicon) | حداکثری (طراحی بومی برای مک) | بسیار بالا برای توسعهدهندگان پایتون | Apache 2.0 |
| llama.cpp | کراسپلتفرم (CPU, CUDA, Metal) | بالا (از طریق Metal) | نیازمند دانش فنی پایهای | MIT |
| Ollama | کراسپلتفرم | مناسب (استفاده از llama.cpp در پسزمینه) | بسیار ساده و رابط کاربرپسند | MIT |
| PyTorch (MPS) | چندپلتفرمی | متوسط تا خوب (بهینهسازی کلی) | استاندارد پژوهشی | BSD-style |
تاثیر پیوستن سازنده oMLX به هاگینگ فیس بر بازار تکنولوژی
سرمایهگذاری هاگینگ فیس روی MLX نمایانگر تغییری راهبردی در نگرش صنعت به مدلهای هوش مصنوعی است. طی سالهای اخیر، تمرکز غالب بر روی دیتاسنترهای عظیم و پردازندههای سروری انویدیا بوده است؛ اما افزایش هزینههای ابری، نگرانیهای مربوط به حریم خصوصی دادهها و نیاز به سرعت پاسخدهی بدون تأخیر شبکه، تقاضا برای اجرای محلی هوش مصنوعی (Local AI) را بهشدت افزایش داده است.
هاگینگ فیس اعلام کرده است هدف نهایی آنها حذف موانع جامعه کاربری برای اجرای مدلهای هوش مصنوعی در هر شکل و ساختاری است؛ و اکوسیستم اپل سیلیکون یکی از ارکان محوری این آینده به شمار میرود.
با پشتیبانی رسمی هاگینگ فیس، مکبوکها و مکاستودیوهای مجهز به رمهای بالا (مانند مدلهای ۶۴، ۹۶ یا ۱۲۸ گیگابایتی) بیش از پیش به گزینههایی ایدهآل و مقرونبهصرفه برای محققان و توسعهدهندگان مستقل هوش مصنوعی بدل خواهند شد.
جمعبندی
پیوستن خالق oMLX به هاگینگ فیس نشاندهنده رسمیت یافتن جایگاه تراشههای اپل سیلیکون به عنوان یکی از ستونهای اصلی پردازش هوش مصنوعی در دنیا است. این اقدام نه تنها روند توسعه ابزارهای هوش مصنوعی محلی را تسریع میکند، بلکه اجرای مدلهای زبانی پیشرفته روی رایانههای شخصی را بیش از گذشته پایدار، سریع و کاربردی خواهد کرد.
سؤالات متداول
پروژه oMLX چیست و چه کاربردی دارد؟
پروژهای متنباز است که به عنوان یک محیط اجرایی و فریمورک بهینهشده، امکان اجرای روان و سریع مدلهای هوش مصنوعی را بر پایه فریمورک MLX اپل روی سیستمهای مک فراهم میکند.
آیا پیوستن جون کیم به هاگینگ فیس باعث غیررایگان شدن oMLX میشود؟
خیر؛ طبق اعلام رسمی هاگینگ فیس، پروژه oMLX همچنان تحت مجوز منبعباز Apache 2.0 باقی میماند و بهصورت رایگان و عمومی توسعه خواهد یافت.
تفاوت MLX با ابزارهایی مثل llama.cpp چیست؟
فریمورک MLX بهطور ویژه و بومی توسط اپل برای معماری سختافزاری تراشههای سری M و حافظه یکپارچه آن طراحی شده، در حالی که llama.cpp یک ابزار چندپلتفرمی برای پردازندههای مختلف مانند x86، ARM و گرافیکهای انویدیا است.
برای اجرای بهینه مدلهای زبانی با MLX چه سیستمی نیاز است؟
کلیه رایانههای مک مجهز به پردازندههای اپل سیلیکون (M1، M2، M3، M4 و نسخههای پرو، مکس و اولترا) قابلیت اجرای آن را دارند، اما میزان رم دستگاه، اندازه مدلی را که میتوانید بارگذاری کنید تعیین میکند.
