استودیو MAC با M3 Ultra مدل Massive Deepseek R1 AI را بصورت محلی اجرا می کند
YouTuber Dave Lee of Dave2D Fame نشان داده است که چگونه MAC استودیوی جدید اپل مجهز به یک تراشه M3 Ultra می تواند به طور مؤثر نسخه عظیمی از مدل Deepseek R1 AI را بصورت محلی اجرا کند ، مشروط بر اینکه کاربران دستگاه را با حداکثر 512 گیگابایت حافظه مشخص کنند.
طبق آزمایش لی ، مدل AI 671 میلیارد پارامتر AI می تواند مستقیماً در ایستگاه کاری سطح بالا اپل اجرا شود ، اما به منابع حافظه قابل توجهی ، مصرف 404 گیگابایت ذخیره سازی و نیاز به تخصیص دستی 448 گیگابایت رم مجازی از طریق دستورات ترمینال نیاز دارد.
معماری حافظه یکپارچه M3 Ultra برای این عملکرد مهم است و به سیستم امکان می دهد یک نسخه 4 بیتی از Deepseek R1 را به طور کارآمد کنترل کند. کمیت کمی دقت را کاهش می دهد ، اما تمام پارامترها را حفظ می کند و تقریباً 17-18 نشانه در ثانیه را ارائه می دهد ، که برای بسیاری از کاربردهای عملی کافی است.
شاید به طرز چشمگیر ، استودیوی MAC در حالی که زیر 200 وات قدرت مصرف می کند ، این کار را انجام می دهد. عملکرد قابل مقایسه در سخت افزار رایانه شخصی سنتی به چندین GPU نیاز دارد که تقریباً ده برابر برق بیشتر باشد.
قابلیت اجرای چنین مدل های پیشرفته AI به صورت محلی مزایای حریم خصوصی را برای برنامه های حساس مانند تجزیه و تحلیل داده های مراقبت های بهداشتی ارائه می دهد ، جایی که ارسال اطلاعات به خدمات ابری نگرانی های امنیتی را ایجاد می کند.
با این حال ، این عملکرد ارزان نمی آید – یک استودیوی MAC که با M3 Ultra و 512 گیگابایت رم پیکربندی شده است و حدود 10،000 دلار شروع می شود. کاملاً حداکثر ، یک استودیوی M3 Ultra Mac با 16TB از ذخیره سازی SSD و یک تراشه Apple M3 Ultra با پردازنده 32 هسته ای ، GPU 80 هسته ای و موتور عصبی 32 هسته ای 14،099 دلار خنک هزینه دارد. البته ، برای سازمانهایی که نیاز به پردازش AI محلی داده های حساس دارند ، MAC استودیو در مقایسه با تنظیمات سخت افزاری جایگزین ، یک راه حل نسبتاً قدرت را ارائه می دهد.
اپل می گوید M3 Ultra سریعترین تراشه MAC است که تاکنون منتشر کرده است ، به لطف استراتژی خود در ترکیب دو تراشه M3 Max در کنار هم با استفاده از فناوری “Ultrafusion” شرکت. این باعث می شود مشخصات تراشه دو برابر M3 Max باشد.
