بررسی تخصصی

اپل برای سرعت بخشیدن به مدل های زبان AI با NVIDIA همکاری می کند

اپل جزئیات همکاری با NVIDIA را به اشتراک گذاشته است تا عملکرد مدل‌های زبان بزرگ (LLM) را با پیاده‌سازی یک تکنیک جدید تولید متن که بهبودهای قابل‌توجهی در سرعت برنامه‌های هوش مصنوعی ارائه می‌کند، بهبود بخشد.

اپل برای سرعت بخشیدن به مدل های زبان AI با NVIDIA همکاری می کند
اپل در اوایل سال جاری Recurrent Drafter (ReDrafter) را با منبع باز منتشر کرد، رویکردی که جستجوی پرتو و روش‌های توجه درخت پویا را برای تسریع تولید متن ترکیب می‌کند. جستجوی پرتو چندین توالی متن بالقوه را به طور همزمان برای نتایج بهتر بررسی می‌کند، در حالی که توجه درخت، همپوشانی‌های اضافی را بین این دنباله‌ها سازماندهی و حذف می‌کند تا کارایی را بهبود بخشد.

اپل اکنون این فناوری را در چارچوب TensorRT-LLM NVIDIA ادغام کرده است، که LLM های اجرا شده بر روی پردازنده های گرافیکی NVIDIA را بهینه می کند، جایی که به گفته اپل به “عملکرد پیشرفته” دست یافته است. این یکپارچه سازی باعث شد این تکنیک افزایش سرعت 2.7 برابری در توکن های تولید شده در ثانیه در طول آزمایش را با یک مدل تولیدی حاوی ده ها میلیارد پارامتر مدیریت کند.

اپل می گوید بهبود عملکرد نه تنها تأخیر درک شده توسط کاربر را کاهش می دهد، بلکه منجر به کاهش مصرف GPU و مصرف انرژی نیز می شود. از وبلاگ تحقیقات یادگیری ماشین اپل:

LLM ها به طور فزاینده ای برای برنامه های تولید نیرو مورد استفاده قرار می گیرند و بهبود کارایی استنتاج می تواند هم بر هزینه های محاسباتی تأثیر بگذارد و هم تأخیر کاربران را کاهش دهد. با رویکرد جدید ReDrafter برای رمزگشایی گمانه زنی که در چارچوب NVIDIA TensorRT-LLM ادغام شده است، توسعه دهندگان اکنون می توانند از تولید توکن سریعتر بهره مند شوند. روی پردازنده‌های گرافیکی NVIDIA برای برنامه‌های تولیدی LLM.”

توسعه دهندگان علاقه مند به پیاده سازی ReDrafter می توانند اطلاعات دقیقی را در وب سایت اپل و وبلاگ توسعه دهندگان NVIDIA بیابند.

داستان های محبوب

20 کار جدیدی که آیفون شما می تواند در iOS 18.2 انجام دهد

اپل iOS 18.2 را در هفته دوم دسامبر منتشر کرد و دور دوم ویژگی‌های هوشمند اپل را به مدل‌های آیفون 15 پرو و ​​آیفون 16 آورد. این به‌روزرسانی چندین پیشرفت بزرگ را برای ادغام هوش مصنوعی اپل به ارمغان می‌آورد، از جمله ابزارهای کاملاً جدید تولید تصویر و طیف وسیعی از پیشرفت‌های مبتنی بر هوش بصری. اپل تعداد انگشت شماری از کنترل‌های ویژگی جدید غیر مرتبط با هوش مصنوعی را اضافه کرده است.

شایعه شده است که Apple TV جدید با این ویژگی ها در سال آینده عرضه می شود

Apple TV 4K فعلی بیش از دو سال پیش منتشر شد، بنابراین دستگاه پخش جریانی به زودی برای ارتقاء سخت افزاری قرار می گیرد. خوشبختانه اخیراً شایعه شده بود که اپل تی‌وی جدید در سال آینده عرضه خواهد شد. در زیر، شایعات مربوط به نسل بعدی Apple TV را مرور می کنیم. مارک گورمن از بلومبرگ هفته گذشته گزارش داد که اپل در حال کار روی Wi-Fi ترکیبی و …

اپل برنامه های اشتراک سخت افزار آیفون را کنار می گذارد

چهارشنبه 18 دسامبر 2024 ساعت 11:39 صبح به وقت PST توسط جولی کلاور

مارک گورمن از بلومبرگ گزارش می دهد که اپل دیگر قصد ندارد سرویس اشتراک سخت افزاری را راه اندازی کند که به مشتریان اجازه می دهد هر سال برای دریافت آیفون جدید “اشتراک” کنند. گورمن برای اولین بار در سال 2022 شایعاتی را در مورد کار اپل بر روی یک سرویس اشتراک سخت افزاری به اشتراک گذاشت و در آن زمان گفت که اپل می خواهد یک سیستم ساده توسعه دهد که به مشتریان امکان می دهد هزینه ای ماهانه بپردازند.

شایعه شده است که آیفون 17 پرو از طراحی دوربین «مثلثی» برخوردار است

بر خلاف گزارش‌های اخیر، آیفون 17 پرو از چیدمان دوربین افقی برخوردار نخواهد بود. در یک پست جدید در Weibo، فاش کننده گفت که یک منبع تأیید کرده است که در حالی که ظاهر پشت آیفون 17 پرو واقعاً تغییر کرده است، اما طرح سه دوربین به جای اینکه نوار افقی پخش شود، “هنوز مثلثی” است. بر روی…

باتری AirTag شما با محفظه جدید TimeCapsule Elevation Lab تا 10 سال دوام می آورد.

چهارشنبه 18 دسامبر 2024 ساعت 10:05 صبح به وقت PST توسط جولی کلاور

آزمایشگاه Elevation امروز از راه‌اندازی TimeCapsule خبر داد، راه‌حلی نوآورانه و ساده برای افزایش عمر باتری AirTag اپل. TimeCapsule با قیمت 20 دلار، یک محفظه AirTag است که دو باتری AA را در خود جای داده است که 14 برابر ظرفیت باتری بیشتری نسبت به باتری CR2032 که AirTag با آن کار می کند، ارائه می دهد. این کار با اتصال محفظه بالایی AirTag به کنتاکت سفارشی داخلی در …

در اینجا همه چیز جدید برای Apple TV در به روز رسانی tvOS 18.3 تاکنون وجود دارد

اپل روز دوشنبه اولین نسخه بتا tvOS 18.3 را برای آزمایش در اختیار توسعه دهندگان قرار داد. این آپدیت احتمالا در ژانویه منتشر خواهد شد. تا کنون، تنها تغییرات جزئی برای Apple TV وجود دارد که یک ویژگی جدید و چند تغییر کد کشف شده است. در زیر، موارد جدیدی را که تاکنون در tvOS 18.3 وجود دارد، بیان می‌کنیم. Robot Vacuum Support در Home App ابتدا، tvOS 18.3 پشتیبانی وکیوم ربات را به برنامه Home در …

Blackmagic دوربین سه بعدی 30 هزار دلاری را برای فیلمبرداری برای ویژن پرو معرفی کرد

Blackmagic امروز اعلام کرد که دوربین URSA Cine Immersive آن اکنون برای پیش‌سفارش در دسترس است و تحویل آن اواخر سه ماهه اول سال 2025 آغاز می‌شود. . دوربین URSA Cine Immersive برای اولین بار در ماه ژوئن معرفی شد، اما هنوز برای خرید در دسترس نبوده است.

جزئیات «iPhone 17 Air» با «تغییرات عمده» در طراحی و مک‌بوک 19 اینچی در گزارش جدید

به گفته آرون تیلی و یانگ جی از وال استریت ژورنال، اپل در چند سال آینده مجموعه ای از «طراحی عمده» و «تغییرات قالب» را برای آیفون ها برنامه ریزی می کند. گزارشی که امروز منتشر شد، شایعه شایعه شده “iPhone 17 Air” را با طراحی “فوق العاده نازک” که از مدل های فعلی آیفون نازک تر است، تأیید کرد. در این گزارش به اندازه گیری خاصی اشاره نشده بود، اما پیش از این…

Rate this post

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا