توسعه کامپیوترهای Copilot+ که سال گذشته توسط مایکروسافت معرفی شد و به واحد پردازش عصبی (NPU) با توانایی بیش از 40 تریلیون عملیات در ثانیه مجهز بودند، این شرکت اکنون از یک مدل زبانی داخلی جدید به نام Mu در ویندوز 11 رونمایی کرده است. کامپیوترهای Copilot+ پیشتر با مدل Phi-Silica معرفی شده بودند که قابلیتهای زبانی را برای برنامههای داخلی مایکروسافت و اپلیکیشنهای توسعهدهندگان شخص ثالث فراهم میکرد.
اکنون مایکروسافت مدل Mu را معرفی کرده که بهصورت داخلی در ویندوز 11 قرار گرفته و هدف آن ایجاد یک عامل هوش مصنوعی در برنامه Settings است. این عامل توانایی درک پرسشهای کاربران به زبان طبیعی را دارد و با جعبه جستجوی موجود ادغام میشود تا تجربهای روان و یکپارچه ارائه دهد. این قابلیت جدید در نسخه Dev Channel ویندوز و برای کاربران Copilot+ در دسترس اعضای برنامه Windows Insider قرار گرفته است.
مشخصات فنی و عملکرد مدل Mu با بهرهگیری از NPU
مدل Mu همانند Phi-Silica بهگونهای طراحی شده که بتواند بهینه و محلی روی NPU اجرا شود و توانایی پردازش بیش از 100 توکن در ثانیه را دارد. در وبلاگ رسمی، مایکروسافت فرایند طراحی و آموزش مدل زبانی Mu را شرح داده است.
- طراحی فشرده و کارآمد: مدل Mu یک مدل زبانی رمزگذار-رمزگشا با اندازه 330 میلیون پارامتر است. این معماری در مقایسه با مدلهایی که تنها از رمزگشا استفاده میکنند و اندازهای مشابه دارند، با حدود 47 درصد کاهش در زمان تولید اولین توکن و افزایش سرعت رمزگشایی تا 4.7 برابر همراه بوده است.
- بهینهسازی از طریق اشتراک وزنی: برای کاهش تعداد کل پارامترها، از اشتراک وزنی در برخی اجزای مدل استفاده شده است.
- آموزش در فضای ابری: مایکروسافت فرایند آموزش مدل Mu را با استفاده از کارتهای گرافیک NVIDIA A100 و زیرساخت Azure Machine Learning انجام داده است.
- عملکرد قابلمقایسه با مدلهای بزرگتر: با وجود آنکه مدل Mu تنها یکدهم اندازه مدل Phi-3.5-mini است، عملکرد آن در بسیاری از موارد مشابه مدل یادشده است که بهصورت خاص آموزش دیده است.
- مناسب برای پرسوجوهای چندکلمهای: این مدل بیشتر برای پرسوجوهای چندکلمهای طراحی شده و در مواردی که ورودی کوتاه یا ناقص باشد، برنامه Settings همچنان نتایج جستجوی واژگانی و معنایی را در جعبه جستجو نمایش میدهد.
دسترسی به مدل از طریق نسخه جدید ویندوز
کاربران علاقهمند میتوانند با دانلود نسخه Windows 11 Build 26120.3964 (KB5058496) یا نسخههای بالاتر، از این عامل هوش مصنوعی جدید در برنامه Settings استفاده کنند.
توسط 
دیدگاهتان را بنویسید