پردازندههای Ryzen AI شرکت AMD از تراشههای Core Ultra کمپانی اینتل در بنچمارک های جدید هوش مصنوعی که بار کاری LLM و GenAI را به نمایش میگذارند، پیشی میگیرند.
همانطور که گفته شد، شرکت AMD نتایج بنچمارکهای جدید هوش مصنوعی (LLM) را با پردازندههای Ryzen AI به اشتراک میگذارد که عملکرد بهتری نسبت به تراشههای Core Ultra اینتل دارند در حالی که با توان بسیار کمتری کار میکنند.
احتمالا میدانید که شرکت AMD اولین شرکتی بود که با نسل اول پردازندههای Ryzen AI خود با کد Phoenix که سال گذشته به بازار آمد، وارد بازار PCهای هوش مصنوعی شد. از آن زمان تا کنون، این شرکت خط تولید بهروزرسانی شده پردازنده Ryzen AI خود را با نام Hawk Point به بازار عرضه کرده است که NPUهای پیشرفته «XDNA» را ارائه میکند و 60 درصد افزایش در TOPS هوش مصنوعی را به دنبال دارد. همانطور که در بنچمارکهای جدید منتشر شده توسط این شرکت نشان داده شده است، به نظر میرسد شرکت AMD کارهای زیادی را روی بهینه سازی نرم افزار برای بارهای کاری هوش مصنوعی بخش کلاینت و محلی سازی شده انجام داده است.
در آزمایشهای جدید، شرکت AMD بر اجرای LLM بر روی پردازندههای شما به صورت محلی تأکید میکند که با طیف وسیعی از مدلها از جمله LLama 2، Mistral AI_، کد لاما و RAG امکانپذیر است. داشتن یک مدل هوش مصنوعی محلی که روی PC شما اجرا میشود به این معنی است که شما از حریم خصوصی بیشتری نسبت به مدلهای موجود در پلتفرمهای ابری آنلاین برخوردار هستید و همچنین میتوانید در هزینه اشتراک خود بدون نیاز به اتصال آنلاین صرفه جویی کنید. این شرکت در حال تلاش برای ورود بیشتر به فضای پردازش هوش مصنوعی است و اخیراً یک راهنمای جدید منتشر کرده است که نحوه ستآپ یک چتبات محلی هوش مصنوعی خود را نشان میدهد، که با چتبات Chat with RTX شرکت انویدیا رقابت خواهد کرد.
برای انجام تست عملکرد، شرکت AMD از APU Ryzen 7 7840U با توان 15 وات استفاده میکند و آن را با پردازنده Core Ultra 7 155H کمپانی اینتل با توان 28 وات مقایسه خواهد کرد. هر دو تراشه با 16 گیگابایت حافظه LPDDR5-6400 و آخرین بستههای درایور کار میکنند.
نتایج بنچمارک های پردازندههای Ryzen AI شرکت AMD در مقایسه با تراشههای Core Ultra کمپانی اینتل
در ابتدا ما یک Mistral Instruct 7B LLM داریم که در آن پردازش هوش مصنوعی توسط پردازنده AMD Ryzen 7 7840U فقط در 61 درصد از زمان مورد نیاز برای ارائه تراشه شرکت اینتل کامل میشود، در حالی که Llama 2 7B chat با چیپ AI Ryzen حتی سریعتر است و کار را در 54 درصد از زمان مورد نیاز انجام میدهد.
برای سادهتر کردن نتایج باید گفت، پردازنده Ryzen 7 7840U (15W) شرکت AMD میتواند تا 14 درصد عملکرد سریعتر در LLama v2 Chat 7B (Q4 KM) و همچنین 17 درصد عملکرد سریعتر در Mistral Instruct 7b (Q4 KM) را ارائه دهد. زمان لازم برای اولین توکن (token) به نسبت 79 درصد سریعتر در LLama v2 Chat و همچنین 41 درصد سریعتر در Mistral Instruct 7B LLM است.
در اینجا باید به دو نکته اشاره کرد، نه تنها پردازنده Ryzen AI شرکت AMD از پردازنده Core Ultra کمپانی اینتل با توان بالاتر، سریعتر عمل میکند، بلکه دارای یک NPU کمی کندتر با رتبه 10 TOPs در مقابل تراشه Core Ultra اینتل بوده که از نسخه 11 TOPs پشتیبانی میکند. در این مقایسه، توجهی به تراشههای 28 واتی یا تراشههای Hawk Point که تا 16 TOPs از محاسبات هوش مصنوعی را پشتیبانی میکنند، نشده است. شرکت AMD همچنین بر این نکته تاکید میکند که پلتفرمهای AI PC خود را با قیمت پایینتری ارائه میدهد، که از حدود 899 دلار (SEP) شروع میشود. این بها تمام شده در مقایسه با قیمت 999 دلاری (SEP) تراشههای Core Ultra 155H شرکت اینتل مقرونبهصرفه خواهد بود.
پلتفرم PC Ryzen AI شرکت AMD مدتی است به بازار عرضه شده است، این موضوع برای این شرکت یک مزیت محسوب میشود و باعث شده است که آنها بتوانند بهینهسازیهای سریع هوش مصنوعی را برای پردازندههای فعلی و نسل بعدی خود انجام دهند. انتظار میرود این بارهای کاری هوش مصنوعی برای آمادهسازی خانواده Strix Point مبتنی بر معماری Zen 5 که قرار است اواخر امسال به بازار عرضه شود، بهبود یافته و بهینهسازی شوند. پلتفرم Core Ultra شرکت اینتل نیز چند ماه است که به بازار عرضه شده است. گفتنیست که این شرکت یک استراتژی هوش مصنوعی جسورانه برای این فضا ارائه کرده است.
دیدگاهتان را بنویسید