شرکت AMD با معرفی پردازنده های AMD Strix Point به موفقیت‌های مهمی در کاربردهای هوش مصنوعی دست یافته و توانسته است عملکرد بهتری نسبت به پردازنده‌های Lunar Lake اینتل ارائه دهد.
APUهای Strix Point با کاهش تأخیر و افزایش سرعت پردازش، در بارهای کاری هوش مصنوعی نسبت به تراشه‌های Intel Lunar Lake برتری نشان داده‌اند. طبق اعلام AMD، پردازنده‌های Ryzen AI 300 در تولید «تعداد توکن‌ها در ثانیه» عملکرد بهتری نسبت به رقبا دارند. به عنوان نمونه، Ryzen AI 9 HX 375 در اپلیکیشن‌های LLM عمومی، تا 27 درصد سریعتر از Core Ultra 7 258V عمل می‌کند.
ابزار LM Studio، که توسط AMD و بر اساس چارچوب llama.cpp طراحی شده، به کاربران کمک می‌کند تا بدون نیاز به دانش فنی از مدل‌های زبانی استفاده کنند. llama.cpp با دستورالعمل‌های AVX2 برای پردازنده‌های x86 بهینه شده و امکان تسریع آن با پردازنده گرافیکی (GPU) نیز وجود دارد.
در زمینه تأخیر، Ryzen AI 9 HX 375 تا 3.5 برابر تأخیر کمتری نسبت به Core Ultra 7 258V دارد و به میانگین 50.7 توکن در ثانیه می‌رسد، در حالی که Core Ultra 7 258V به 39.9 توکن در ثانیه می‌رسد. هر دو پردازنده با گرافیک مجتمع قدرتمند، توانایی استفاده از iGPU برای بهبود عملکرد هوش مصنوعی را دارند. پردازنده‌های سری Strix Point با معماری RDNA 3.5 می‌توانند تا 31 درصد عملکرد بهتری در اجرای مدل Llama 3.2 ارائه دهند.
قابلیت VGM (حافظه گرافیکی متغیر) در پردازنده‌های Ryzen AI 300 امکان تخصیص مجدد حافظه برای وظایف پردازش گرافیکی را فراهم می‌کند که باعث افزایش 60 درصد در عملکرد همراه با شتاب GPU می‌شود.
AMD با تست هر دو پردازنده در محیط Intel AI Playground به نتایج قابل‌توجهی دست یافته است، Ryzen AI 9 HX 375 تا 8.7 درصد سریعتر از Core Ultra 7 258V در مدل Microsoft Phi 3.1 و تا 13 درصد در مدل Mistral 7b Instruct 0.3 عمل کرد. البته، مقایسه این پردازنده با Core Ultra 9 288V که مدل پرچمدار اینتل است، می‌توانست نتایج جالب‌تری داشته باشد، زیرا HX 375 در حال حاضر سریع‌ترین پردازنده سری Strix Point است.
AMD با هدف آسان‌تر کردن استفاده از مدل‌های زبانی برای کاربران غیر فنی، تلاش می‌کند ابزار LM Studio را توسعه دهد تا امکان بهره‌گیری از قابلیت‌های هوش مصنوعی برای طیف وسیع‌تری از کاربران فراهم شود.
مطالب مرتبط:
توسط 
توسط 
توسط 
دیدگاهتان را بنویسید