در دنیای پردازش‌های هوش مصنوعی، جایی که سرعت و کارایی حرف اول را می‌زنند، کارت گرافیک RTX 5090 انویدیا، با عملکرد خیره‌کننده‌اش در مدل‌های DeepSeek R1، رقبای خود را پشت سر گذاشته است. این کارت گرافیک با اختلاف چشمگیر نسبت به RX 7900 XTX از AMD، نشان داده که در زمینه ترکیب مدل‌های هوش مصنوعی، حرف اول را می‌زند.
به نظر می‌رسد که پردازنده‌های گرافیکی، بهترین راه حل برای اجرای مدل‌های پیشرفته LLM در دستگاه‌های شخصی باشند. هم انویدیا و هم AMD در تلاشند تا محیط‌های مناسبی را برای این کار فراهم کنند. AMD اخیرا توانایی پردازنده گرافیکی پرچمدار RDNA 3 خود را در مدل DeepSeek R1 LLM به نمایش گذاشت. اما اکنون، انویدیا با معرفی معیارهای استنتاجی که روی جدیدترین پردازنده‌های گرافیک RTX Blackwell اجرا می‌شوند، پاسخ داده است. نتایج به وضوح نشان می‌دهند که کارت گرافیک RTX 5090 انویدیا در این عرصه به سلطنت رسیده است.
نتایج عملکرد قدرتمند کارت گرافیک RTX 5090 انویدیا
در مدل‌های مختلف DeepSeek R1، کارت گرافیک RTX 5090 انویدیا برتری کاملی نسبت به RX 7900 XTX و حتی نسل قبلی خود دارد. این کارت گرافیک قادر است تا 200 توکن در ثانیه را در Distill Qwen 7b و Distill Llama 8b پردازش کند. این سرعت تقریاً دو برابر سرعت RX 7900 XTX از AMD است. این موضوع نشان می‌دهد که عملکرد هوش مصنوعی در پردازنده‌های گرافیکی انویدیا تا چه حد برتری خواهد داشت. با پشتیبانی گسترده RTX on AI، شاهد گسترش هوش مصنوعی در رایانه‌های شخصی مصرف‌کننده خواهیم بود.
انویدیا برای کسانی که مشتاق اجرای DeepSeek R1 روی کارت‌های گرافیک RTX هستند، یک وبلاگ اختصاصی منتشر کرده است. در این وبلاگ، راهنمایی‌های لازم برای کاربران ارائه شده است. جالب اینجاست که اجرای این مدل به سادگی اجرای هر چت‌بات از طریق اینترنت است.
برای کمک به توسعه‌دهندگان در آزمایش ایمن این قابلیت‌ها و ساخت نمایندگی‌های تخصصی خود، مدل DeepSeek-R1 با 671 میلیارد پارامتر به عنوان پیش‌نمایش میکروسرویس NVIDIA NIM در build.nvidia.com در دسترس است. میکروسرویس NIM DeepSeek-R1 می‌تواند تا 3872 توکن در ثانیه را روی یک سیستم انویدیا HGX H200 ارائه دهد.
توسعه‌دهندگان می‌توانند رابط برنامه‌نویسی کاربردی را آزمایش کنند. انتظار می‌رود که این رابط به زودی به عنوان یک میکروسرویس قابل دانلود NIM، بخشی از پلتفرم نرم‌افزار NVIDIA AI Enterprise در دسترس قرار گیرد.
میکروسرویس DeepSeek-R1 NIM با پشتیبانی از پردازنده‌های استاندارد صنعتی، استقرار را ساده می‌کند. شرکت‌ها می‌توانند امنیت و حریم خصوصی داده‌ها را با اجرای ریزروسرویس NIM روی زیرساخت محاسباتی شتاب‌دهنده مورد نظر خود به حداکثر برسانند.
با سرویس‌های NIM انویدیا، توسعه‌دهندگان و علاقه‌مندان به‌راحتی می‌توانند مدل هوش مصنوعی را در ساخت‌های محلی خود امتحان کنند. این موضوع به این معنی است که نه تنها از داده‌های شما محافظت می‌شود، بلکه اجرای محلی نیز با توجه به قابلیت‌های سخت‌افزاری، می‌تواند عملکرد بهتری ارائه دهد.
مطالب مرتبط:
توسط 
توسط 
توسط 
دیدگاهتان را بنویسید