کارت گرافیک Radeon RX 7900 XTX شرکت AMD با عملکرد عالی، مدل هوش مصنوعی DeepSeek R1 را اجرا کرده و در بنچمارکهای استنتاج، GeForce RTX 4090 شرکت انویدیا را شکست میدهد. برتری کارت گرافیک Radeon RX 7900 XTX با نسخه اول هوش مصنوعی DeepSeek، بسیار مشهود است و شاهد افزایش عملکرد کارت گرافیک AMD هستیم.
AMD به سرعت پشتیبانی از مدلهای R1 LLM شرکت DeepSeek را اضافه کرده و عملکرد بهتری را ارائه میکند. مدل هوش مصنوعی جدید DeepSeek صنعت را تحت تأثیر قرار داده است و در حالی که بسیاری از افراد در مورد منابع محاسباتی مورد نیاز برای آموزش این مدل کنجکاوند، به نظر میرسد مصرفکنندگان معمولی قادرند با استفاده از کارت گرافیک Radeon RX 7900 XTX مبتنی بر معماری RDNA 3 عملکرد کافی برای اجرای این مدل را به دست آورند. تیم قرمز بنچمارکهای استنتاج مدل R1 را منتشر کرده که در آن کارت گرافیک پرچمدار سری RX 7000 این شرکت در مقایسه با رقیب انویدیا خود عملکرد بهتری را نشان میدهد.
کارتهای گرافیکی مصرفی برای بارهای کاری هوش مصنوعی برای بسیاری از کاربران مفید بودهاند، زیرا عملکرد آنها به ازای هر دلار نسبت به شتابدهندههای اصلی هوش مصنوعی بهتر است. علاوه بر این، اجرای مدلها بهصورت محلی باعث محافظت از حریم خصوصی میشود که یکی از نگرانیهای اصلی در مورد مدلهای هوش مصنوعی DeepSeek بوده است. خوشبختانه، AMD راهنمایی جامع برای اجرای DeepSeek R1 distillations روی کارتهای گرافیکی خود منتشر کرده است که در اینجا دستورالعملها آورده شده است.
برتری کارت گرافیک Radeon RX 7900 XTX با هوش مصنوعی DeepSeek
- گام 1: اطمینان حاصل کنید که از درایور Adrenalin نسخه 25.1.1 Optional یا بالاتر استفاده میکنید.
- گام 2: LM Studio نسخه 0.3.8 یا بالاتر را از سایت lmstudio.ai/ryzenai دانلود کنید.
- گام 3: LM Studio را نصب کنید و صفحه ابتدایی (onboarding) را رد کنید.
- گام 4: روی تب Discover کلیک کنید.
- گام 5: مدل DeepSeek R1 Distill خود را انتخاب کنید. مدلهای کوچکتر مانند Qwen 1.5B عملکرد بسیار سریعی ارائه میدهند (و به عنوان نقطه شروع توصیه میشوند)، در حالی که مدلهای بزرگتر قابلیت استدلال بهتری دارند. همه آنها بسیار توانمند هستند.
- گام 6: در سمت راست، اطمینان حاصل کنید که گزینه Q4 K M برای کمکیفیتسازی (quantization) انتخاب شده باشد و سپس روی Download کلیک کنید.
- گام 7: پس از دانلود، به تب Chat بروید و مدل DeepSeek R1 Distill را از منوی کشویی انتخاب کنید و اطمینان حاصل کنید که گزینه Manually select parameters تیک خورده باشد.
- گام 8: در لایههای بارگذاری GPU، اسلایدر را به حداکثر مقدار منتقل کنید.
- گام 9: روی Model Load کلیک کنید.
- گام 10: با مدل استدلالی که بهطور کامل روی سختافزار محلی AMD شما اجرا میشود، تعامل داشته باشید!
اگر این دستورالعملها برای شما کار نکرد، AMD یک ویدیو آموزشی در یوتیوب منتشر کرده که مراحل مختلف را بهطور دقیق شرح میدهد. حتماً آن را بررسی کنید و مدلهای LLM DeepSeek را روی سیستمهای محلی AMD خود اجرا کنید تا از استفاده نادرست از دادههای خود جلوگیری کنید. با کارتهای گرافیکی آینده انویدیا و AMD، پیشبینی میشود که قدرت استنتاج بهطور چشمگیری افزایش یابد، چرا که این کارتها بهطور خاص دارای موتورهای هوش مصنوعی برای تسهیل چنین بارهای کاری هستند.
مطالب مرتبط:
توسط 
توسط 
دیدگاهتان را بنویسید