براساس آخرین تغییری که در صفحه گیتهاب نرم افزار متنباز ROCm شرکت AMD ثبت شده است، کارتهای گرافیک آیندهی این شرکت احتمالا از فرمت عددی BFloat16 که به شدت در حال محبوب شدن است، برای کاربردهای یادگیری عمیق استفاده خواهند کرد. با این کار، AMD نیز به شرکتهای دیگری مانند گوگل، اینتل و Arm که هم اکنون از این فرمت استفاده میکنند، خواهد پیوست.
فرمت عددی جدید BFloat16 کمک بزرگی به دانشمندان یادگیری عمیق خواهد کرد
این آپدیت به عنوان یک کامیت (Commit) در مخزن گیتهاب ROCm Software Platform که مخصوص محاسبات گرافیکی AMD برای ابررایانهها (HPC) است، ثبت شده و عنوان آن «اندازههای بیشتر برای BF16 TN» میباشد. این اشاره به BF16 که کوتاه شدهی BFloat16 است نشان میدهد که شاید AMD قصد دارد این فرمت عددی را در معماری کارتهای گرافیک آیندهاش تعبیه کند.
BFloat16 یک فرمت عددی جدید است که اخیرا توسط گوگل و برای کارهای یادگیری عمیق توسعه داده شده و در واحدهای پردازش تنسور (TPU) این شرکت از آن استفاده میشود. این فرمت عددی قسمت اعشاری یک عدد اعشاری معمولی FP32 را ۱۶ بیت کم میکند و در حقیقت دقت آن عدد را تا چند رقم اعشار کاهش میدهد. دلیل این کار این است که با این کار به خاطر فرمت ۱۶ بیتی، نیاز کمی به منطقهی سیلیکونی و پهنای باند وجود دارد و طبق ادعای گوگل اعمال آن در سختافزار نسبت به فرمت عددی FP16 فعلی نیز کاراتر خواهد بود.
فرمت BFloat16 در سختافزارهای جدید به خوبی پشتیبانی شده است. اینتل اعلام کرده که از این فرمت عددی جدید پشتیبانی کرده و از آن در Cooper Lake-SP Xeon، Agilex FPGA و Nervana NNP-T استفاده خواهد کرد. اخیرا ARM هم پشتیبانی خود را از BFloat16 در Armv8 اعلام کرد. اکنون به نظر میرسد AMD نیز قصد پیوستن به آنها را دارد و اگر این اتفاق بیوفتند، Nvidia تنها تولیدکنندهی سخت افزار هوش مصنوعی خواهد بود که فعلا از این فرمت جدید اعلام پشتیبانی نکرده است.
توسط 
دیدگاهتان را بنویسید