برای سالها، صنعت هوش مصنوعی از مجموعه اصولی پیروی کرده که به «قوانین مقیاس» معروف هستند. پژوهشگران OpenAI قوانین مقیاس دهی هوش مصنوعی را در مقالهای مهم در سال 2020 تحت عنوان «Scaling Laws for Neural Language Models» معرفی کردند.
در این مقاله آمده: عملکرد مدل بهشدت به مقیاس وابسته است که شامل سه عامل میشود: تعداد پارامترهای مدل (بدون احتساب تعبیهها)، اندازه مجموعه داده و میزان محاسبات مورداستفاده برای آموزش.
به عبارت دیگر، هرچه مقیاس بیشتر باشد، در ساخت هوش مصنوعی بسیار هوشمند بهتر عمل میشود. این ایده باعث شده سرمایهگذاریهای هنگفتی در مراکز داده انجام شود تا مدلهای هوش مصنوعی بتوانند حجم عظیمی از اطلاعات موجود را پردازش کرده و از آن یاد بگیرند.
چالشهای قوانین مقیاس
اخیراً، متخصصان هوش مصنوعی در سیلیکون ولی شروع به زیرسؤالبردن اصول مقیاس دهی کردهاند. یان لکون، دانشمند ارشد هوش مصنوعی متا، در دانشگاه ملی سنگاپور گفت: اغلب مسائل جالب مقیاسپذیری بسیار ضعیفی دارند. نباید فرض کنید که داده بیشتر و محاسبات بیشتر به معنای هوش مصنوعی هوشمندتر است.
لکون استدلال میکند که آموزش هوش مصنوعی با حجم عظیمی از اطلاعات اولیه، مانند دادههای اینترنت، منجر به نوعی «فوقهوش» نخواهد شد. او میگوید هوش مصنوعی هوشمند از جنس متفاوتی است.
او توضیح داد: مشکل این است که وقتی سیستمهای بسیار ساده برای مسائل ابتدایی کار میکنند، باعث میشوند مردم فکر کنند که همین سیستمها برای مسائل پیچیده هم جوابگو خواهند بود. آنها کارهای شگفتانگیزی انجام میدهند، اما این موضوع باعث شکلگیری نوعی مذهب مقیاس میشود؛ این باور که تنها نیاز است سیستمها را بیشتر مقیاسدهی کنیم و آنها به طور طبیعی هوشمندتر خواهند شد.
تأثیر مقیاس دهی هوش مصنوعی در پیشرفتهای اخیر
لکون معتقد است تأثیر مقیاسدهی در حال حاضر به این دلیل برجسته است که بسیاری از پیشرفتهای اخیر در هوش مصنوعی «بسیار ساده» هستند. او اشاره کرد که بزرگترین مدلهای زبانی کنونی تقریباً به اندازه اطلاعات موجود در قشر بصری یک کودک چهار ساله آموزش دیدهاند.
او افزود: وقتی با مسائل واقعی که دارای ابهام و عدم قطعیت هستند سروکار دارید، دیگر مسئله فقط مقیاس نیست.
پیشرفتهای هوش مصنوعی اخیراً کند شدهاند که بخشی از آن به دلیل کاهش منابع دادههای عمومی قابلاستفاده است.
لکون تنها پژوهشگری نیست که قدرت مقیاسدهی را زیر سؤال میبرد. آلکساندر وانگ، مدیرعامل Scale AI، در کنفرانس Cerebral Valley سال گذشته گفت که مقیاسدهی «بزرگترین سؤال در این صنعت» است. آیدان گومز، مدیرعامل Cohere نیز آن را «احمقانهترین» روش برای بهبود مدلهای هوش مصنوعی نامید.
پیشنهاد لکون: آموزش مبتنی بر تعامل با جهان
لکون بر رویکردی مبتنی بر آموزش هوش مصنوعی با تعامل با دنیای واقعی تأکید دارد. او گفت: ما به سیستمهای هوش مصنوعی نیاز داریم که بتوانند وظایف جدید را خیلی سریع یاد بگیرند. آنها باید دنیای فیزیکی را درک کنند (نه فقط متن و زبان بلکه دنیای واقعی) و از سطحی از عقل سلیم و تواناییهای استدلال و برنامهریزی برخوردار بوده، حافظهای پایدار داشته باشند و به تمام ویژگیهایی که از موجودات هوشمند انتظار داریم، مجهز شوند.
لکون در سال گذشته، در پادکست لکس فریدمن، توضیح داد که برخلاف مدلهای زبانی بزرگ که تنها میتوانند براساس الگوها مراحل بعدی را پیشبینی کنند، مدلهای جهان دارای سطح بالاتری از شناخت هستند. او افزود: جزء اضافی مدل جهان چیزی است که میتواند پیشبینی کند جهان به عنوان نتیجهی یک اقدام چگونه تکامل خواهد یافت.
توسط 
توسط 
دیدگاهتان را بنویسید