برخی از ذهنهای برتر دنیای فناوری از محققان هوش مصنوعی میخواهند که فوراً کار روی آموزش سیستمهای پیشرفته در این حوضه را متوقف کنند. امضاکنندگان توصیه کردهاند که آزمایشگاهها باید از زمان توقف استفاده کنند تا به طور مشترک پروتکلهای ایمنی برای طراحی پیشرفته هوش مصنوعی را توسعه و پیادهسازی کنند، که توسط تیمی از کارشناسان مستقل و خارجی نظارت میشود.
مسابقهd دیوانهبار برای توسعه آن چه که نمیشناسیم
در نامهای سرگشاده که در وبسایت مؤسسه Future of Life منتشر شده است، بیش از 1،100 امضاکننده نگرانی خود را در مورد آنچه که آنها مسابقهای خارج از کنترل برای توسعه و استقرار مغزهای دیجیتالی قدرتمندی میخوانند که هنوز حتی قابل کنترل، اعتماد یا حتی پیش بینی پذیر نیستند، ابراز کردهاند.
“آیا باید اجازه دهیم ماشینها کانالهای اطلاعاتی ما را پر از تبلیغات و نادرستی کنند؟ آیا باید تمام مشاغل، از جمله کارهای انجامدهنده را به طور خودکار حذف کنیم؟ آیا باید ذهنهای غیرانسانی را توسعه دهیم که ممکن است در نهایت از از نظر تعداد پیشی گرفته و جایگزین ما شوند؟ آیا باید خطر از دست دادن کنترل تمدن خود را داشته باشیم؟”
این هشدار مانند آن چیزی که تا پیش از این در داستانهای علمی تخیلی خوانده بودیم دیده میشود. با این حال، کسانی که اخبار فناوری را دنبال میکنند، شاهد راه اندازی سیستمهای هوش مصنوعی با قابلیت فزایندهای بودهاند که یکی پس از دیگری در کوتاه مدت راهاندازی میشوند. سیستمهایی که در شروع شباهتهای زیادی به آنچه که در گذشته هم پیش بینی شده بود دارند.
این گروه معتقد است که سیستمهای هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که درک بهتری از تواناییهای آنها داشته باشیم و مطمئن باشیم که مزایا بر معایب آن برتری خواهد داشت. در واقع از نظر آنها عمومی کردن چنین فناوری مانند دادان یک چاقو به دست یک کودک است.
به این ترتیب، این گروه از همه آزمایشگاههای هوش مصنوعی میخواهد که آموزش خود را بر روی سیستمهایی که توانایی بیشتری نسبت به GPT-4 دارند را برای حداقل شش ماه متوقف کنند. این وقفه باید شفاف و تایید شود و همه مشارکت کنندگان مهم را شامل شود. اگر امکان اجرای سریع توقف وجود نداشته باشد، این گروه توصیه میکند که دولتها مداخله کنند و یک ممنوعیت موقت را اجرا کنند.
باید به این نکته توجه داشت که این گروه درخواست توقف کامل در تمامی بخشهای توسعه هوش مصنوعی را ندارد، بلکه صرفاً برای استراحت از سرعت سرسامآوری که در آن سیستمهای پیشرفته و غیرقابل پیشبینی در حال توسعه و گسترش هستند، آن هم بدون درک کامل همه پیامدها، درخواست کرده است.
نخبگان حوزه فناوری قبلا نامه سرگشادهای را امضا کردهاند شامل نامهای آشنایی همچون استیو وزنیاک، بنیانگذار اپل، ایلان ماسک، ایوان شارپ موسس Pinterest، کریس لارسن از بنیانگذاران ریپل و ژان تالین، بنیانگذار اسکایپ میشود. همچنین آنها از کسانی که با این پیام موافق هستند دعوت کردهاند تا امضای خود را به عنوان یک نمایش عمومی حمایت اضافه کنند.
نظر شما در این رابطه چیست، آیا با چند انسان متوهم رو به رو هستیم که تنها میخواهند ترس خود از پیشرفت فناوری را به ما تلقین کنند، یا اینکه با توجه به اسامی ذکر شده آنها واقعا از چیزی خبر دارند که درک آن برای دیگران کمی سخت است؟
مطالب مرتبط:
دیدگاهتان را بنویسید