برای چندین سال، متخصصان فناوری درباره خطرات بالقوه سیستمهای پیشرفته هوش مصنوعی برای بشریت هشدار داده بودند. اما در سال 2024، این هشدارها تحت تأثیر یک دیدگاه عملی و سودآور از هوش مصنوعی مولد که توسط صنعت فناوری و سیلیکون ولی ترویج شد، رنگ باخت؛ دیدگاهی که به نفع منافع مالی این شرکتها نیز بود.
نگرانیها درباره خطر نابودی به دست هوش مصنوعی
افرادی که درباره خطرات فاجعهبار هوش مصنوعی هشدار میدهند، اغلب بدبینهای هوش مصنوعی (AI Doomers) خوانده میشوند، اگرچه این عنوان موردپسند آنها نیست. این افراد نگراناند که سیستمهای هوش مصنوعی توسط قدرتهای سیاسی برای سرکوب مردم استفاده شوند، تصمیماتی بگیرند که به مرگ انسانها منجر شود یا بهطور کلی به سقوط جامعه کمک کنند.
در سال 2023، موضوعات مرتبط با خطرات هوش مصنوعی و ایمنی آن از مباحثی محدود در کافههای سانفرانسیسکو به مباحثی در MSNBC، CNN و صفحه اول نیویورک تایمز تبدیل شد.
هشدارهای مهم سال 2023:
ایلان ماسک و بیش از 1000 متخصص و دانشمند خواستار توقف توسعه هوش مصنوعی شدند تا جهان برای خطرات عمیق این فناوری آماده شود.
دانشمندان برجسته از OpenAI، گوگل و دیگر شرکتها نامهای امضا کردند و هشدار دادند که خطر انقراض انسان به دلیل هوش مصنوعی باید جدی گرفته شود.
جو بایدن، رئیسجمهور وقت، فرمان اجراییای را برای محافظت از آمریکاییها در برابر سیستمهای هوش مصنوعی امضا کرد.
در نوامبر 2023، هیئت مدیره غیرانتفاعی OpenAI مدیرعامل این شرکت، سم آلتمن، را اخراج کرد و مدعی شد که او قابلاعتماد نیست و نمیتواند مسئولیت فناوری به اهمیت AGI (هوش مصنوعی عمومی) را برعهده بگیرد.
برای مدتی کوتاه، به نظر میرسید که رویاهای سیلیکون ولی برای توسعه بیوقفه هوش مصنوعی به نفع سلامت جامعه متوقف شود.
پاسخ سیلیکون ولی به هشدارها
برای کارآفرینان سیلیکون ولی ، روایت پیرامون نابودی به دست هوش مصنوعی نگرانکنندهتر از خود مدلهای هوش مصنوعی بود.
در پاسخ، مارک اندریسن، یکی از بنیانگذاران a16z، مقالهای 7000 کلمهای با عنوان «چرا هوش مصنوعی جهان را نجات خواهد داد» منتشر کرد که دیدگاهی خوشبینانه درباره هوش مصنوعی ارائه داد.
او در مقالهاش نوشت: دوران هوش مصنوعی فرا رسیده و مردم بسیار نگراناند. خوشبختانه من اینجایم تا خبر خوب را بدهم: هوش مصنوعی جهان را نابود نخواهد کرد، بلکه ممکن است آن را نجات دهد.
او پیشنهاد کرد که شرکتهای بزرگ فناوری و استارتاپها باید بدون موانع نظارتی زیاد، با سرعت بالا به توسعه هوش مصنوعی ادامه دهند. این رویکرد به ادعای او باعث میشود آمریکا بتواند با چین رقابت کند و از تمرکز قدرت هوش مصنوعی در دست چند شرکت بزرگ جلوگیری شود.
البته این رویکرد سودآوری قابلتوجهی برای استارتاپهای تحت حمایت a16z داشت و برخی این خوشبینی تکنولوژیک را در عصری که با نابرابری شدید درآمدی، بحرانهای مسکن و پاندمیها مواجه است، غیرواقعبینانه دانستند.
در همین حال، اندریسن و دیگر فعالان فناوری از هرگونه مقرراتی که رشد صنعت را محدود کند، انتقاد کردند و در نامهای به همراه ساتیا نادلا، مدیرعامل مایکروسافت، از دولت خواستند صنعت هوش مصنوعی را تنظیم نکند.
سرمایهگذاری بیسابقه در هوش مصنوعی در 2024
علیرغم هشدارهای 2023، سرمایهگذاری در هوش مصنوعی در سال 2024 رکوردهای جدیدی را ثبت کرد:سم آلتمن دوباره به OpenAI بازگشت، اما بسیاری از محققان ایمنی این شرکت را ترک کردند و هشدار دادند که فرهنگ ایمنی در شرکت کاهش یافته است.
فرمان اجرایی بایدن دیگر مورد توجه قرار نگرفت. دونالد ترامپ، رئیسجمهور منتخب، اعلام کرد که این فرمان را لغو خواهد کرد و آن را مانعی بر سر راه نوآوری دانست.
لایحه SB 1047: نبرد اصلی سال 2024
در 2024، نبرد بر سر ایمنی هوش مصنوعی با لایحه SB 1047 در کالیفرنیا به اوج خود رسید: این لایحه که توسط محققان برجستهای همچون جفری هینتون و یوشوا بنجیو حمایت میشد، هدفش جلوگیری از رویدادهای فاجعهبار به وسیله هوش مصنوعی و حملات سایبری بود.
گوین نیوسام، فرماندار کالیفرنیا، این لایحه را وتو کرد و گفت: نمیتوانم همه مشکلات را حل کنم. چه چیزی را میتوانیم حل کنیم؟
این جمله طرز فکر بسیاری از سیاستمداران در 2024 را نشان میدهد: خطرات فاجعهبار هوش مصنوعی مسئلهای است که به نظر نمیرسد راهحل عملی داشته باشد.
چشمانداز 2025
پیشنهادکنندگان SB 1047 اعلام کردهاند که ممکن است با نسخهای اصلاحشده از این لایحه در 2025 بازگردند.از سوی دیگر، مخالفان این مقررات مانند مارتین کاسادو از a16z معتقدند که هوش مصنوعی بهطور کلی امن است و نیازی به مقررات گسترده ندارد.اما حوادثی مانند پرونده علیه Character.AI — که شامل سوءاستفاده از یک نوجوان و خودکشی او است — نشان میدهد که ریسکهای مرتبط با هوش مصنوعی همچنان وجود دارد.
بدبینان هوش مصنوعی در 2025 با چالشهای بزرگتری روبرو خواهند شد، اما جنبش ایمنی هوش مصنوعی همچنان تلاش خواهد کرد تا آگاهی عمومی را افزایش دهد و توجه سیاستمداران را به این موضوع جلب کند.
دیدگاهتان را بنویسید