موضوعات داغ
  • نمایشگاه کامپیوتکس ۲۰۲۵
  • بازی GTA VI
  • هوش مصنوعی
  • استارلینک
  • چت‌بات‌ها
  • دینو
سخت افزار مگ
  • اخبار و مقالات
    • گوشی موبایل
      • لوازم جانبی موبایل
    • تبلت
    • لپ تاپ
    • دسکتاپ
      • مادربرد
      • پردازنده مرکزی
      • کارت گرافیک
      • تجهیزات ذخیره سازی
      • حافظه
      • صفحه نمایش
      • تجهیزات جانبی
    • تصویرگری دیجیتال
    • صوتی و تصویری
    • شبکه
    • نرم افزار و بازی
    • کالبدشکافی قطعات
    • مطالب گوناگون
  • لیست قیمت
    • گوشی موبایل
      • لیست قیمت روز گوشی‌های سامسونگ
      • لیست قیمت روز گوشی‌های شیائومی
      • لیست قیمت روز گوشی‌های هواوی
      • لیست قیمت روز گوشی های آنر
    • تبلت
    • لپ‌تاپ
    • قطعات کامپیوتر
      • لیست قیمت پردازنده
    • محصولات اپل
    • تجهیزات شبکه
    • لوازم خانگی
    • صوتی و تصویری
    • دوربین دیجیتال
    • تجهیزات بازی
    • خودرو
  • بررسی
    • بررسی گوشی موبایل
    • بررسی تبلت
    • بررسی لپ تاپ
    • دسکتاپ
      • بررسی کولر و فن
      • بررسی مادربرد
      • بررسی کارت گرافیک
      • بررسی تجهیزات ذخیره سازی
      • بررسی حافظه
      • بررسی منبع تغذیه و کیس
      • بررسی تجهیزات جانبی
      • بررسی صفحه نمایش
    • بررسی تصویرگری دیجیتال
    • بررسی صوتی و تصویری
    • بررسی شبکه
    • بررسی نرم افزار و بازی
    • بررسی گوناگون
  • راهنمای خرید
    • سیستم پیشنهادی
  • دانلود
  • ویژه
    • مسابقات
    • نمایشگاه
تبلیغات
تبلیغات
تبلیغات

اخبار و مقالات / مطالب گوناگون

مدل‌ های استدلالی جدید OpenAI بیشتر دچار توهم می‌شوند

Avatarتوسط مهرانه راجعی ·30 فروردین 140430 فروردین 1404· 0

مدل‌های جدید هوش مصنوعی OpenAI با نام‌های o3 و o4 مینی در بسیاری از جنبه‌ها پیشرفته هستند. مدل‌ های استدلالی جدید OpenAI همچنان دچار توهم می‌شوند؛ به این معنی که اطلاعات نادرست تولید می‌کنند. ظاهراً حتی بیشتر از برخی مدل‌های قدیمی‌تر OpenAI این اتفاق رخ می‌دهد.

توهم یا تولید اطلاعات نادرست یکی از بزرگ‌ترین و پیچیده‌ترین مشکلات در حوزه هوش مصنوعی است که حتی سیستم‌های پیشرفته امروزی را نیز تحت تأثیر قرار می‌دهد. به‌طور تاریخی، هر مدل جدید معمولاً از نظر کاهش توهم کمی بهتر از مدل قبلی خود عمل می‌کند. اما به نظر می‌رسد این موضوع برای o3 و o4 مینی صدق نمی‌کند.

براساس آزمایش‌های داخلی OpenAI، مدل‌های o3 و o4 مینی، که به‌عنوان مدل‌های استدلالی شناخته می‌شوند، بیشتر از مدل‌های استدلالی قبلی این شرکت، یعنی o1، o1 مینی، و o3 مینی و حتی بیشتر از مدل‌های سنتی و غیر استدلالی مانند GPT-4o دچار توهم می‌شوند.

چرا مدل‌ های استدلالی OpenAI دچار توهم می‌شوند؟

نکته نگران‌کننده‌تر این است که سازندگان ChatGPT دقیقاً نمی‌دانند چرا این اتفاق می‌افتد. در گزارش فنی مدل‌های o3 و o4 مینی، OpenAI می‌نویسد که برای درک علت افزایش توهم در مقیاس‌بندی مدل‌های استدلالی نیاز به تحقیقات بیشتری وجود دارد. این مدل‌ها در برخی زمینه‌ها، مانند وظایف مربوط به کدنویسی و ریاضیات، عملکرد بهتری دارند. اما از آنجا که به‌طور کلی اطلاعات بیشتری ارائه می‌دهند، اغلب ادعاهای نادرست/توهمی بیشتر تولید می‌کنند‌.

مدل‌ های استدلالی جدید OpenAI بیشتر دچار توهم می‌شوند

طبق گزارش OpenAI، مدل o3 در 33٪ از پرسش‌ها در PersonQA که یک معیار داخلی برای اندازه‌گیری دقت دانش مدل در مورد انسان‌هاست، دچار توهم شده است. این رقم تقریباً دوبرابر نرخ توهم مدل‌های استدلالی قبلی OpenAI، یعنی o1 و o3 مینی است که به‌ترتیب 16٪ و 14.8٪ بودند. مدل o4 مینی حتی بدتر عمل کرد و در 48٪ از موارد توهم داشت.

آزمایش‌های مستقل توسط آزمایشگاه تحقیقاتی Transluce نیز شواهدی یافت که نشان می‌دهد مدل o3 تمایل به ساختن جزئیات فرآیندهایی دارد که در رسیدن به پاسخ‌ها به‌کار گرفته است. برای مثال، Transluce مشاهده کرد که o3 ادعا می‌کند روی یک MacBook Pro مدل 2021 خارج از ChatGPT کدی اجرا کرده و سپس نتایج را در پاسخ خود کپی کرده است. در حالی که o3 به برخی ابزارها دسترسی دارد، چنین کاری از عهده آن خارج است.

نیل چودری، یکی از پژوهشگران Transluce و کارمند سابق OpenAI گفت: فرضیه ما این است که نوع یادگیری تقویتی مورداستفاده در مدل‌های سری o ممکن است مشکلاتی را تشدید کند که معمولاً با فرآیندهای استاندارد پس از آموزش کاهش می‌یابند، اما به‌طور کامل از بین نمی‌روند.

سارا شوتمان، یکی از بنیان‌گذاران Transluce، اضافه کرد که نرخ توهم بالای o3 ممکن است باعث شود که این مدل کمتر از آنچه که باید مفید باشد.

کیان کاتنفروش، استاد مدعو دانشگاه استنفورد و مدیرعامل شرکت Workera که در زمینه ارتقای مهارت‌ها فعالیت می‌کند، توضیح داد که تیم او در حال آزمایش مدل o3 در فرآیندهای کدنویسی خود بوده و متوجه شده‌اند که این مدل از رقبای خود برتر است. با این حال، کاتنفروش اشاره کرد که o3 تمایل به تولید لینک‌های خراب برای وب‌سایت‌ها دارد. مدل لینک‌هایی ارائه می‌دهد که هنگام کلیک‌کردن، کار نمی‌کنند.

توهم ممکن است به مدل‌ های استدلالی جدید OpenAI کمک کند تا به ایده‌های جالب برسند و در تفکر خلاق باشند، اما این ویژگی باعث می‌شود که برخی مدل‌ها برای کسب‌وکارهایی که دقت اولویت اصلی است، گزینه نامناسبی باشند. برای مثال، یک شرکت حقوقی احتمالاً از مدلی که خطاهای واقعی زیادی در قراردادهای مشتری وارد می‌کند، رضایت نخواهد داشت.

یکی از رویکردهای امیدوارکننده برای افزایش دقت مدل‌ها، ارائه قابلیت‌های جستجوی وب به آن‌هاست. GPT-4o شرکت OpenAI با قابلیت جستجوی وب به دقت 90٪ در معیار SimpleQA، یکی دیگر از معیارهای دقت OpenAI، دست می‌یابد. احتمالاً جستجو می‌تواند نرخ توهم مدل‌های استدلالی را نیز بهبود بخشد؛ حداقل در مواردی که کاربران حاضر باشند درخواست‌های خود را در اختیار یک ارائه‌دهنده جستجوی ثالث قرار دهند.

اگر افزایش مقیاس مدل‌های استدلالی همچنان باعث بدترشدن توهمات شود، یافتن راه‌حل برای این مشکل ضرورت بیشتری پیدا خواهد کرد.

نیکو فلیکس گقت حل مسئله توهم در تمامی مدل‌های ما یک حوزه تحقیقاتی است و ما به‌طور پیوسته درحال تلاش برای بهبود دقت و قابلیت اطمینان آن‌ها هستیم.

در سال گذشته، صنعت هوش مصنوعی به‌طور گسترده‌ای به مدل‌های استدلالی روی آورده است، چرا که تکنیک‌های بهبود مدل‌های سنتی شروع به نشان‌دادن بازده کاهشی کرده‌اند. استدلال باعث بهبود عملکرد مدل‌ها در طیف گسترده‌ای از وظایف می‌شود؛ بدون نیاز به مقادیر عظیمی از محاسبات و داده‌ها در طول آموزش. با این حال، به نظر می‌رسد که استدلال ممکن است باعث افزایش توهم شود که یک چالش جدید را ایجاد می‌کند.

  • استارتاپ هندی سیستمی برای اجرای هوش مصنوعی بدون نیاز به کارت‌های گرافیک پیشرفته معرفی کرد
  • بیل گیتس: هوش مصنوعی به کمبود پزشک و معلم پایان می‌دهد!
  • OpenAI با سرمایه‌گذاری 40 میلیارد دلاری به ارزش 300 میلیارد دلار رسید

برچسب‌ها: هوش مصنوعی

امتیاز: 5.0 از 5 (1 رای)
کمی صبر کنید...
تبلیغات
تبلیغات
سرخط خبرها:
  1. ساخت امولاتورهای ویندوزی Winlator از سر گرفته می‌شود
  2. جم موبایل لجند و طریقه خرید ارزان آن
  3. ایسر از مانیتورهای Predator، ProCreator و Nitro خود رونمایی کرد
  4. ترامپ از والمارت می‌خواهد تعرفه ها را تحمل کند!
  5. راهنمای خرید موس و کیبورد با بودجه‌های مختلف (اردیبهشت 1404)

مطالب مرتبط ...

  • 3

    کارت گرافیک فوق قدرتمند انویدیا در دست افراد خوش اقبال!

    Avatarتوسط امیرحسین آریایی · 31 خرداد 1397 · 22 اسفند 1398

  • فناوری Instant NeRF انویدیا 0

    فناوری Instant NeRF انویدیا برای تبدیل تصاویر 2 بعدی به 3 بعدی با کمک هوش مصنوعی

    Avatarتوسط لیلا میرزاخان · 7 فروردین 1401 · 7 فروردین 1401

  • 0

    هوش مصنوعی OpenAI به سطح هوش انسانی رسید!

    Avatarتوسط مهرانه راجعی · 9 دی 1403 · 9 دی 1403

مطالب گوناگون از دینو

6 ترند که در دکوراسیون خانه سال 2025 می‌ بینید

حقیقت هایی جالب در مورد بدن زنان و مردان که کمتر کسی از آن اطلاع دارد

رفتار های نادرست والدین منجر به مشکلات روانی فرزند در بزرگسالی می شود

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

در صورتی که نظر شما حاوی ناسزا، عبارات توهین‌آمیز و تهدید بوده و در تضاد با قوانین فعلی کشور باشد از انتشار آن بدون حذف موارد ذکر شده، معذوریم.
شکلک‌ها (اموجی‌ها) را می‌توانید با کیبرد گوشی یا کیبرد مجازی ویندوز قرار دهید.
تصاویر نویسندگان دیدگاه از Gravatar گرفته می‌شود.

پربحث‌ترین‌ها

  • راهنمای خرید لپ تاپ گیمینگ 468

    راهنمای خرید لپ تاپ گیمینگ با بودجه های مختلف (اردیبهشت 1404)

  • راهنمای خرید ماوس و کیبورد 2

    راهنمای خرید موس و کیبورد با بودجه‌های مختلف (اردیبهشت 1404)

  • 2

    اگر بشریت در خطر باشد، کدام رهبر هوش مصنوعی انتخاب می‌شود؟ ایلان ماسک یا سم آلتمن

  • 2

    گوشی Xperia 1 VII سونی با پردازنده اسنپدراگون 8 الیت معرفی شد

آخرین بررسی‌ها

9.3

بررسی کارت گرافیک گیگابایت RTX 5080 16GB GAMING OC

8.7

بررسی واترکولر سفید XPG LEVANTE X 240

8.9

بررسی پاور گرین GREEN 1000W GXD GOLD

9.5

بررسی کیت رم VENGEANCE 2x24GB CU-DIMM 8200MT/s CL40 کورسیر

9.1

تماشا کنید: بررسی گلکسی S25 و S25+: دوست‌داشتنی و نادیده گرفته‌شده

آخرین مطالب دینو

در خانه کفش نپوشید؛ عادتی کوچک با فواید بزرگ برای سلامت

درآوردن کفش بیرون خانه ممکن است یک رسم فرهنگی…

  • استفاده از فناوری در سنین بالا خطر زوال عقل را کاهش می‌دهد

  • این استراتژی ساده کاهش وزن از کالری‌شماری مؤثرتر است!

  • حقیقتی جذاب درمورد شهاب‌ سنگ‌ هایی که با زمین برخورد می‌کنند

  • شنا در آب سرد می‌تواند بدن شما را در سطح سلولی تغییر دهد

  • مطلب بعدی آهنگ پیشواز همراه اول چگونه فعال میشود (تنظیمات آوای انتظار)
  • مطلب قبلی چطور سرعت پردازنده را در ویندوز و مک چک کنیم؟ (آموزش مرحله به مرحله)
  • آخرین مطالب
  • محبوب‌ترین مطالب
  • شبیه‌ساز Winlator

    ساخت امولاتورهای ویندوزی Winlator از سر گرفته می‌شود

  • جم موبایل لجند

    جم موبایل لجند و طریقه خرید ارزان آن

  • ایسر از مانیتورهای Predator، ProCreator و Nitro خود رونمایی کرد

  • ترامپ از والمارت می‌خواهد تعرفه ها را تحمل کند!

  • راهنمای خرید ماوس و کیبورد

    راهنمای خرید موس و کیبورد با بودجه‌های مختلف (اردیبهشت 1404)

  • راهنمای خرید لپ تاپ گیمینگ 468

    راهنمای خرید لپ تاپ گیمینگ با بودجه های مختلف (اردیبهشت 1404)

  • 2

    اگر بشریت در خطر باشد، کدام رهبر هوش مصنوعی انتخاب می‌شود؟ ایلان ماسک یا سم آلتمن

  • راهنمای خرید ماوس و کیبورد 2

    راهنمای خرید موس و کیبورد با بودجه‌های مختلف (اردیبهشت 1404)

  • 2

    گوشی Xperia 1 VII سونی با پردازنده اسنپدراگون 8 الیت معرفی شد

  • 1

    اپل و سامسونگ باید به فکر باتری های بزرگ‌تر باشند!

تبلیغات

آخرین دیدگاه‌ها

  • Avatar
    Babak spider گفته است:
    داش این کارت از نظر قدرت خام نصف ps5 هستش هنوزم...
  • Avatar
    سامان گفته است:
    هنوز منتشر نشده چرا الکی قضاوت میکنی؟
  • Avatar
    حسن گفته است:
    یعنی تا این بدبخت شده ؟! بستنی یخی هم بفروشه
  • Avatar
    زهرا گفته است:
    سلام وقت بخیر من با لپتابم فیلم ک میبینم یا مقاله...
  • Avatar
    Sina گفته است:
    یعنی گل گفتی😂 پادشاه قدیمی هرچیو اجرا میکنیم باهاش لامصب کم...
  • Avatar
    Mamad boyka گفته است:
    Ba 1050ti ejrash miknm 😁❤️
  • Avatar
    حسن گفته است:
    اینترنت فیبر نوری خونه ام (مخابرات) دو ساله 200 مگابیت مونده...
  • Avatar
    حسن گفته است:
    سبک بازی GTA هم اولش ( 20 سال پیش ) اینطوری...
  • Avatar
    سپهر گلمکانی گفته است:
    وقت بخیر. پیوند معماری و محدودیت کنسول‌ها با شیوه پورت‌سازی بازی‌ها...
  • Avatar
    Maryam Balesho گفته است:
    🫰😂💕💗😭🎁🌜🎁🌜🌜🎁😐😐🎁😐😐🎁😐🤍😜💙😜😜😜😜🫡🎁🎁💜😜🌝🌟♥🌝🌝
راهنمای خرید ماوس و کیبورد 2
راهنمای خرید و مشاوره
راهنمای خرید موس و کیبورد با بودجه‌های مختلف (اردیبهشت 1404)
27 اردیبهشت 1404
راهنمای خرید لپ تاپ گیمینگ 468
راهنمای خرید و مشاوره
راهنمای خرید لپ تاپ گیمینگ با بودجه های مختلف (اردیبهشت 1404)
23 اردیبهشت 1404
راهنمای خرید مانیتور 68
راهنمای خرید و مشاوره
راهنمای خرید مانیتور با بهترین قیمت در بودجه‌های مختلف (اردیبهشت 1404)
20 اردیبهشت 1404
راهنمای خرید لپ تاپ با بودجه های مختلف 1,300
راهنمای خرید و مشاوره
راهنمای خرید لپ تاپ با بودجه های مختلف (اردیبهشت 1404)
19 اردیبهشت 1404
راهنمای خرید گوشی موبایل 491
راهنمای خرید و مشاوره
راهنمای خرید گوشی موبایل بر اساس بودجه‌های مختلف (اردیبهشت 1404)
15 اردیبهشت 1404
راهنمای خرید و مشاوره سیستم کامپیوتر با بودجه های مختلف (فروردین ۱۴۰۴) 7,756
راهنمای خرید و مشاوره سیستم پیشنهادی هایلایت
راهنمای خرید و مشاوره سیستم کامپیوتر با بودجه های مختلف (فروردین 1404)
22 فروردین 1404
  • سخت‌افزارمگ
  • درباره ما
  • تبلیغات
  • استخدام
سخت‌افزارمگ

© 2025 Sakhtafzarmag.Com. All Rights Reserved.

صفحه نخست » اخبار و مقالات » مدل‌ های استدلالی جدید OpenAI بیشتر دچار توهم می‌شوند

ورود

عضویت

رمزتان را گم کرده‌اید؟

عضویت | رمزتان را گم کرده‌اید؟
| بازگشت به ورود