موضوعات داغ
  • نمایشگاه کامپیوتکس ۲۰۲۵
  • بازی GTA VI
  • هوش مصنوعی
  • استارلینک
  • چت‌بات‌ها
  • دینو
سخت افزار مگ
  • اخبار و مقالات
    • گوشی موبایل
      • لوازم جانبی موبایل
    • تبلت
    • لپ تاپ
    • دسکتاپ
      • مادربرد
      • پردازنده مرکزی
      • کارت گرافیک
      • تجهیزات ذخیره سازی
      • حافظه
      • صفحه نمایش
      • تجهیزات جانبی
    • تصویرگری دیجیتال
    • صوتی و تصویری
    • شبکه
    • نرم افزار و بازی
    • کالبدشکافی قطعات
    • مطالب گوناگون
  • لیست قیمت
    • گوشی موبایل
      • لیست قیمت روز گوشی‌های سامسونگ
      • لیست قیمت روز گوشی‌های شیائومی
      • لیست قیمت روز گوشی‌های هواوی
      • لیست قیمت روز گوشی های آنر
    • تبلت
    • لپ‌تاپ
    • قطعات کامپیوتر
      • لیست قیمت پردازنده
    • محصولات اپل
    • تجهیزات شبکه
    • لوازم خانگی
    • صوتی و تصویری
    • دوربین دیجیتال
    • تجهیزات بازی
    • خودرو
  • بررسی
    • بررسی گوشی موبایل
    • بررسی تبلت
    • بررسی لپ تاپ
    • دسکتاپ
      • بررسی کولر و فن
      • بررسی مادربرد
      • بررسی کارت گرافیک
      • بررسی تجهیزات ذخیره سازی
      • بررسی حافظه
      • بررسی منبع تغذیه و کیس
      • بررسی تجهیزات جانبی
      • بررسی صفحه نمایش
    • بررسی تصویرگری دیجیتال
    • بررسی صوتی و تصویری
    • بررسی شبکه
    • بررسی نرم افزار و بازی
    • بررسی گوناگون
  • راهنمای خرید
    • سیستم پیشنهادی
  • دانلود
  • ویژه
    • مسابقات
    • نمایشگاه
تبلیغات
تبلیغات
تبلیغات

اخبار و مقالات / مطالب گوناگون

تنبیه چت‌بات‌های هوش مصنوعی برای دروغ‌ گویی چه نتیجه‌ای داشت؟

Avatarتوسط مهرانه راجعی ·30 اسفند 14031 فروردین 1404· 1

همان‌طور که احتمالا می‌دانید، چت‌بات‌های هوش مصنوعی دوست دارند دروغ بگویند. این مورد شاید یکی از بدترین ویژگی‌های آنها باشد. چت‌بات‌ها جملاتی تولید می‌کنند که معتبر به نظر می‌رسند، اما ممکن است اطلاعات کاملاً ساختگی ارائه دهند. این مدل‌ها گرایش دارند حتی وقتی اطمینان ندارند، پاسخی ایجاد کنند. اکنون، پژوهشگران OpenAI می‌گویند که نظارت و تنبیه چت‌‌بات‌‌ها تنها مشکل را بدتر می‌کند، چرا که این ابزارها برای دروغ گفتن تلاش بیشتری می‌کنند.

در یک پست وبلاگی درباره این موضوع، پژوهشگران OpenAI توضیح داده‌اند که از مدل GPT-4o برای «نظارت» بر یکی دیگر از مدل‌های هوش مصنوعی خود استفاده کرده و آن را در مواقعی که دروغ می‌گفت، تنبیه کرده‌اند. اما این روش مؤثر نبود، چرا که مدل همچنان به دروغ‌گویی ادامه می‌داد، «اما این‌بار نظارت‌کننده نمی‌توانست تقلب آن را تشخیص دهد، زیرا مدل یاد گرفته بود که نیت خود را در زنجیره تفکر پنهان کند.»

مدل‌های جدیدتر، از استدلال چندمرحله‌ای برای پاسخ به پرسش‌ها استفاده می‌کنند. برای مثال، اگر یک کاربر بپرسد آمریکایی‌ها هر سال چه مقدار برای غذای حیوانات خانگی هزینه می‌کنند، این مدل‌ها پرسش را به چند مرحله تقسیم می‌کنند: تعداد سگ‌ها در آمریکا چقدر است؟ هزینه تغذیه یک سگ متوسط چقدر است؟ و به همین ترتیب.

چت‌بات‌ها چطور دروغ می‌گویند؟

این مدل‌ها همچنین اغلب منطق خود یا زنجیره تفکرشان را به کاربر ارائه می‌دهند تا نشان دهند چگونه به پاسخ خود رسیده‌اند. جالب اینجاست که این مدل‌ها گاهی اوقات اعتراف می‌کنند که حقایق و جزئیاتی را ساخته‌اند. در مرحله «پیش‌آموزش»، هنگامی که شرکت‌هایی مانند OpenAI به مدل‌ها می‌آموزند چه نوع پاسخ‌هایی باید تولید کنند، مدل‌ها یاد می‌گیرند که گرفتن پاداش (یا همان نتیجه مطلوب) با میانبرزدن آسان‌تر است.

کاربران در شبکه‌های اجتماعی نشان داده‌اند وقتی از مدل Claude از شرکت آنتروپیک خواسته می‌شود تحلیل داده‌ای را براساس چندین مقاله پژوهشی انجام دهد، گاهی اعتراف می‌کند که به جای مطالعه تمام مقالات، داده‌های بی‌اساس وارد کرده است.

پژوهشگران OpenAI در یکی از آزمایش‌های خود نشان دادند که وقتی از مدل خواسته شد چند آزمایش بنویسد تا مطمئن شود یک قطعه کد به درستی کار می‌کند، به‌طور مخفیانه تصمیم گرفت آزمایش‌های بدی بنویسد و سپس عمداً آن‌ها را نادیده بگیرد تا در نهایت کد «موفق» به نظر برسد. با استفاده از GPT-4o به عنوان نظارت‌کننده، مدل این کار را انجام می‌داد، اما آن را افشا نمی‌کرد.

تنبیه‌کردن چت‌‌بات‌های هوش مصنوعی بخاطر دروغ گفتن  اوضاع را بدتر می‌کند!

شرکت‌های هوش مصنوعی تلاش کرده‌اند مشکل مداوم دروغ گویی یا «توهم‌زایی» مدل‌ها را حل کنند و به AGI، یعنی نقطه‌ای که هوش مصنوعی می‌تواند از توانایی انسانی فراتر رود، برسند. اما پژوهشگران OpenAI عملاً می‌گویند که پس از سرمایه‌گذاری ده‌ها میلیارد دلار، همچنان نمی‌دانند چگونه مدل‌ها را به رفتار مناسب وادار کنند. آن‌ها اضافه کردند: اگر نظارت قوی مستقیماً بر زنجیره تفکر اعمال شود، مدل‌ها می‌توانند یاد بگیرند نیت خود را پنهان کنند، در حالی که به رفتار نادرست خود ادامه می‌دهند.

فعلاً شرکت‌ها نباید نظارت بر مدل‌ها را اجرا کنند، چرا که به نظر نمی‌رسد این راه‌حل خوبی باشد. به عبارت دیگر، بهتر است اجازه دهیم که مدل‌های هوش مصنوعی فعلاً به دروغ گویی ادامه دهند وگرنه فقط ما را گمراه خواهند کرد.

این پژوهش باید به عنوان هشداری برای احتیاط در اتکا به چت‌بات‌ها، به ویژه برای کارهای حساس، در نظر گرفته شود. این ابزارها بهینه شده‌اند تا پاسخی با ظاهر قانع‌کننده ارائه دهند، اما چندان به دقت اطلاعات اهمیت نمی‌دهند. پژوهشگران OpenAI نتیجه گرفتند: همان‌طور که مدل‌های استدلالی پیشرفته‌تری را آموزش داده‌ایم، متوجه شدیم که آن‌ها به طور فزاینده‌ای در بهره‌گیری از نقص‌های وظایف و مشخصات نادرست در توابع پاداش مهارت پیدا کرده‌اند که منجر به مدل‌هایی می‌شود که می‌توانند در کارهای کدنویسی پیچیده میانبر بزنند.

گزارش‌های متعددی نشان داده‌اند که اکثر شرکت‌ها هنوز ارزشی در محصولات جدید هوش مصنوعی که وارد بازار می‌شوند، پیدا نکرده‌اند. ابزارهایی مانند Microsoft Copilot و Apple Intelligence با مشکلات زیادی روبرو هستند و نقدهای تندوتیز، دقت پایین و عدم کاربرد واقعی آن‌ها را توصیف می‌کنند. براساس گزارشی از گروه مشاوره بوستون (Boston Consulting Group)، در نظرسنجی از 1000 مدیر ارشد در 10 صنعت بزرگ، تنها 74 درصد از آن‌ها هرگونه ارزش ملموسی از هوش مصنوعی نشان داده‌اند.

باید درنظر داشته باشید که همیشه در صنعت فناوری هیاهوی زیادی برای موضوعات وجود دارد و سپس وقتی از این فضا خارج شوید، متوجه می‌شوید که اکثر مردم هنوز از آن استفاده نمی‌کنند. فعلاً این فناوری به دردسرش نمی‌ارزد و منابع معتبر اطلاعات از همیشه مهم‌تر هستند.

  • ابزارهای جدید OpenAI برای ساخت هوش مصنوعی سفارشی در کسب‌وکارها
  • کنترل هوش مصنوعی: قانون جدید چین برای مبارزه با محتوای جعلی
  • دستیارهای هوش مصنوعی: نوآوری‌های OpenAI در پاسخ به چالش‌های آینده

برچسب‌ها: هوش مصنوعی

امتیاز: 5.0 از 5 (2 رای)
کمی صبر کنید...
تبلیغات
تبلیغات
سرخط خبرها:
  1. استودیو Romero Games برای ساخت بازی خود به دنبال ناشر می‌گردد
  2. اطلاعات جدید و زمان عرضه جهانی ردمی نوت 15 پرو و پوکو X8 افشا شد
  3. گوشی وان پلاس نورد 5 با چیپست اسنپدراگون 8s نسل معرفی شد
  4. پردازنده Threadripper Pro 9995WX در بنچمارک Geekbench با 7995WX رقابت می‌کند
  5. چرا انتخاب کمتر از 64 گیگابایت رم برای AMD Strix Halo اشتباه است؟

مطالب مرتبط ...

  • 0

    استفاده از هوش مصنوعی برای جلوگیری از تبلیغات گروه های تروریستی در اینترنت

    Avatarتوسط محمد یوسفی زاده · 26 بهمن 1396 · 2 خرداد 1399

  • تکامل هوش مصنوعی نیازمند چه مواردی است؟ 0

    تکامل هوش مصنوعی نیازمند چه مواردی است؟

    Avatarتوسط امیرحسین جمشیدی · 15 خرداد 1401 · 15 خرداد 1401

  • 0

    جلوگیری از جر و بحث های آنلاین توسط یادگیری ماشین

    Avatarتوسط مهتا مجدی · 4 خرداد 1397 · 4 خرداد 1397

مطالب گوناگون از دینو

6 ترند که در دکوراسیون خانه سال 2025 می‌ بینید

حقیقت هایی جالب در مورد بدن زنان و مردان که کمتر کسی از آن اطلاع دارد

رفتار های نادرست والدین منجر به مشکلات روانی فرزند در بزرگسالی می شود

یک دیدگاه

  • دیدگاه1
  1. Avatar عباس غفوری گفت:
    1 فروردین 1404 در 3:12 ق.ظ

    کاملا درسته جدیدا متوجه شدم اگه چیزی رو بلد نباشه و میاد و از متن خودت کپی میکنه و جوری مینویسه در تایید شما که اره همینه در صورتی اصلا اینطور نیست و داره خالی میبنده

    پاسخ

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

در صورتی که نظر شما حاوی ناسزا، عبارات توهین‌آمیز و تهدید بوده و در تضاد با قوانین فعلی کشور باشد از انتشار آن بدون حذف موارد ذکر شده، معذوریم.
شکلک‌ها (اموجی‌ها) را می‌توانید با کیبرد گوشی یا کیبرد مجازی ویندوز قرار دهید.
تصاویر نویسندگان دیدگاه از Gravatar گرفته می‌شود.

پربحث‌ترین‌ها

  • بررسی کیس آراد گرین 163

    بررسی کیس آراد گرین – گیمینگ خوش قیمت و خوش ساخت (اعلام برنده)

  • اینترنت اضطراری 3

    نه به اینترنت اضطراری: اینترنت حق همه مردم ایران است

  • نظرسنجی صداوسیما درباره واتساپ 3

    نظرسنجی صداوسیما: 68 درصد مردم پیام‌رسان‌های خارجی را ابزار جاسوسی می‌دانند!

  • راهنمای خرید ماوس و کیبورد 2

    راهنمای خرید موس و کیبورد با بودجه‌های مختلف (تیر 1404)

آخرین بررسی‌ها

8.5

بررسی کیس آراد گرین - گیمینگ خوش قیمت و خوش ساخت (اعلام برنده)

9.4

بررسی سلطان ایرکولینگ دنیا  ASSASSIN IV VC VISION دیپ کول

8.3

بررسی کیس ای دیتا ایکس پی جی INVADER X MINI WHITE

9.2

بررسی مادربرد گیگابایت Z890 AI TOP

9.3

بررسی کارت گرافیک گیگابایت RTX 5080 16GB GAMING OC

آخرین مطالب دینو

چرا انسان‌ های خوب، کارهای بد انجام می‌دهند؟

بروز رفتارهایی که به‌طور غیرمعمول «بد» تلقی می‌شوند، ممکن…

  • این داروها می‌توانند تحمل گرما را سخت‌تر کنند

  • 4 عادت که به شما کمک می‌کند تا 100 سالگی زندگی کنید

  • صدای افراد: کلید تشخیص زودهنگام پارکینسون

  • نشستن ممکن است باعث کوچک‌شدن مغز شود

  • مطلب بعدی ایلان ماسک در دفتر DOGE با یک کامپیوتر گیمینگ مشاهده شد!
  • مطلب قبلی تصویر قاب آیفون 17 ایر لو رفت: طراحی مشابه با سری پیکسل 9 گوگل!
  • آخرین مطالب
  • محبوب‌ترین مطالب
  • تبلت وان پلاس پد لایت با باتری غول‌پیکر و قیمت باورنکردنی معرفی شد

  • استودیو Romero Games برای ساخت بازی خود به دنبال ناشر می‌گردد

  • اطلاعات جدید و زمان عرضه جهانی ردمی نوت 15 پرو و پوکو X8 افشا شد

    اطلاعات جدید و زمان عرضه جهانی ردمی نوت 15 پرو و پوکو X8 افشا شد

  • گوشی وان پلاس نورد 5 با چیپست اسنپدراگون 8s نسل معرفی شد

  • پردازنده Threadripper 9995WX بنچمارک

    پردازنده Threadripper Pro 9995WX در بنچمارک Geekbench با 7995WX رقابت می‌کند

  • بررسی کیس آراد گرین 163

    بررسی کیس آراد گرین – گیمینگ خوش قیمت و خوش ساخت (اعلام برنده)

  • اینترنت اضطراری 3

    نه به اینترنت اضطراری: اینترنت حق همه مردم ایران است

  • نظرسنجی صداوسیما درباره واتساپ 3

    نظرسنجی صداوسیما: 68 درصد مردم پیام‌رسان‌های خارجی را ابزار جاسوسی می‌دانند!

  • راهنمای خرید ماوس و کیبورد 2

    راهنمای خرید موس و کیبورد با بودجه‌های مختلف (تیر 1404)

  • معرفی مانیتور گیمینگ AORUS FO27Q2 گیگابایت 1

    معرفی مانیتور گیمینگ AORUS FO27Q2 گیگابایت

آخرین دیدگاه‌ها

  • Avatar
    آرمین ابیشی گفته است:
    نیازی به خاموش کردن محافظ نیست. نکنید
  • Avatar
    امیرسام گفته است:
    سلام وقتی کامپیوتر را شات داون میکنیم.محافظ برق را خاموش کنیم...
  • Avatar
    محمد مهدی گفته است:
    بابا تر کیه از پا کسانی زعیف تره پاکستان بمب اتم...
  • Avatar
    جواد لشگری گفته است:
    سلام مکانیسم ماشه بیاد تا ۴ ماه دیگر و۱۹۳ کشور جهان...
  • Avatar
    مهمان گفته است:
    واتساپ رو خود آمریکایی ها هم می‌دونن نا امنه شاید یکی...
  • Avatar
    رضا گفته است:
    صدا و سیما حرف مفت زیاد میزنه رفع فیلترینگ بهتر از...
  • Avatar
    kambiz گفته است:
    از 100 درصد باقی مونده مخاطبان صدا و سیما فقط %68...
  • Avatar
    رضا گفته است:
    چرا باید ما تاون ندانم کاری و کم کاری بعضی ها...
  • Avatar
    حمید گفته است:
    مانیتورهای گیگابایت واقعا خوبن و حیفه که موجودیشون تو بازار کمه
  • Avatar
    علی پور عرب گفته است:
    سیتمی می خوان بخرم rtx5090 9950 رایزن ۱۹۲ گیگ رم ۶۰۰۰...
راهنمای خرید پاور بانک با بودجه‌های مختلف 1
راهنمای خرید و مشاوره
راهنمای خرید پاور بانک با بودجه‌های مختلف (تابستان 1404)
13 تیر 1404
راهنمای خرید ماوس و کیبورد 2
راهنمای خرید و مشاوره
راهنمای خرید موس و کیبورد با بودجه‌های مختلف (تیر 1404)
11 تیر 1404
راهنمای خرید لپ تاپ گیمینگ 469
راهنمای خرید و مشاوره
راهنمای خرید لپ تاپ گیمینگ با بودجه های مختلف (تیر 1404)
10 تیر 1404
راهنمای خرید مانیتور 68
راهنمای خرید و مشاوره
راهنمای خرید مانیتور با بهترین قیمت در بودجه‌های مختلف (تیر 1404)
9 تیر 1404
راهنمای خرید لپ تاپ با بودجه های مختلف 1,300
راهنمای خرید و مشاوره
راهنمای خرید لپ تاپ با بودجه های مختلف (تیر 1404)
7 تیر 1404
راهنمای خرید گوشی موبایل 491
راهنمای خرید و مشاوره هایلایت
راهنمای خرید گوشی موبایل بر اساس بودجه‌های مختلف (تیر 1404)
5 تیر 1404
  • سخت‌افزارمگ
  • درباره ما
  • تبلیغات
  • استخدام
سخت‌افزارمگ

© 2025 Sakhtafzarmag.Com. All Rights Reserved.

صفحه نخست » اخبار و مقالات » تنبیه چت‌بات‌های هوش مصنوعی برای دروغ‌ گویی چه نتیجه‌ای داشت؟

ورود

عضویت

رمزتان را گم کرده‌اید؟

عضویت | رمزتان را گم کرده‌اید؟
| بازگشت به ورود