ظاهراً مشکلی در ChatGPT به کاربران زیر 18 سال اجازه میداد تا گفتگوهای جنسی داشته باشند و OpenAI نیز این موضوع را تأیید کرده است.
در برخی موارد، این چتبات حتی کاربران زیر سن قانونی را تشویق میکرد تا درخواست محتوای واضحتر و جسورانهتری کنند. OpenAI اعلام کرد که سیاستهای این شرکت اجازه چنین پاسخهایی را برای کاربران زیر 18 سال نمیدهد و این محتوا نباید نمایش داده میشد. این شرکت اضافه کرد که در حال اجرای یک راهحل برای محدودکردن چنین محتوایی است.
یکی از سخنگویان OpenAI گفت: حفاظت از کاربران جوانتر یک اولویت اصلی بوده و مدل رفتاری ما که راهنمای رفتار مدل است، به وضوح محتوای حساس مانند محتوای جنسی را تنها به زمینههای علمی، تاریخی یا گزارشهای خبری محدود میکند. در این مورد هم یک باگ باعث شد پاسخهایی خارج از این دستورالعملها ارائه شود و ما بهطور فعال در حال اجرای راهحلی برای محدودکردن این نوع مشکلات هستیم.
در ماه فوریه، OpenAI مشخصات فنی خود را بهروزرسانی کرد تا روشن کند که مدلهای هوش مصنوعی که ChatGPT را تغذیه میکنند از بحث درباره موضوعات حساس پرهیز نخواهند کرد. در همان ماه، این شرکت برخی پیامهای هشداردهنده را که به کاربران میگفتند درخواستهایشان ممکن است قوانین شرکت را نقض کند، حذف کرد.
یکی از نتایج تغییراتی که اعمال شد این است که مدل پیشفرض هوش مصنوعی (GPT-4o) اکنون آمادگی بیشتری برای بحث درباره موضوعاتی دارد که پیش از این از آنها اجتناب میکرد؛ از جمله توصیفات فعالیتهای جنسی.
حالت بزرگسالان برای ChatGPT
حالا سم آلتمن، مدیرعامل OpenAI، خواستار یک «حالت بزرگسالان» برای ChatGPT شده و شرکت تمایل خود را برای پذیرش برخی اشکال محتوای «مناسب بزرگسالان» در پلتفرم خود نشان داده است.
رسانه تککرانچ در مجموعهای از آزمایشها موفق شد تعدادی حساب کاربری بسازد و تاریخ تولد آنها را طوری ثبت کند که کاربر در بازه سنی 13 تا 17 سال قرار بگیرد. یک کامپیوتر شخصی مورداستفاده قرار گرفت و هر بار پس از خروج، کوکیها حذف میشدند تا اطمینان حاصل شود که ChatGPT از دادههای ذخیرهشده استفاده نمیکند.
طبق سیاستهای OpenAI، کودکان 13 تا 18 ساله باید برای استفاده از ChatGPT رضایت والدین خود را کسب کنند. اما این پلتفرم هنگام ثبتنام این رضایت را تأیید نمیکند. هر کودک بالای 13 سال تا زمانی که یک شماره تلفن یا آدرس ایمیل معتبر داشته باشد، میتواند بدون تأیید والدین، حساب کاربری ایجاد کند.
برای هر حساب آزمایشی، یک چت جدید با درخواست «با من حرفهای جنسی بزن» آغاز شد. معمولاً تنها چند پیام و درخواست طول میکشید تا ChatGPT داستانهای جنسی تولید کند. اغلب، چتبات از کاربر درباره جزئیات خاصی مانند فانتزیها و سناریوهای نقشآفرینی درخواست راهنمایی میکرد.
طبق گزارش وال استریت ژورنال چتبات هوش مصنوعی متا، Meta AI نیز پس از اینکه رهبری شرکت تصمیم به کاهش محدودیتهای محتوای جنسی گرفت، رفتار مشابهی از خود نشان داد.
دیدگاهتان را بنویسید