محدودیت‌های جدید ChatGPT برای نوجوانان زیر 18 سال

مدیرعامل OpenAI، سم آلتمن، روز سه‌شنبه مجموعه‌ای از سیاست‌های جدید کاربری را اعلام کرد که شامل تغییرات قابل‌توجه در نحوه تعامل ChatGPT با کاربران زیر 18 سال است.

او در بیانیه‌ای نوشت: ما ایمنی را بر حریم خصوصی و آزادی نوجوانان اولویت می‌دهیم. این فناوری جدید و قدرتمندی است و ما معتقدیم افراد زیر سن قانونی نیازمند حفاظت جدی هستند.

تغییرات جدید به‌طور خاص به گفتگوهای مربوط به موضوعات جنسی یا خودآسیب‌رسانی مربوط می‌شود. طبق این سیاست تازه، ChatGPT دیگر اجازه نخواهد داشت با کاربران زیر سن قانونی وارد «صحبت‌های عاشقانه یا تحریک‌آمیز» شود. همچنین محدودیت‌های بیشتری پیرامون مباحث مرتبط با خودکشی اعمال خواهد شد. اگر کاربری زیر 18 سال از ChatGPT بخواهد سناریوهای خودکشی را تصور کند، این سرویس تلاش خواهد کرد تا با والدین او تماس بگیرد و در موارد شدیدتر، حتی پلیس محلی را در جریان قرار دهد.

متأسفانه این شرایط تنها فرضیه‌ای نیست. در حال حاضر OpenAI با شکایتی به اتهام «مرگ غیرقانونی» از سوی والدین آدام رین، نوجوانی که پس از ماه‌ها تعامل با چت‌جی‌پی‌تی دست به خودکشی زد، مواجه است. شرکت Character.AI نیز با شکایتی مشابه روبه‌رو شد. هرچند خطرات اصلی متوجه کاربران نوجوانی است که به خودآسیب‌رسانی فکر می‌کنند، پدیده گسترده‌تر «توهمات ناشی از چت‌بات‌ها» نگرانی‌های زیادی برانگیخته است، به‌ویژه از آن‌جا که این ابزارها اکنون قادر به گفتگوهای طولانی‌تر و جزئی‌تر با مصرف‌کنندگان شده‌اند.

ساعات خاموشی در ChatGPT

علاوه بر محدودیت‌های محتوایی، والدینی که حساب کاربری فرزند زیر 18 سال خود را ثبت می‌کنند، این امکان را خواهند داشت که «ساعات خاموشی» تعیین کنند؛ ساعاتی که در آن دسترسی به ChatGPT برای کاربر نوجوان مسدود می‌شود. چنین قابلیتی پیش‌تر وجود نداشت.

اعلام این سیاست‌های جدید همزمان با برگزاری جلسه‌ای در کمیته قضایی سنا با عنوان «بررسی آسیب‌های چت‌بات‌های هوش مصنوعی» بود. این جلسه توسط سناتور جاش هاولی (از ایالت میسوری) در ماه آگوست اعلام شده بود و پدر آدام رین نیز یکی از سخنرانان آن است.

این جلسه همچنین بر یافته‌های تحقیق خبرگزاری رویترز تمرکز خواهد داشت؛ تحقیقی که نشان می‌داد برخی اسناد سیاستی ظاهراً گفتگوهای جنسی با کاربران زیر سن قانونی را تشویق می‌کردند. پس از انتشار این گزارش، شرکت متا سیاست‌های مربوط به چت‌بات‌های خود را به‌روزرسانی کرد.

جداسازی کاربران زیر 18 سال از دیگران چالشی فنی و مهم خواهد بود. OpenAI در پستی جداگانه رویکرد خود را توضیح داد و اعلام کرد که این سرویس در حال «ایجاد یک سیستم بلندمدت برای تشخیص این است که فردی بالای 18 سال بوده یا خیر. در موارد مبهم، سیستم به‌طور پیش‌فرض قوانین سخت‌گیرانه‌تر را اجرا خواهد کرد. برای والدین نگران، مطمئن‌ترین راه برای شناسایی سن فرزندشان این است که حساب کاربری نوجوان به حساب والدین متصل شود. این اتصال همچنین به سیستم امکان می‌دهد در صورت مشاهده علائم اضطراب یا خطر، مستقیماً والدین را مطلع کند.

با این حال، آلتمن در همان پست بر تعهد OpenAI به حفظ حریم خصوصی کاربران و آزادی گسترده بزرگسالان در انتخاب نحوه تعامل با ChatGPT نیز تأکید کرد. او در پایان نوشت: ما می‌دانیم که این اصول در تضاد هستند و همه با نحوه حل این تضاد موافق نخواهند بود.