OpenAI واترمارکهایی را برای تصاویر تولیدشده توسط DALL-E 3 برای حفظ شفافیت در مورد منبع و احترام به اصالت معرفی کرده است. این شرکت اکنون درحال توسعه ابزار جدیدی است که میتواند تصاویر واقعی را از تصاویری که توسط مدل هوش مصنوعی شرکت DALL-E تولید میشود، تشخیص دهد.
قابلیتهای ابزارهای تولید تصویر مبتنیبر هوش مصنوعی به مرحلهای رسیده است که افراد میتوانند آنها را با تصاویر غیرمعمول یا معتبر اشتباه بگیرند. این امر نگرانی را در مورد سوءاستفاده احتمالی ایجاد میکند.
وبلاگ رسمی OpenAI این اطلاعیه را منتشر کرد و اظهار داشت که آنها درحال کار برروی روشهای جدیدی برای شناسایی محتوای تولیدشده توسط هوش مصنوعی هستند. به گفته این شرکت، هدف کمک به محققان در مطالعه اصالت محتوا و پیوستن به کمیته راهبری منشأ و اصالت محتوا (C2PA) است که استانداردی پرکاربرد برای صدور گواهینامه محتوای دیجیتال محسوب میشود. این کار به سازندگان اجازه میدهد تا محتوای خود را برچسبگذاری و تأیید کرده تا منشأ واقعی آن را اثبات کنند.
OpenAI میگوید که آنها ابرداده C2PA را برای Sora، مدل تولید ویدیوی این شرکت، در صورت عرضه گسترده، یکپارچه خواهند کرد. برای کسانی که اطلاع ندارند، Sora احتمالاً یک ابزار پریمیوم تبدیل متن به ویدیو خواهد بود؛ مانند DALL-E 3، که فقط مشترکین پولی میتوانند به آن دسترسی داشته باشند. طبق گزارش قبلی، Sora تا سال 2024 دردسترس عموم قرار خواهد گرفت.
همانطور که در بالا ذکر شد، OpenAI در حال کار برروی ابزار جدیدی است که از هوش مصنوعی برای شناسایی تصاویر تولیدشده توسط DALL-E 3 استفاده میکند. این ابزار بهطور خاص، احتمال تولید تصویر توسط ابزار را پیشبینی میکند. به گفته شرکت، پس از فشردهشدن تصویر، تغییر اشباع یا حتی برش تصویر، همچنان میتوان تصویر را شناسایی کرد. ناگفته نماند هدف این ابزارها مقاومت بیشتر دربرابر تلاش برای حذف سیگنالهای مربوط به منبع محتوا است.
دقت ابزار تشخیص برای تصاویر ایجادشده با DALL-E به 98 درصد میرسد و مهمتر از آن، تصاویر معمولی را بهعنوان تولیدشده توسط هوش مصنوعی علامتگذاری نمیکند.
این شرکت قبلاً برنامههایی را برای دسترسی به ابزار جدید تشخیص تصویر برای اولین گروه آزمایشکننده خود آغاز کرده است. این برنامهها شامل آزمایشگاههای تحقیقاتی و سازمانهای غیرانتفاعی روزنامهنگاری پژوهش محور است و هدف آن جمعآوری بازخورد از طریق برنامه Researcher Access Program است.
دیدگاهتان را بنویسید