در کنفرانس گوگل مشخص شد که این شرکت با یک استاد دانشگاه هاروارد همکاری میکند تا مقیاس جدیدی را برای اندازه گیری رنگ پوست (به امید رفع مشکلات سوگیری و تنوع در محصولات این شرکت) ترویج دهد. در ادامه به توضیح روش جدید گوگل برای اندازه گیری رنگ پوست و نتایج جستجو فراگیر میپردازیم.
- تعهد گوگل مایکروسافت مبنی بر حذف استفاده از رمز عبور و جایگزینی آن
- خرید شرکت تولید نمایشگر MicroLED توسط گوگل
روش جدید گوگل برای اندازه گیری رنگ پوست
این غول فناوری با الیس مونک، استادیار جامعه شناسی در هاروارد و خالق مقیاس رنگ پوست راهبان یا MST کار میکند. مقیاس MST برای جایگزینی مقیاسهای رنگ پوست قدیمی که به سمت پوست روشنتر تمایل دارند، طراحی شده است. Monk میگوید وقتی این مقیاسهای قدیمیتر توسط شرکتهای فناوری برای طبقهبندی رنگ پوست استفاده میشود، میتواند منجر به تولید محصولاتی شود که برای افراد دارای رنگهای تیرهتر عملکرد بدتری دارند.
Monk به The Verge میگوید:
«تا زمانی که اندازهگیری کافی برای تفاوتها در رنگ پوست نداشته باشیم، نمیتوانیم واقعاً آن را در محصولات ادغام کنیم تا مطمئن شویم که فراگیرتر هستند. مقیاس رنگ پوست Monk یک مقیاس رنگ پوست 10 نقطهای است که عمداً به گونهای طراحی شده است که طیف وسیعتری از رنگهای پوست مختلف را بهویژه برای افرادی که دارای رنگ پوست تیرهتر هستند، نشان دهد و در بر بگیرد.
نمونههای زیادی از محصولات فناوری وجود دارد (به ویژه آنهایی که از هوش مصنوعی استفاده میکنند) که با رنگ پوست تیرهتر عملکرد بدتری دارند. اینها شامل برنامههایی است که برای تشخیص سرطان پوست، نرمافزار تشخیص چهره و حتی سیستمهای بینایی ماشینی مورد استفاده در خودروهای خودران طراحی شدهاند. اگرچه راههای زیادی برای برنامهریزی این نوع سوگیری در این سیستمها وجود دارد، یکی از عوامل رایج استفاده از مقیاسهای رنگ پوست قدیمی هنگام جمعآوری دادههای آموزشی است. محبوب ترین مقیاس رنگ پوست، مقیاس فیتزپاتریک است که به طور گستردهای در دانشگاهها و سیستمهای هوش مصنوعی استفاده میشود. این مقیاس در ابتدا در دهه 70 برای طبقهبندی نحوه سوختن یا برنزه شدن افراد با پوست کمرنگتر در زیر نور خورشید طراحی شد و بعداً گسترش یافت تا پوستهای تیرهتر را نیز شامل شود.
همین موضوع منجر به برخی انتقادات شده است که مقیاس فیتزپاتریک نمیتواند طیف کاملی از رنگ پوست را ثبت کند و ممکن است به این معنی باشد که وقتی نرم افزار بینایی ماشین بر روی دادههای فیتزپاتریک آموزش داده میشود، آن نیز به سمت انواع پوستهای روشنتر سوگیری میکند. مقیاس فیتزپاتریک از شش دسته تشکیل شده است، اما مقیاس MST این را به 10 رنگ پوست مختلف گسترش میدهد. مونک میگوید که این عدد بر اساس تحقیقات خودش انتخاب شده است تا بین تنوع و سهولت استفاده تعادل برقرار کند. او میگوید که برخی از مقیاسهای رنگ پوست بیش از صد دسته مختلف را ارائه میدهند، اما انتخاب بیش از حد میتواند منجر به نتایج متناقض شود.
Monk میگوید:
«معمولاً، اگر از 10 یا 12 امتیاز در این نوع مقیاسها گذشته باشید [و] از یک فرد بخواهید که مکرراً همان زنگها را انتخاب کند، هر چه بیشتر آن مقیاس را افزایش دهید، افراد کمتری میتوانند این کار را انجام دهند. . از نظر شناختی، تمایز دقیق و قابل اعتماد بسیار سخت می شود. او میگوید انتخاب 10 رنگ پوست بسیار قابل کنترلتر است.
با این حال، ایجاد یک مقیاس رنگ پوست جدید تنها اولین قدم است و چالش واقعی ادغام این کار در برنامه های کاربردی دنیای واقعی است. به منظور ترویج مقیاس MST، گوگل یک وب سایت جدید به نام skintone.google ایجاد کرده است که به توضیح تحقیقات و بهترین شیوه های استفاده از آن در هوش مصنوعی اختصاص دارد. این شرکت میگوید که در تلاش است تا مقیاس MST را برای تعدادی از محصولات خود اعمال کند. اینها شامل فیلترهای عکس «تن واقعی» آن است که برای کارکرد بهتر با رنگ پوست تیرهتر طراحی شدهاند و نتایج جستجوی تصویر آن.
به همین دلیل است که گوگل میگوید در حال معرفی ویژگی جدیدی برای جستجوی تصویر است که به کاربران امکان میدهد جستجوها را بر اساس رنگ پوست طبقه بندی شده توسط مقیاس MST اصلاح کنند. بنابراین، برای مثال، اگر «آرایش چشم» یا «آرایش لباس عروس» را جستجو کنید، میتوانید نتایج را بر اساس رنگ پوست فیلتر کنید. در آینده، این شرکت همچنین قصد دارد از مقیاس MST برای بررسی تنوع نتایج خود استفاده کند تا اگر تصاویر «نوزادان ناز» یا «پزشکان» را جستجو کنید، فقط چهرههای سفید به شما نشان داده نشوند.
رئیس محصول گوگل برای هوش مصنوعی مسئول، «یکی از کارهایی که ما انجام میدهیم این است که مجموعهای از نتایج [تصویر] را بگیریم، درک کنیم که چه زمانی آن نتایج به طور خاص در چند مجموعه از صداها همگن هستند، و تنوع نتایج را بهبود میبخشیم». تولسی دوشی، به The Verge گفت. با این حال، دوشی تاکید کرد که این بهروزرسانیها در مرحله توسعه «بسیار اولیه» هستند و هنوز در سراسر خدمات شرکت ارائه نشدهاند.
این امر نه تنها برای این تغییر خاص بلکه برای رویکرد Google برای رفع مشکلات سوگیری در محصولاتش به طور کلی باید احتیاط را به همراه داشته باشد. این شرکت در رابطه با این مسائل، تاریخچه ناهمواری دارد، و صنعت هوش مصنوعی به طور کلی تمایل دارد که دستورالعملهای اخلاقی و حفاظها را وعده دهد و سپس در ادامه با شکست مواجه شود.
برای مثال، خطای بدنام Google Photos را در نظر بگیرید که به الگوریتم جستجوی آن منجر شد که عکسهای سیاهپوستان را بهعنوان «گوریل» و «شمپانزه» برچسبگذاری کند. این اشتباه اولین بار در سال 2015 مشاهده شد، با این حال گوگل این هفته به The Verge تایید کرد که هنوز این مشکل را برطرف نکرده است بلکه به سادگی این عبارات جستجو را به کلی حذف کرده است. مایکل مارکونی، سخنگوی Google Photos به The Verge گفت:
«در حالی که ما مدلهای خود را به طور قابل توجهی بر اساس بازخورد بهبود بخشیدهایم، اما هنوز کامل نیستند. به منظور جلوگیری از این نوع اشتباهات و پوعبارات جستجو که به طور کلی باعث آسیب بیشتر می شود، غیرفعال میمانند.
معرفی این نوع تغییرات همچنین میتواند از نظر فرهنگی و سیاسی چالش برانگیز باشد که منعکس کننده مشکلات گستردهتری در نحوه ادغام این نوع فناوری در جامعه است. برای مثال، در مورد فیلتر کردن نتایج جستجوی تصویر، دوشی خاطرنشان میکند که «تنوع» ممکن است در کشورهای مختلف متفاوت به نظر برسد، و اگر شرکت گوگل نتایج تصویر را بر اساس رنگ پوست تنظیم کند، ممکن است مجبور شود این نتایج را بر اساس جغرافیا تغییر دهد. دوشی میگوید: «معنای تنوع، برای مثال، هنگامی که ما نتایج را در هند [یا] زمانی که نتایج را در بخشهای مختلف جهان نمایان میکنیم، ذاتاً متفاوت خواهد بود». لزوماً سخت است که بگوییم، “اوه، این مجموعه دقیقی از نتایج خوب است که ما میخواهیم”، زیرا این نتایج برای هر کاربر، منطقه، و درخواست متفاوت است.” معرفی یک مقیاس جدید و جامع تر برای اندازه گیری رنگ پوست یک گام رو به جلو است، اما مسائل بسیار دشوارتر مربوط به هوش مصنوعی و سوگیری باقی مانده است.
توسط 
توسط 
توسط 
دیدگاهتان را بنویسید