محدود سازی نامحسوس؛ Shadow Banning چیست و چه اهمیتی برای فضای مجازی دارد؟

عموم سیاستمداران عادت دارند زمانی که قادر به توجیه پدیده ای نیستند در صدد تخریب یا تغییر هویت آن برآیند. فضای شبکه های اجتماعی چندان به نفع سیاستمداران عاشق تک صدایی مانند دونالد ترامپ، رئیس جمهور ایالات متحده، نیست و همین امر تلاش های او و دستیارانش را برای تحت تسلط درآوردن این فضای دور از دسترس قابل درک می کند. چندی پیش ترامپ شبکه اجتماعی توییتر را به حذف تدریجی و بی سر و صدای کاربرانی که از نظر سیاسی به جمهوری خواهان متمایل هستند متهم کرد. این ادعا زمانی رخ داد که شبکه خبری Vice News در گزارشی اعلام کرد کاربران و حساب های کاربری جمهوری خواه به صورت پیش فرض در بخش جست و جوی توییتر نمایش داده نمی شوند. ترامپ برای این اتفاق از عبارت Shadow Banning استفاده کرد. عبارتی که در زبان فارسی معادلی ندارد و می توان آن را “محدود سازی نامحسوس” در نظر گرفت. اما Shadow Banning چیست و چه اهمیتی برای فضای مجازی دارد؟

در مورد ترامپ و ادعایش، توییتر بروز این اتفاق را تکذیب کرد و آن را ناشی از یک حفره نرم افزاری دانست. در بیانیه ای که توییتر در این خصوص منتشر کرد آمده بود: “ما از اینکه بعضی از حساب های کاربری به صورت خودکار در بخش جست و جو نمایش داده نمی شوند اطلاع داریم و تلاش می کنیم این مشکل را حل کنیم. از نظر توییتر این حساب ها می بایست در بخش جست و جو نمایش داده شوند و هیچ قضاوتی درباره رفتار و نظرات سیاسی و ماهیت توییت ها صورت نمی گیرد”. اما این تنها مرتبه ای نبود که شبکه های اجتماعی به دستکاری آنچه به عنوان نتیجه جست و جو نمایش داده می شود متهم می شدند. پیش از این در ماه های جولای و آپریل 2018 هم کمیته قضایی مجلس نمایندگان آمریکا با توجه به درخواست تعدادی از آنها سخنگویانی از شرکت های توییتر، فیسبوک و گوگل را برای ادای توضیحات در همین خصوص دعوت کرده بود. سناتور تد کروز، نماینده تگزاس، در جلسه ای دیگر در ماه ژانویه از کارلوس مونژه، مدیر سیاست گذاری توییتر، درباره استفاده هدفمند این شبکه اجتماعی از “محدودسازی نامحسوس” پرسیده بود. اما نه تنها در این جلسه، بلکه در تعداد پرشمار دیگری از جلساتی با مضامین مشابه هم توییتر بروز چنین اتفاقی را رد کرده بود. آخرین آنها جلسه ای در هجدهم جولای 2018 بود که مدیر ارشد سیاست گذاری توییتر، نیک پیکلز، در توضیحاتی عنوان کرد “برخی اعتقاد دارند شرایط فعلی به صورت هدفمند برای ساکت کردن صدای یکی از طرفین در مجادله های کلامی صورت می گیرد. اما کمیته نمایندگان باید مطلع باشد که چنین اتفاقی از اساس وجود نداشته و همه ادعاها درباره آن به شدت تکذیب می شوند”.

Shadow banning چیست؟

“محدودسازی نامحسوس” مفهوم جدیدی نیست. معمولا از این روش در فروم ها و برخی شبکه های اجتماعی به عنوان جایگزینی برای مسدود کردن حساب های کاربری مشکل ساز استفاده می شود. در واقع با استفاده از Shadow banning به جای آنکه دسترسی یک کاربر به دلیل فعالیت ناصحیح (اعم از پست ها و مطالب خارج از چهارچوب قوانین وب سایت یا فروم) به حساب کاربری به کلی مسدود شود، پست ها و کامنت های او تنها برای خودش به نمایش در می آید و سایر کاربران آنها را مشاهده نمی کنند. هدف از این کار حفاظت محیط کاربری از محتواهای آزار دهنده به گونه ای است که فرد خاطی به تدریج به دلیل عدم مشارکت کاربران در پست ها و محتواهای منتشر شده توسط او محیط را ترک کند. در واقع اینگونه تصور می شود که مسدود کردن علنی دسترسی یک کاربر به حساب کاربری باعث می شود او از اقدام مدیران وب سایت یا شبکه اجتماعی درباره عملکردش آگاه شده و تلاش کند به گونه ای متفاوت (برای مثال با ساخت حساب کاربری جدید) بار دیگر محتوای مورد نظر خود را در شبکه منتشر کند. پیش از این تنها شبکه اجتماعی مطرحی که از این روش برای بهبود محیط کاربری خود استفاده می کرد Reddit بود که تا پایان سال 2015 از Shadow banning کمک می گرفت.

فیسبوک نیز از روش مشابهی برای مقابله با انتشار اطلاعات نادرست استفاده می کند. اواسط سال گذشته بود که فیسبوک به رسانه ها اعلام کرد به جای مسدود کردن یک صفحه که به انتشار اخبار نادرست می پردازد، پست های آنها را محو یا به اصطلاح demote خواهد کرد تا افراد کمتری آنها را مشاهده کنند. زاک آلن، مدیر امنیت شبکه های اجتماعی در شرکت ZeroFOX در توضیح این روش آن را “فعالیتی موثر برای مقابله با روبات ها، بات ها و ترول ها” می داند.

آیا توییتر به Shadow Banning روی آورده است؟

به صورت خلاصه پاسخ منفی است. حتی اگر به حساب کاربری افرادی که در گزارش وب سایت خبری Vice News به آنها اشاره شده بود هم مراجعه کنید می توانید پست های آنها را مشاهده کرده و به راحتی همین نتیجه گیری را به دست آورید. در حقیقت اگر حساب کاربری شما در بخش جست و جوی توییتر نمایش داده نمی شود دلیلی بر اینکه توییتر در حال محو کردن شما از این پلتفرم است نخواهد بود. آن طور که توییتر اعلام کرده، آنها ترجیح می دهند این شبکه اجتماعی تا حد ممکن محلی برای نمایش نظرات گوناگون باقی بماند. کیوان بیک پور، مدیر محصولات توییتر، در پستی که در حساب کاربری رسمی خود در توییتر در همین زمینه منتشر کرده به توضیح حفره نرم افزاری مورد اشاره ای پرداخته که باعث می شود برخی از کاربران تصور کنند به صورت نامحسوس در حال محو شدن از این شبکه اجتماعی هستند:

“ما در ماه می سال گذشته شروع به استفاده از سیگنال های رفتاری و یادگیری ماشینی کردیم تا کاربرانی را که به آلوده کردن محتواهای منتشر شده در توییتر می پردازند شناسایی کنیم. این الگوریتم ها رفتارهای کلی هر حساب کاربری و تعاملاتش با سایر کاربران را زیر نظر گر فته و مواردی را که در حال نقض قوانین و سیاست های این شبکه اجتماعی هستند مشخص می کند.”

ظاهرا همین الگوریتم ها باعث ایجاد مشکل برای توییتر شده اند. به گفته بیک پور استفاده از سیگنال های رفتاری باعث نمایش گزینشی محتواها در بخش جست و جو شده است و از همان زمان تلاش برای رفع این ایراد از سوی تیم های فنی و پشتیبانی توییتر هم آغاز شده و ادامه دارد. دیوید گاسکا، مدیر بخش تامین سلامت پلتفرم توییتر، در مصاحبه ای با CNET درباره الگوریتم های سیگنال های رفتاری توضیحاتی ارائه کرد. به گفته او برای مثال این الگوریتم ها می توانند متغیرهایی مانند تعداد دفعاتی که یک حساب کاربری توسط سایرین بی صدا (Mute)، گزارش (Report)، ریتوییت، لایک و یا پاسخ داده شده را در نظر بگیرند. هوش مصنوعی مورد استفاده توییتر با در نظر گرفتن مجموع پارامترهای خود یک حساب کاربری را به دو دسته مثبت و منفی تقسیم خواهد کرد تا در نهایت برای داشتن محیطی امن تر و مطمئن تر، حساب های کاربری که مثبت طبقه بندی شده اند بیشتر در بخش جست و جوها بیشتر در معرض دید قرار گیرند و در عین حال امکان بیان همه نظرات مختلف هم برای کاربران فراهم شود.

در نهایت باید این پرسش را مطرح کرد که آیا استفاده از هوش مصنوعی توانسته باعث بهبود فضای شبکه های اجتماعی بزرگی مانند توییتر شود یا هنوز هم انسان ها می توانند با فریب دادن همه الگوریتم ها، آنچه مد نظر دارند را به هر شکل ممکن در معرض دید بینندگان قرار دهند؟