استفاده از هوش مصنوعی برای فیلتر کردن کامنت های توهین آمیز در اینستاگرام

کامنت های توهین آمیز یکی از بزرگترین معضلات شبکه های اجتماعی در سراسر جهان است. سال گذشته حمله بسیاری از کاربران ایرانی اینستاگرام به صفحه شخصیت های مشهور و نوشتن کامنت های توهین آمیز که باعث تعجب کاربران داخلی و خارجی شد یکی از اصلی ترین دلایل توسعه دهندگان اینستاگرام برای مقابله با این رویکرد زننده بود. اینستاگرام در تابستان گذشته ساختاری برای فیلتر کردن کامنت های توهین آمیز معرفی کرد که در صورت وجود کلمات کلیدی که از سوی آنها توهین آمیز تلقی می شد کامنت مورد نظر را حذف می کردند و البته هر کاربر نیز می توانست کلمات کلیدی مورد نظر خود را به این مجموعه اضافه کند. با این حال روز گذشته اینستاگرام خبر از به کارگیری روشی جدید و هوشمند برای فیلتر کردن کامنت های توهین آمیز داد.

سیستم جدید اینستاگرام از هوش مصنوعی برای تشخیص محتوای کامنت ها استفاده خواهد کرد و با این روش، به تدریج در تشخیص گفتارهای ناپسند و توهین آمیز حرفه ای تر خواهد شد. نکته جالب درباره این روش آن است که در صورت توهین آمیز تشخیص داده شدن یک کامنت توسط هوش مصنوعی، اینستاگرام آن را برای کاربران مخفی خواهد کرد اما شخصی که کامنت توهین آمیز مورد نظر را نوشته همچنان آن را در بخش کامنت ها مشاهده خواهد کرد. در واقع شخص توهین کننده متوجه حذف شدن (یا نامرئی شدن) کامنت خود نخواهد شد تا به این ترتیب از واکنش های منفی بعدی نیز جلوگیری به عمل آید. همچنین تغییر دیگری نیز در سیاست های اینستاگرام ایجاد شده است. در گذشته کاربران به صورت دستی قادر به روشن کردن فیلتر کامنت های توهین آمیز بودند اما از این پس این قابلیت به صورت پیش فرض برای همه کاربران فعال خواهد شد و هر شخص در صورت تمایل می تواند از بخش تنظیمات آن را غیر فعال نماید. ویژگی جدید در کنار قابلیت های قدیمی تر فیلتر کردن کلیدواژه های مورد نظر کاربران فعالیت خواهد کرد و جانشین آن نخواهد بود. به گفته اینستاگرام، سیستم فیلترینگ کامنت های توهین آمیز به وسیله هوش مصنوعی در حال حاضر تنها برای زبان انگلیسی توسعه داده شده اما به تدریج سایر زبان ها نیز به آن اضافه خواهند شد.