اتان کوهن، نوجوانی که مشتاقانه در دوران دبیرستان به اینستاگرام پیوسته بود، سعی می‌کرد با خنده با این تجربه کنار بیاید. او روزی همکلاسی‌هایش را در حال خندیدن به یک حساب اینستاگرامی دید. شخصی (که هنوز هویتش مشخص نیست) عکس‌های محرمانه‌ای از او گرفته بود و تصاویر را در یک حساب کاربری به نام ethan_cohens_neck_vein پست کرده بود.
محتوای پست‌ها به برجستگی رگ‌های گردن او اختصاص یافته بود. دریکی از پست‌ها رگ‌های گردن او به دیوار بزرگ چین تشبیه شده بود. پست دیگری نشان می‌داد که می‌توان با اندازه‌ی گردن او دستگاه معادلات را ثابت کرد. او در مقابل دوستانش این پست‌ها را شوخی‌های احمقانه توصیف می‌کرد ولی در تنهایی خود دچار استرس شده بود. به نظر می‌رسد شخصی او را تعقیب کرده بود و تصاویر تمسخرآمیز را پست کرده بود.
کوهن که حالا هجده‌ساله است، می‌گوید: «گمنامی آن شخص برایم عجیب بود». او چند مرتبه اکانت را در اینستاگرام گزارش داد؛ اما هیچ اتفاقی نیفتاد، این در حالی است که براساس راهبردهای نظارتی اینستاگرام، تمسخر ظاهر فیزیکی افراد ممنوع است.
به‌گفته‌ی اینستاگرام امروزه نظارت شکل متفاوتی به خود گرفته است. ابزار گزارش‌گیری و ناظرهای پیچیده‌تری وجود دارند که به‌سرعت چنین حساب‌هایی را غیرفعال می‌کنند؛ و در آینده‌ای نزدیک این شرکت هدف بلندپروازانه‌تری را در پیش دارد: جلوگیری از آزار و اذیت کاربرانی مانند کوهن با ابزار هوش مصنوعی و ریشه‌یابی رفتارهای غلطی مثل فحاشی، تحقیر و بی‌احترامی.
امروزه شبکه‌های اجتماعی به دلیل مجموعه‌ی وسیعی از مشکلات مورد سرزنش قرار می‌گیرند (و تحت‌فشار دولت‌ها برای سیاست‌گذاری قرار دارند)؛ ازاین‌رو اینستاگرام جنگ با آزار و اذیت‌ها را شروع کرده است. به‌گفته‌ی سرپرست اینستاگرام آدام موسری: «امروزه در لحظه‌ی حساسی قرار داریم که می‌خواهیم پیشتاز چنین نبردی باشیم»
آدام موسری، مدیر شبکه‌ی اجتماعی اینستاگرام
با این گام منطقی، اینستاگرام به پلتفرمی مناسب جوانان تبدیل می‌شود. ازآنجاکه وابستگی نوجوان‌ها به این برنامه زیاد است، آزار و اذیت روی اینستاگرام مانند اخبار جعلی برای فیسبوک و توییت‌های مخرب برای توییتر محسوب می‌شود و به بیماری لاعلاجی تبدیل شده است که کاربرها مجبورند آن را تحمل کنند. براساس یک تخمین، تقریبا ۸۰ درصد از نوجوانان در اینستاگرام فعالیت دارند و تاکنون بیش از نیمی از آن‌ها مورد آزار و اذیت قرار گرفته‌اند.
گاهی شدت برخی آزارها بسیار زیاد است. کوهن به دلیل همین آزارها در دبیرستان مورد تمسخر قرار گرفت. کاربرها معمولا از تحقیر و تهدید به خشونت رنج می‌برند. در سطح وسیع‌تر آزار و اذیت سایت‌هایی مانند اینستاگرام در دسته‌ی رفتارهای خودویرانگر قرار می‌گیرد.
مدیران اجرایی اینستاگرام همان‌قدر که در جهت جذب کاربرهای متعدد به این پلتفرم تلاش می‌کنند، از طرفی هم معتقدند هر قابلیت جدید این برنامه می‌تواند زمینه‌ای برای سوء‌استفاده فراهم کند. کارینا نیوتون، سرپرست سیاست‌گذاری عمومی اینستاگرام می‌گوید: «استعداد نوجوان‌ها در چنین فعالیت‌هایی استثنایی است.»شری باومن، استاد مشاور دانشگاه آریزونا که سال‌های زیادی را صرف بررسی علت‌ها و آثار آزار و اذیت کرده، اینستاگرام را به فروشگاهی برای انواع آزار و اذیت‌ها تشبیه میکند زیرا تقریبا تمام پیش‌نیازها برای فعالیت‌های مخرب در آن مهیا است: مخاطب، هویت مجهول، تأکید بر ظواهر، کانال‌هایی شامل محتوای عمومی تا گروه‌های چت بدگویی.
موسری به‌تازگی به اینستاگرام پیوسته است. پس‌ازآنکه در سال گذشته، بنیانگذاران اینستاگرام کاملا ناگهانی از این شرکت جدا شدند (دلیل آن تنش‌هایی بین اینستاگرام و شرکت والد آن فیسبوک بود) این کارمند کهنه‌کار فیسبوک از مهارت‌های مدیریت بحران و تجربیات خود در نظارت بر اخبار فیسبوک برای بحران اینستاگرام هم استفاده کرد. هدف موسری ۳۶ ساله، آغاز عصری جدید برای اینستاگرام است که در آن سلامت کاربران در اولویت قرار دارد.
رفع آزار و اذیت در اینستاگرام به یک دستور جلسه تبدیل شده است. موسری مهندسان و طراحانی را مأمور ریشه‌یابی آزارها کرده است. تیم او وظایفی مثل پژوهش‌های گسترده، پیاده‌سازی قابلیت‌های جدید و تغییر پروتکل این شرکت را بر عهده دارند؛ تمام این کارها با هدف جلوگیری از آزار و اذیت اجرا می‌شوند.
اما این مبارزه با موانع و احتمال آسیب‌های متعددی همراه است. نظارت سخت‌گیرانه بر آزار و اذیت‌ها و قوانین محدودکننده می‌تواند منجر به فرار کاربرها از این پلتفرم شود و به آن‌ها حس دخالت را القا کند؛ این در حالی است که اینستاگرام یکی از نقاط درخشان رشد برای فیسبوک است. از طرفی اگر اینستاگرام با وجود وعده‌هایش در مورد استانداردهای جدید، نظارت کافی را نداشته باشد، متهم به اولویت‌دهی منافع خود بر محافظت از کودکان می‌شود.
بنابراین اینستاگرام مسیر دشواری را در پیش دارد. ساخت هوش مصنوعی با هدف مبارزه با آزار و اذیت به‌معنی آموزش ماشین و مهارت آن در یک مسئله‌ی رو به تکامل با جزئیات پیچیده است. از طرفی اینستاگرام باید نسبت به مسائل آزادی بیان آگاه باشد زیرا ابزارها فعلا قدرت تشخیص جامعی ندارند. موسری می‌گوید:
من نگران عدم دقت نیستم، ما باید قدم را از حد خود فراتر بگذاریم؛ حتی اگر تصمیم‌های ما برای افزایش امنیت به‌معنی استفاده‌ی کمتر از اینستاگرام باشد.
از طرفی فیسبوک از هر ساعت حضور افراد در اینستاگرام سود می‌برد؛ بنابراین اگر معیارهای امنیتی و محدودیت‌ها باعث فرار کاربرها شوند، درآمد و سود بالقوه را هم همراه‌با خود خواهند برد. وقتی از موسری پرسیده شد آیا جلوگیری از آزار و اذیت ازنظر مالی به سود شرکت است، پاسخ داد:
اگر اینستاگرام مانع از آزارها نشود، نه‌تنها در سطح اخلاقی کاربرها را از دست خواهد داد بلکه کسب‌وکارها هم از آن روی برمی‌گردانند. این کار می‌تواند به‌مرورزمان به وجهه و برند ما آسیب بزند. می‌تواند روابط شراکتی ما را دشوارتر کند. درنتیجه فشار بر ما افزایش پیدا میکند. اگر مشکلات این پلتفرم حل نشوند، هزینه‌ی بالایی را به آن تحمیل خواهد کرد.
اینستاگرام در سال ۲۰۱۰ توسط دو جوان بیست‌وچندساله به نام‌های کوین سیستروم و مایک کریگر ساله راه‌اندازی شد. آن‌ها امیدوار بودند کاربران با دانلود این اپلیکیشن اشتراک‌گذاری تصویر، زندگی خود را زیباتر کنند. دو جوان به نتیجه هم رسیدند. در طول یک سال، بیش از ۵۰۰ هزار نفر هر هفته در این اپلیکیشن ثبت‌نام کردند؛ اما به‌سرعت مشخص شد بسیاری از افراد هم با اهداف بد از این برنامه استفاده می‌کنند و روزانه زمان زیادی صرف حذف کامنت‌های زشت و مسدود ساختن محتوای تمسخرآمیز می‌شود.
زمانی‌که این دو بنیان‌گذار، اینستاگرام را ترک کردند، بیش از یک میلیارد کاربر در آن ثبت‌نام کرده بودند. بدیهی است که نظارت بر این تعداد کاربر بسیار دشوار است؛ بنابراین، اینستاگرام هم مانند پلتفرم‌های دیگری برای کشف محتوای ممنوعه ازجمله پروپاگاندای تروریستی تا محتوای پورنوگرافی باید به ماشین‌ها روی می‌آورد.
بنیانگذاران اینستاگرام با هدف تبدیل این پلتفرم به محیطی لطیف‌تر و مهربان‌تر، ابزار هوش مصنوعی DeepTextرا از فیسبوک قرض گرفتند. این اپلیکیشن برای درک و تفسیر زبان کاربرهای مختلف طراحی شده بود. مهندسان اینستاگرام اولین‌بار در سال ۲۰۱۶ و برای جستجوی اسپم‌ها از این ابزار استفاده کردند.
سال بعد، این ابزار را برای یافتن و مسدود کردن کامنت‌های توهین‌آمیز ازجمله کامنت‌های نژادپرستانه آموزش دادند. تا اواسط سال ۲۰۱۸، از آن برای یافتن آزار و اذیت در کامنت‌ها هم استفاده کردند. یک هفته بعد از این تصمیم، موسری به اینستاگرام پیوست و اعلام کرد نه‌تنها از هوش مصنوعی برای جستجوی آزار و اذیت کاربرها زیر پست‌ها استفاده میکند، بلکه از آن برای تشخیص آزار و اذیت در تصاویر هم استفاده خواهد کرد؛ درنتیجه هوش مصنوعی به تحلیل پست‌ها هم می‌پردازد. البته این کار در حرف آسانتر از عمل است.
آدام موسری در کنفرانس F8 توسعه‌دهندگان فیسبوک، سن خوزه، کالیفرنیا، ۳۰ آوریل ۲۰۱۹
مهندسان برای آموزش وظایف به ماشین، در ابتدا مجموعه‌های آموزشی را می‌سازند که به ماشین در درک قوانین کمک می‌کنند. در مورد اینستاگرام، در ابتدا ناظران انسانی به بررسی صدها یا هزاران محتوا می‌پردازند و محتوای آزاردهنده را تفکیک می‌کنند. سپس آن‌ها را برچسب‌گذاری می‌کنند و نمونه‌ها را به بخشی موسوم به دسته‌بند یا classifier می‌دهند.
این بخش مثل یک سگ پلیس فوق طبیعی اطلاعات را جذب میکند. البته، دسته‌بند صرفا با یادگیری این نمونه‌ها نمی‌تواند تمام برخوردها را تشخیص دهد؛ اما می‌تواند با پرچم‌گذاری محتوا (و البته ارزیابی ناظران انسانی درمورد صحت تشخیص) نمونه‌های بیشتری را یاد بگیرد. از طرفی عملکرد آن به کمک مهندسان و تغییر عادت‌های مطالعه به‌مرور بهبود پیدا خواهد کرد.
امروزه، سه دسته‌بند مجزا برای نظارت بر محتوای اینستاگرام وجود دارد: تحلیل متن، تحلیل تصاویر و تحلیل ویدئوها. این دسته‌بندها در زمان واقعی فعالیت می‌کنند و به‌صورت ساعتی محتوا را پرچم‌گذاری می‌کنند. به‌گفته‌ی یوآف شاپیرا، مهندس ارشد اینستاگرام، این دسته‌بندها هنوز آمادگی کامل را ندارند. به‌بیان‌دیگر، بسیاری از آزار و اذیت‌ها را تشخیص نمی‌دهند یا نادرست تشخیص می‌دهند. مأموریت تیم او، تغییر این روند است.
این نوع تحلیل از آموزش ماشین برای یافتن محتوایی مثل برهنگی دشوارتر است. زیرا ماشین به‌راحتی می‌تواند تشخیص دهد شخصی شلوار نپوشیده اما تشخیص طیف وسیعی از رفتارهای آزاردهنده کار دشواری است. نتایج پژوهش‌های آزار و اذیت سایبر در میان مردم بین ۵ درصد (کمترین نرخ) تا ۷۲ درصد (بیشترین نرخ) متفاوت است؛ یکی از دلایل این ناهمگونی هم، نبود تعریفی دقیق برای آزار و اذیت سایبری است. به‌گفته‌ی نیوتون، سرپرست سیاست‌گذاری عمومی اینستاگرام، جلوگیری از آزار و اذیت‌ها از این جهت دشوار است که هر شخصی تعریف متفاوتی از آن دارد؛ و مهندسان برای ایجاد یک مجموعه‌ی یکپارچه‌ی یادگیری به درک شفافی از آن نیاز دارند.
کامنت‌های مغرضانه، فحاشی و تهدید از متداول‌ترین انواع آزار و اذیت در اینستاگرام هستند
شکل‌های آزار و اذیت در اینستاگرام به‌مرورزمان تغییر یافته‌اند. بسیاری از آزارها در دسته‌ی آزارهای منسوخ قرار می‌گیرند. براساس پژوهش اینستاگرام، کامنت‌های مغرضانه، فحاشی و تهدید از متداول‌ترین انواع آزار و اذیت هستند. کشف بسیاری از آن‌ها کار ساده‌ای است.
برای مثال، دسته‌بند متنی اینستاگرام به‌خوبی برای یافتن رشته کلماتی انگلیسی حاوی «ugly» یا «slag» آموزش دیده است؛ اما فرهنگ اصطلاحات عامیانه به‌مرورزمان به‌ویژه در میان نسل جوان تغییر میکند؛ و کشف رفتارهای خشونت‌آمیز مستلزم درک کامل جملات است نه صرفا کلماتی که در آن‌ها قرار دارند. برای مثال تفاوت این دو جمله را در نظر بگیرید: «من درنهایت پیروز می‌شوم» و «اهمیتی ندارد تو چه بگویی، من درنهایت پیروز می‌شوم».
کاربران هم گاهی قربانی آزارهایی می‌شوند که فراتر از کلمات هستند. در اینستاگرام صفحاتی موسوم به hate page یا صفحه‌ی نفرت وجود دارد؛ حساب‌های بی‌نامی که به جعل هویت یا تمسخر افراد می‌پردازند. برای مثال ممکن است کاربری با هدف تمسخر شخصی دیگر، تعداد زیادی از دوستان خود را در یک پست تگ کند. یا ممکن است افرادی از تصویر شخصی اسکرین‌شات بگیرند، آن را تغییر دهند و بازنشر کنند یا در یک گروه چت به تمسخر او بپردازند.
تماس‌های تکراری، مثل قرار دادن چند ایموجی یکسان زیر تمام عکس‌ها را می‌توان نوعی از مزاحمت تفسیر کرد. بسیاری از تصاویر یا ویدئوهای شرم‌آور نوجوان‌ها بدون رضایت خود آن‌ها پخش می‌شود یا گاهی تصاویر آن‌ها در صفحات رأی‌گیری دیده می‌شود (درست مانند رتبه‌بندی‌های مارک زاکربرگ که در دوران دانشجویی خود و قبل از ساخت فیسبوک در سایتی به نام Facemash ساخته بود).
اینستاگرام به امید درک بهتر انواع آزار و اذیت و در جهت توسعه‌ی هوش مصنوعی کارآمد در مقابل چشم تعداد زیادی ناظر به بررسی هزاران کاربر پرداخت (واکنش ناظران، به اینستاگرام در ارزیابی آزار و اذیت‌ها کمک میکند. داده‌های این بررسی برای اولین‌بار در سال جاری در اختیار عموم قرار می‌گیرند).
نیوتون، یکی از مدیران اینستاگرام است که تعریف آزار و اذیت را به ستوه آوردن و تحقیر کاربر می‌داند اما شاپیرا و تیمش آزارها را به هفت زیرگروه عمده تقسیم کرده‌اند: فحاشی، تحقیر، تهدید، حملات هویتی، بی‌احترامی، تماس ناخواسته و افشاء حریم خصوصی. هدف بزرگ آن‌ها ساخت شکلی از هوش مصنوعی است که برای درک هر مفهومی آماده باشد. به‌گفته‌ی شاپیرا: «این فرایند از دیدگاه مهندسی بسیار پرهزینه است؛ اما عملکرد آن در حل مشکلات بهتر است».
ازآنجاکه آزار و اذیت وابسته به شواهد است (برای مثال ممکن است اشخاصی با هم شوخی کنند که یکدیگر را می‌شناسند)، مهندسان اینستاگرام به‌دنبال روش‌هایی برای تفکیک رفتارهای خوب و بد هستند. برای مثال در صورتی می‌توان کلمه‌ی ho را در گروه کلمات آزاردهنده قرار داد که مردی در خطاب به زنی بگوید اما وقتی زنی در خطاب به دوستش این کلمه را به کار می‌برد، آزاردهنده به شمار نمی‌رود.
به‌طور مشابه، اگر شخصی یک مرتبه بگوید «عکس زیبایی است»، می‌توان کامنت را در گروه تعریف دسته‌بندی کرد؛ اما اگر این جمله را برای تمام تصاویر مخاطب به کار برود، مشکوک به نظر می‌رسد. مهندسان در حال جمع‌آوری سیگنال‌هایی هستند که به آشکارسازی روابط کمک می‌کنند؛ برای مثال آیا دو حساب کاربری یکدیگر را زیاد تگ می‌کنند؟ آیا هرگز یکدیگر را بلاک کرده‌اند؟ نام کاربری مشابه نام کاربری است که قبلا از اینستاگرام اخراج شده است؟ آیا عبارت‌های هماهنگی مثل «به @someoneshandle بروید و این تصویر را اسپم کنید» دیده می‌شود؟
مهارت دسته‌بندها در تصاویر و ویدئوها کمتر است. مهندسان و ناظران در تحلیل گزارش‌های افراد هنوز به الگوهای جدیدی برمی‌خورند؛ از طرفی پست‌های راهنما یا مشابه هم وجود دارند که به تشخیص کمک می‌کنند. برای مثال، صفحات نمایش دوقسمتی اغلب می‌توانند نشانی از آزار و اذیت باشند؛ به‌ویژه اگر ماشین تشخیص دهد یک سمت تصویر انسان و سمت دیگر آن حیوان است.
گاهی هم استفاده از فیلترها می‌تواند منجر به گمراهی دسته‌بند شود. گرچه افراد معمولا تمایل به زیباسازی کارهای زشت خود ندارند. ناظرها در حال یادگیری و درک معیارهایی مثل حالت بدن هستند. برای مثال ممکن است تصویر نیمه‌برهنه‌ای بدون اجازه‌ی شخص منتشر شود. چنین تصاویری پرچم قرمز می‌گیرند.
به‌گفته‌ی شاپیرا، پژوهشگرها تقریبا هر هفته در گزارش‌های خود با شکل جدیدی از آزار و اذیت روبه‌رو می‌شوند که تاکنون جست‌وجو نشده‌اند؛ اما کارمندان اینستاگرام به کمک تیم‌ها و منابع فیسبوک نه‌تنها می‌توانند بر چالش‌ها مهارت پیدا کنند (برای مثال ماشینی بسازند که کنایه‌ها را درک کند) بلکه از هوش مصنوعی در جستجوی پدیده‌های جدید «FOMO عمدی» (FOMO یا ترس از فقدان) و حتی حساب‌هایی که به آزار نوجوان‌ها می‌پردازند، استفاده کنند.
اینستاگرام به‌زودی قابلیت جدیدی به نام Restrict را تست میکند. با این قابلیت مانعی بین قربانی و آزاردهنده به وجود می‌آید.
آمار زیادی وجود دارد که اینستاگرام منتشر نخواهد کرد: برای مثال چه تعداد از کارکنان این شرکت (از مجموع ۱۲۰۰ نفر) یا کارکنان فیسبوک (از مجموع ۳۷٬۷۰۰ نفر) روی مشکل آزار و اذیت کار می‌کنند؛ خطای دسته‌بندهای یا حجم محتوای پرچم‌گذاری‌شده چقدر است. این روزها امید به هوش مصنوعی منطبق با واقعیت نیست اما می‌توان به آن امیدوار ماند. به‌گفته‌ی شاپیرا: «این فناوری طی یک یا دو سال آینده به‌شدت بهبود خواهد یافت.»
موسری در شرایطی سخت به وارث یکی از قدرتمند‌ترین ایستگاه‌های شبکه‌ی اجتماعی تبدیل شد. در اواسط ماه مه، نشستی در دفتر اینستاگرام در سان‌فرانسیسکو در مورد آزار و اذیت‌های اینستاگرامی برگزار شود. این اولین مصاحبه‌ی موسری در ایالات‌متحده بود. این نشست درست پس از عرضه‌ی برنامه‌ای توسط کاخ سفید برگزار شد که در آن از مردم خواسته بود از تجربیات و حس خود نسبت به سانسور در شبکه‌های اجتماعی بگویند و ماجراهای خود را با رئیس‌جمهور در میان بگذارند. درست چند روز قبل از این نشست، پیشنهاد تجزیه‌ی فیسبوک به یکی از بنیانگذاران فیسبوک ارائه شده بود.
یکی از پرسش‌های TIME از موسری این بود: «با توجه به توافق جهانی که بر سر دقت بالای ناظران و هوش مصنوعی اینستاگرام وجود دارد، نگرانی‌های آزادی بیان تا چه حد بر استراتژی مبارزه با آزار و اذیت تأثیر می‌گذارند؟» موسری با تأکید بر اهمیت آزادی بیان، معتقد است اینستاگرام باید درزمینه‌ی آزار و اذیت وارد عمل شود. «سال‌ها است شرکت‌های اینترنتی از پذیرش مسئولیت در مورد محتوای پلتفرم‌های خود سرباز می‌زنند اما با پژوهش‌های دقیق، مسئولیت‌پذیری مدیران اجرایی هم افزایش پیدا کرده است.»
میدان‌های مین تقریبا همه‌جا هستند، اما موسری به حقه‌ها عادت دارد. او پس از پیوستن به فیسبوک در سال ۲۰۰۸، به کمک تیم بررسی News Feed (فید خبری) رفت؛ طومار بی‌پایانی از پست‌های صفحات خانگی افراد که به یکی از نقاط تمرکز اصلی این شرکت تبدیل شد. محل اصلی دست‌کاری‌های تبلیغات انتخاباتی سال ۲۰۱۶، فید خبریفیسبوک بود.
به همین دلیل موسری تیمی به نام «یکپارچه‌سازی» (Integrity) تشکیل داد و با هدف ریشه‌یابی بیماری پیچیده‌ای مثل اطلاعات نادرست، زمان خود را صرف نظارت بر توسعه‌ی ابزارهای هوش مصنوعی کرد. در این راه، او به زاکربرگ نزدیک شد و در اوایل ۲۰۱۸ به سمت سرپرست محصول اینستاگرام منصوب شد.
موسری معتقد است به دلیل بهبود تعریف آزار و اذیت در اینستاگرام، این شرکت برای کاربرد هوش مصنوعی نیاز به تنظیم استانداردهای جدید و اقداماتی دارد که حتی پلتفرم‌های دیگر هم بتوانند از آن‌ها الگو بگیرند. در حال حاضر او به‌دنبال روش‌هایی برای رسیدن به ارتش وسیعی از کاربران و مبارزه با این مشکل به کمک ماشین است. او می‌گوید:
مردم اغلب خود را در مقابل فناوری می‌بینند. از دیدگاه من، افراد و فناوری می‌توانند در کنار هم قرار بگیرند.
اینستاگرام با توجه به این رویکرد قرار است دو قابلیت جدید را ارائه کند. یکی از قابلیت‌ها، هشدار کامنت است. وقتی شخصی می‌خواهد کامنتی را زیر پستی بگذارد، اگر دسته‌بند آزار و اذیت اینستاگرام محتوای کامنت را «روی مرز» تشخیص دهد، با نمایش هشدار به کاربر اجازه می‌دهد در مورد کلمات خود تجدید نظر کند. به‌گفته‌ی فرانچسکو فوگو که روی سلامت شبکه‌های اجتماعی کار میکند:
هدف این کار تلنگر به شخص است و بدون بلاک کردن هشدار می‌دهد که ممکن است محتوای او مجرمانه باشد (همچنین می‌تواند اینستاگرام را از تشخیص دشوار آزادی بیان و اهانت رها کند).
دومین قابلیت جدید اینستاگرام Restrict (مسدودسازی) است. براساس پژوهش‌های اینستاگرام، نوجوان‌ها از مسدودسازی شخصی که آزارشان می‌دهد، می‌ترسند؛ زیرا نمی‌توانند حرکت بعدی آن شخص را حدس بزنند. Restrict در این نمونه‌ها قابلیتی مخفی است. بااینکه کاربر می‌تواند خیلی زود از بلاک شدن خود باخبر شود اما از محدود شدن باخبر نمی‌شود. درنتیجه قربانی می‌تواند قبل از هر شخص دیگری، کامنت شخص آزاردهنده را ببیند.
آن‌ها می‌توانند کامنت‌ها را قبول کنند، حذف کنند یا برای همیشه کامنت‌ها را در وضعیت معلق بگذارند؛ در حالت معلق، کامنت‌ها برای دیگران نامرئی هستند و در گروه آزار و اذیت قرار می‌گیرند. چنین قدرتی بر پیغام‌های دایرکت هم اعمال می‌شود. اگر شخص آزاردهنده سعی کند کاربری را در پستی عمومی تگ کند، اینستاگرام امکان تکمیل خودکار را به او نمی‌دهد. به‌گفته‌ی فوگو، با این روند، آزار و اذیت برای شخص آزاردهنده دشوار خواهد شد.
بنابراین اینستاگرام قبل از ارائه‌ی آزار و اذیت‌ها، به‌خوبی در برابر آن مسلح خواهد شد. به‌گفته‌ی نیوتون اگر قابلیت‌ها و امکانات جدید زمینه‌ای برای سوءاستفاده‌ی افراد فراهم کنند، حتی در صورت محبوبیت حذف خواهند شد. با این اقدامات، اینستاگرام بیش از هر شرکت دیگری به مبارزه با آزار و اذیت می‌پردازد، اما راه‌حل‌های بالقوه‌ای وجود دارند که هنوز در نظر نگرفته است.
تعریف‌های مبالغه‌آمیز و تکراری هم در دسته‌ی آزار و اذیت‌ها قرار می‌گیرند
در مصاحبه‌ی مربوط به این مقاله، چندان به مسئله‌ی گمنامی کاربرها پرداخته نشد. معمولا بسیاری از نوجوان‌ها حساب‌هایی را به بدگویی اختصاص می‌دهند. افراد به‌راحتی می‌توانند هویت دیگران را جعل کنند. این سهولت مشوق رفتارهای بد است. وقتی از موسری پرسیده شد آیا مانند فیسبوک در اینستاگرام هم از اسامی واقعی استفاده می‌شود، او این ایده را رد کرد؛ زیرا این ایده قطعا می‌تواند جامعه‌ی کاربری اینستاگرام را کاهش دهد. موسری می‌گوید:
در صورت وجود پاسخگویی مناسب، مردم رفتار بهتری خواهند داشت به‌ویژه اگر طرف مقابل خود را بشناسند؛ اما گمنامی هم مزایای خود را دارد.
برای مثال او دو کودک دارد که سن آن‌ها برای استفاده از اینستاگرام مناسب نیست (گرچه بسیاری از افراد از این قانون تخطی می‌کنند ولی ثبت‌نام افراد زیر ۱۳ سال در اینستاگرام مجاز نیست) بنابراین حساب‌هایی را برایشان ساخته است تا اعضای خانواده آن را دنبال کنند. یا برای مثال افراد می‌توانند علایقی را دنبال کنند که به هر دلیلی در زندگی واقعی نمی‌توانند دنبال کنند و نمی‌خواهند شناخته شوند. در اصل باید مشکلات و انگیزه‌ها را شناسایی کنیم و در عین حال مزایا را از بین نبریم.
با افزایش تحقیقات شرکت‌های فناوری، نگاه آن‌ها به آزار و اذیت‌ها جدی‌تر شده است. اینستاگرام برای بسیاری از نوجوانان، اولین تجربه‌ی کار با شبکه‌های اجتماعی است؛ به همین دلیل آسیب‌پذیری آن‌ها افزایش می‌یابد و تنهاتر و افسرده‌تر از نسل‌های گذشته‌ی خود می‌شوند. به اعتقاد برخی پژوهشگرها، شبکه‌های اجتماعی تا اندازه‌ای در آزار و اذیت‌ها مقصر هستند و بر سلامت ذهن تأثیر منفی می‌گذارند. قطعا این مسئله آزاردهنده است؛ اما آزار و اذیت گاهی به خودآزاری، خودکشی، افکار مرتبط با خودکشی و همچنین خشمی گره خورده است که می‌تواند تا بزرگ‌سالی هم دنبال این افراد باشد.
بااینکه آزارهایی مثل دادن القاب بد به افراد، از نمونه‌های متداول آزارهای سایبری هستند اما نمونه‌های جدی‌تری هم وجود دارند. کنیس کادی ۱۲ ساله از شرق روچستر، در سال ۲۰۱۵، درست یک هفته پس از حلق‌آویز کردن خود در اتاق خوابش به کما رفت و جان خود را از دست داد. براساس تحقیق از همکلاسی‌های او مشخص شد دو دختر کلاس هشتمی برای او حسابی جعلی در اینستاگرام ساخته بودند و محتوای تمسخرآمیزی را درباره‌ی او منتشر کرده بودند.
بازرس‌ها تصور می‌کردند کنیس قبل از مرگ سعی کرده است حساب اینستاگرام را پاک کند، گرچه هرگز نتوانستند آن را پیدا کنند. میکائیلا کادی، مادر کنیس، آزار و اذیت‌های شبکه‌های اجتماعی را مقصر وضعیت روانی دختر خود می‌داند. او می‌گوید: «او بسیار آرام و خجالتی بود و به نظر ناراحت می‌رسید.»
قبل از گفتگوی موسری با TIME، مصاحبه‌ی دیگری از او در میانه‌ی ماجرای جنجالی دختری در بریتانیا منتشر شد که به‌گفته‌ی پدرش، قبل از خودکشی محتواهای خشونت‌بار مرتبط با خودکشی و افسردگی را در اینستاگرام دیده بود. هم‌زمان با این اتفاق، اینستاگرام در ماه فوریه تصاویر مرتبط با خودآزاری را ممنوع کرد.
به‌گفته‌ی موسری، مدیران شبکه‌های اجتماعی پرطرفداری دیگری مثل جک دورسی از توییتر هم به‌دنبال بررسی انگیزه‌های اصلی خشم در شبکه‌های اجتماعی هستند. افراد کارهای وحشتناکی را انجام می‌دهند. آن‌ها سعی می‌کنند با تخریب یکدیگر و تنها برای گرفتن چند لایک بیشتر خود را ثابت کنند به همین دلیل برنامه‌ی دیگر اینستاگرام، مخفی‌سازی کامل لایک‌ها است که فعلا به‌صورت آزمایشی اجرا شده است.
از سوی دیگر، اینستاگرام به‌دنبال پیشنهاد راهکار به کاربران برای استراحت و دوری از این شبکه‌ی اجتماعی است. یکی از روش‌های اینستاگرام برای عملی کردن این ایده، حالت «Away Mode» است، در این حالت کاربر در مدت‌زمانی مشخص اعلان کاربران یا افرادی را که بین فهرست تماس او نیستند، نمی‌بیند و توسط آن‌ها قابل جست‌وجو نیست.
همچنین اینستاگرام در حال کار روی برنامه‌ای برای شناسایی استانداردهایی است که به دائمی شدن این شبکه کمک کنند. اغلب نوجوان‌ها به دلیل فعالیت‌های رشک‌برانگیز تمایل به نمایش ظاهری جذاب از خود دارند. کورتنی بروسارد ۱۵ ساله از لافایت می‌گوید:
ممکن است شخصی از محتوای پست‌ها اسکرین‌شات بگیرد و پشت سر شما غیبت کند. آزار و اذیت‌های آنلاین در صورتی رخ می‌دهند که معیارها را رعایت نکنید.
فراخوان برای تجزیه‌ی شرکت‌های فناوری بزرگ در میان رسانه‌ها و کمپین‌های متعدد ازجمله جدایی اینستاگرام از فیسبوک بالا گرفته است. موسری در پاسخ به این جریان‌ها می‌گوید:
بزرگ‌ترین عیب جدا شدن از شرکت والد، قطع دسترسی تیم او به هوش مصنوعی و متخصص‌هایی است که بتوانند به حل مشکلاتی مثل آزار و اذیت کمک کنند.
او معتقد است مقیاس بزرگ و انبوه اینستاگرام یک نوع دارایی هم به شمار می‌رود. بااین‌حال حتی اگر این پلتفرم ۱۰ هزار بار کوچک‌تر بود و ناظرها بر تمام پست‌ها و پیغام‌ها نظارت می‌کردند، شاید آزار و اذیت‌ها به‌راحتی قابل‌کنترل بودند اما بازهم مشکلات حریم خصوصی وجود داشت. هدف اینستاگرام در این راستا، درک بهتر آزارهای سایبری و یافتن روش‌هایی برای حل آن‌ها است.
اینستاگرام برای جلوگیری از جلب توجه مخرب به‌دنبال حذف نمایش تعداد لایک‌ها است
به‌گفته‌ی موسری: «نمی‌توان گفت ارتباط با افراد و حتی خود اینترنت، مزیت خالصی برای بشر است. اولا فناوری ذاتا خوب یا بد نیست؛ و شبکه‌های اجتماعی هم به‌عنوان شکلی از فناوری اغلب یک نوع تقویت‌کننده به شمار می‌روند. این بستگی به افراد دارد که رفتار خوب را تقویت کنند یا رفتار بد.»
اینستاگرام آزار و اذیت را اختراع نکرده است. آزار و اذیت یکی از مشکلاتی است که ممکن است در تمام جوامع آنلاین رخ دهد. بسیاری از افراد از مراتب بالا تا پائین جامعه در حال عادی‌سازی سوءاستفاده‌های آنلاین هستند. به‌گفته‌ی کارشناسان، استفاده‌ی صحیح از اینترنت به‌خوبی به کودکان آموزش داده نمی‌شود. به کودکان نحوه‌ی استفاده از اینترنت را آموزش می‌دهند، آن هم درزمانی که نوجوان اعمال قدرت بر روابط را یاد گرفته است. از طرفی مبارزه با آزار و اذیت تنها توسط خود شرکت‌ها امکان‌پذیر نیست بلکه والدین، مدارس و خود کودکان هم باید در این زمینه همکاری کنند.
میکائیلا کادی پس از مرگ کنی به تگزاس رفت و زندگی جدیدی را آغاز کرد. او اینستاگرام را مقصر این اتفاق نمی‌داند. دختر او درست مانند بسیاری از کودکان دیگری که مورد آزار و اذیت آنلاین قرار می‌گرفت، در جهان واقعی هم آزار داده می‌شد؛ اما او معتقد است تسلط شبکه‌های اجتماعی بر جامعه افزایش یافته و راه‌حل غلبه بر آن، فناوری بهتر نیست؛ بلکه فناوری کمتر است.
در این مرحله، شبکه‌های اجتماعی به یکی از نقاط محوری زندگی افراد تبدیل شده‌اند؛ منطقی نیست به کودکانی که مورد آزار و اذیت قرار گرفته‌اند، بگویند کامپیوتر خود را خاموش کنند یا حساب کاربری خود را حذف کنند. با این حال کادی می‌گوید باید موانع بیشتری بین دنیای آنلاین و دنیای آفلاین وجود داشته باشد؛ فضایی برای نفس کشیدن. او معتقد است در شبکه‌های اجتماعی راه فراری وجود ندارد.
