مدیر محتوای فیسبوک: مجبور بودم برای دیدن هر چیزی آماده باشم

سارا کاتر به مدت هشت ماه در فیسبوک کار می‌کرد جیم تیلور - رادیو ۵لایو بی‌بی‌سی
 این مطلب دارای محتوایی است که ممکن است برای خوانند‌گان ناراحت‌کننده باشد.
 
سارا کاتر، که هشت ماه کار دشوار مدیریت محتوای فیسبوک را به عهده داشته درباره انواع محتوایی که مجبور بوده با آن مقابله کند، می‌گوید "بیشتر محتوای پورنوگرافی بود".
 
او می‌گوید: "شرکت فیسبوک درباره انواع محتوایی که قرار بود آن را ببینیم به ما به طور روشن گفته بود؛ این که چقدر محتوا آزاردهنده خواهد بود. یعنی برای ما مبهم نبود."
 
سارا در سال ۲۰۱۶ یکی از صدها نفری بود که به عنوان مدیر محتوای فیسبوک از سوی یک آژانس ثالث در کالیفرنیا استخدام شده بود.
 
کار او بررسی شکایت‌هایی بود که درباره محتوای نامناسب از سوی کاربران گزارش داده می‌شد.
 
او تجربه‌هایش را در این باره با یکی از برنامه‌های "رادیو ۵لایو" بی‌بی‌سی شریک کرده است.
 
او می‌گوید: "ما را محدود به مدت زمان حدود یک دقیقه برای بررسی یک پست کرده بودند که ببینیم و تصمیم بگیریم که آیا هرزنامه (اسپم) است یا نه و این که آیا ان را حذف کنیم یا نه."
 
او ادامه می‌دهد: "گاهی ما حساب کاربری مربوط به آن پست‌ها را هم حذف می‌کردیم. اداره دوست نداشت که بیش از هشت ساعت در روز کار کنیم و ما به طور متوسط حدود ۸۰۰۰ پست را در روز مرور می‌کردیم، یعنی حدود ۱۰۰۰ پست در یک ساعت."
 
"در این کار خیلی می‌آموزید، به خصوص در روز اول. اگر بخواهم که این وظیفه را در یک کلمه شرح دهم، آن کلمه 'طاقت‌فرسا ' خواهد بود."  تصاویر غیرقانونی
 "باید مسلما با یک کلیک برای دیدن هر چیزی آماده باشید. با انواع محتوایی برخواهید خواهید خورد که هیچگونه پیش‌هشداری ندارند."
 
"یکی از محتواهایی که از ذهنم دور نمی‌شود، تکه‌ای از پورنوگرافی کودکان بود. ویدیویی از دو کودک. پسربچه‌ای که حدود ۱۲ سال داشت و دختربچه‌ای که حدود هشت یا نه ساله بود رو در روی همدیگر قرار داشتند."
 
"شلوار نداشتند و همدیگر را لمس می‌کردند. واقعا به نظر می‌رسید که بزرگسالی پشت دوربین بود و به آنها می‌گفت چه کار کنند. خیلی آزاردهنده بود. بیشتر به دلیلی که می‌توانستی ببینی که واقعی است."
پست‌هایی که دوباره ظاهر می‌شود
 "بسیاری از این پست‌های بی‌پرده دوباره پخش می‌شود. ما اغلب می‌دیدیم که از سوی حدود شش کاربر متفاوت در یک روز پخش می‌شد و این پیدا کردن منبع اصلی را برای ما دشوار می‌کرد."
 
"در آن زمان چیزی مثل خدمات مشاوره [روانی] وجود نداشت. امروز شاید باشد. مطمئن نیستم."
 
سارا می‌گوید اگر به او پیشنهاد می‌شد، احتمالا به جلسات مشاوره‌ روانی شرکت می‌کرد.
 
او می‌گوید: "آنها قطعا به شما هشدار می‌دهند اما هشدار دادن و واقعا رو به رو شدن با آن از هم فرق دارد." "برخی‌ها فکر می‌کنند می‌توانند از پس آن برآیند، اما بعدتر مشخص می‌شود که نمی‌توانند و یا در واقع محتوا خیلی بدتر از چیزی است که تصور می‌کردند."
محتوای ناراحت‌کننده
"به مرور زمان احساس حساسیت در برابر آن محتوا را تا حدودی از دست می‌دهید. نمی‌گویم که برایتان آسان می‌شود، اما قطعا به آن عادت می‌کنید."
 
"چند مورد بازی با حیوانات (تماس جنسی با حیوانات) بود. یک موردش با یک اسب که در حال بازپخش شدن بود."
 
"موارد فراوانی از محتوای ناراحت‌کننده و خشونت‌آمیز هم وجود داشت. یک موردش تصویر زنی بود که سرش متلاشی شده بود. نیمه بدنش بر زمین و نیمه بالایی بدنش در صندلی قرار داشت."
 
"سیاست برخورد با محتوای پرونوگرافی سختگیرانه‌تر از برخورد با محتوای خشونت‌آمیز و ناراحت‌کننده بود."
اخبار جعلی
"فکر کنم مچ فیسبوک در قسمت اخبار جعلی گرفته شد. در آغاز انتخابات آمریکا این مساله ظاهرا چندان مورد توجه نبود، حداقل زمانی که من در آنجا کار می‌کردم. واقعا به یاد نمی‌آورم که حتی یکبار اصطلاح 'اخبار جعلی ' را شنیده باشم."
 
"مطالب خبری زیادی را می‌دیدیم که از سوی کاربران پخش می‌شد و درباره آن شکایت درج می‌شد. اما هرگز به یاد نمی‌آورم که از سوی اداره گفته شده باشد که مطالب خبری را ببینیم و مطمئن شویم که فاکت‌های آن درست است."
 
"خیلی یکنواخت است و واقعا یاد می‌گیرید که چه چیزی هرزنامه است و چه چیزی نیست. کارت فقط به کلیک کردن زیاد مبدل می‌شود."
پاسخ فیسبوک به حرف‌های سارا
 بی‌بی‌سی داستان سارا را با فیسبوک در میان گذاشت.
 
در پاسخ یکی از سخنگویان فیسبوک گفت: "ناظران ما نقشی اساسی در بهتر و مصون ساختن فضای فیسبوک بازی می‌کنند."
 
او افزود: "این می‌تواند یک وظیفه بسیار چالش‌برانگیز باشد و می‌خواهیم مطمین شویم که آنها این احساس را داشته باشند که از هر لحاظ مورد حمایت ما قرار دارند. به همین دلیل ما انواع کارگاه و مشاوره و حمایت روانی به کارکنان ما فراهم می‌کنیم."
 
سخنگوی فیسبوک همچنین می‌گوید: "با آن که ما از هوش مصنوعی تا جایی که بتوانیم استفاده می‌کنیم، در حال حاضر بیش از ۷۰۰۰ نفر برای بررسی محتوای فیسبوک کار می‌کنند و مراقبت از سلامت آن‌ها اولویت اصلی ماست."