Son üç buçuk haftayı eğitimde harcadı, rahatsız edici görevlerin günlük saldırısına karşı kendini sertleştirmeye çalıştı: nefret söylemi, şiddetli saldırılar, grafik pornografi. Birkaç gün içinde, tam zamanlı bir Facebook içerik denetleyicisi veya onun için çalıştığı şirketin, Cognizant adlı profesyonel bir hizmet satıcısı olacağına kesin olarak “süreç yöneticisi” adını verir.
Eğitiminin bu bölümü için, Chloe, kursiyerlerinin önünde bir Facebook gönderisini denetlemek zorunda kalacak. Sıra geldiğinde, bir monitörün dünyanın en büyük sosyal ağına gönderilen bir videoyu gösterdiği odanın önüne yürür. Chloe, katılımcıların hiçbiri daha önce görmemiş. Videoyu oynatır.
Videoda bir adamın öldürüldüğü gösteriliyor. Birisi onu bağırıyor, onlarca kez, çığlık atıyor ve hayatı için yalvarıyor. Chloe’nin görevi odaya bu gönderinin kaldırılıp kaldırılmayacağını söylemektir. Facebook topluluk standartlarının 13. bölümünün bir veya daha fazla insanın cinayetini gösteren videoları yasakladığını biliyor. Chloe bunu sınıfa açıkladığında, sesini titrediğini duyar.
Yerine döndüğünde, Chloe, ağlamaya zorlayıcı bir dürtü hissediyor. Başka bir stajyer bir sonraki yazıyı gözden geçirdi, ancak Chloe konsantre olamıyor. Odadan ayrılır ve nefes almakta zorlanacağı kadar ağlamaya başlar.
Kimse onu rahatlatmaya çalışmıyor. Yapması gereken işe bu oldu. Ve Chloe gibi 1000 kişi için Phoenix sitesinde Facebook için içerik düzenleme ve dünya çapında 15.000 içerik yorumcusu için, bugün ofisteki bir başka gün daha.
Geçtiğimiz üç ay boyunca Phoenix’teki bir düzine şu anki ve eski çalışanı olan Cognizant ile görüştüm. Hepsi, Cognizant ile yaptığı açıklamada, Facebook’taki çalışmalarını tartışmamaya söz verdikleri ve hatta Facebook’un Cognizant’ın müşterisi olduğunu kabul ettiklerini açıklamadı. Gizliliğin kapatılması, çalışanları bir içerik denetleme kararına kızabilecek ve bilinen bir Facebook yüklenicisi ile çözmeyi amaçlayan kullanıcıları korumak içindir. NDA’ların ayrıca yüklenicilerin, Facebook kullanıcılarının kişisel bilgilerini dış dünyayla paylaşmalarını ve veri gizliliği konularında yoğun bir inceleme yapmalarını engelleme amaçlıdır.
Ancak gizlilik ayrıca Cognizant ve Facebook’u çalışma koşulları hakkındaki eleştiriden de izole ediyor, dedi. İzolasyon ve endişe duygularının artmasına yol açan, sevdiklerinde bile işlerinin üstlendikleri duygusal sorunları tartışmamaları için baskı altındalar. Onları hem işverenlerinden hem de Facebook kullanıcılarından gelen olası misillemelere karşı korumak için, Cognizant’ın iş süreci hizmetleri operasyonları başkan yardımcısı Bob Duncan ve Facebook’un global ortak satıcı yönetimi yönetimi başkanı hariç, bu hikayede adı geçen herkes için takma adlar kullanmayı kabul ettim.
Toplu olarak çalışanlar, kaosun eşiğine sürekli olarak zarar veren bir iş yeri tanımladı. İşçilerin intihar etme hakkında kara şakalar söyleyerek başa çıktıkları, sonra molalar sırasında duygularını uyuşturmak için ot içtikleri bir ortam. Çalışanların haftada sadece birkaç hata yapmak için kovulabilecekleri ve intikam almak isteyen eski meslektaşlarının korkusuyla yaşadıkları bir yer.
Facebook çalışanlarına hükmedilen ikramiyelerin aksine , ekip liderlerinin mikro-yönetmenlik içerik moderatörlerinin her banyosunda ve dua molasında olduğu bir yer; bir dopamin için çaresiz çalışanların, sefaletin ortasında acele ettiği, merdivenlerde ve emziren annelere ayrılmış bir odada seks yaptıkları; insanların hala eğitimdeyken ciddi kaygı geliştirdikleri ve gittikten uzun süre sonra travma belirtileri ile mücadele etmeye devam ettikleri; ve Cognizant’ın onlara sunduğu danışmanlığın, istifa ettikleri anda bittiği yerde – ya da sadece bıraktıkları yerde.
Moderatörler, bana her gün gittikçe gördükleri komplo videolarının ve hatıralarının kendilerini perişan bakış açıları çekmelerine yönlendirdiği bir yer olduğunu söyledi. Bir denetçi, Dünya’nın düz olduğu fikrini artırarak yere yürüyor. Eski bir çalışan, Holokost’un bazı yönlerini sorgulamaya başladığını söyledi. Her kaçış yolunu evinden çıkardığını ve yanında bir silahla uyuduğunu söyleyen eski bir çalışan, “9 / 11’in artık terörist bir saldırı olduğuna inanmıyorum” dedi.
Chloe bir süre mola odasında ve sonra banyoda ağlıyor, ancak çok fazla eğitim almaması nedeniyle endişelenmeye başlıyor. Başvururken bir iş için çılgına dönmüştü, yeni bir üniversite mezunu olarak, başka bir acil müşterisi olmadan. Tam zamanlı bir moderatör haline geldiğinde, Chloe saatte 15 dolar kazanıyor – yaşadığı Arizona’daki asgari ücretin 4 dolardan fazla ve çoğu perakende işinden beklediğinden daha iyi.
Gözyaşları sonunda durur ve nefesi normale döner. Eğitim odasına geri döndüğünde, arkadaşlarından biri başka bir şiddetli videoyu tartışıyor. Bir dronun insanları havadan fırlattığını görüyor. Chloe, cesetlerin ölürken gevşemelerini izliyor.
Yine odadan ayrıldı.
Sonunda bir süpervizör onu banyoda bulur ve zayıf bir kucaklama sunar. Cognizant bir çalışanı çalışanlar için erişilebilir hale getirir, ancak günün sadece bir bölümünde işe yaramadı. Chloe bir saatin daha iyi bir kısmı için onu bekler.
Danışman onu gördüğünde, panik atak geçirdiğini açıklar. Mezun olduğunda, Facebook videolarını eğitim odasındakinden daha fazla kontrol edeceğini söyledi. Videoyu duraklatabilecek, ona söyleyebilecek veya sesli olarak izleyebileceksiniz. Solunumuna odaklan, diyor. İzlediğiniz şeye fazla yakalanmadığınızdan emin olun.
Chloe, “Endişelenme demedi – muhtemelen hala işi yapabilirim” dedi. Sonra kendini yakaladı: “ Endişesi şuydu: Endişelenme, işi yapabilirsin.”
Mark Zuckerberg Facebook’un genişlemesini açıkladı“toplum operasyonları”ekibi. Mevcut 4.500 moderatöre eklenecek olan yeni çalışanlar, şirketin topluluk standartlarını ihlal ettiği bildirilen her türlü içeriği incelemekten sorumlu olacak. 2018 yılının sonunda, sosyal ağda şiddet içeren ve sömürücü içeriklerin yaygınlığının eleştirilmesine yanıt olarak, Facebook’un yaklaşık yarısı içerik denetleyicisi olan güvenlik ve güvenlik alanında çalışan 30.000’den fazla çalışanı vardı.
Moderatörler, tam zamanlı çalışanlardan bazılarını içerir, ancak Facebook, işi yapmak için büyük ölçüde sözleşmeli işlere güvenmektedir. Facebook’un operasyonlar başkan yardımcısı Ellen Silver, geçtiğimiz yıl yapılan bir blog yazısında, sözleşmeli işçilik kullanımının Facebook’un “ dünya çapında ölçeklenebilmesine ” izin verdiğini söyledi – günün her saatinde çalışan içerik denetleyicilerinin 50’den fazla dilde yayın yapanları değerlendirdi Dünyada 20 site.
Sözleşmeli emek kullanımının Facebook için de pratik bir faydası var: çok daha ucuz. Medyan Facebook çalışanı , yıllık olarak maaş, ikramiye ve hisse senedi opsiyonlarında 240.000 dolar kazanıyor . Öte yandan Arizona’da Cognizant için çalışan bir içerik moderatörü yılda sadece 28.800 $ kazanacak. Düzenleme, Facebook’un yüksek kar marjını korumasına yardımcı oluyor. En son çeyreğinde, şirket 16,9 milyar dolar gelirle 6,9 milyar dolar kar elde etti . Zuckerberg, yatırımcıları Facebook’un güvenliğe yaptığı yatırımın şirketin karlılığını azaltacağı konusunda uyarırken, karlar bir önceki yıla göre yüzde 61 arttı.
Adrian Chen zaman 2014 yılından bu yana, içerik moderatörler için zor çalışma şartlarını ayrıntılı için sosyal ağlar en Wired , Facebook onun düşük ücretli işçilerin bazı travmatik olduğunu eleştiriye duyarlı olmuştur. Gelen onun blog post , Gümüş onların baş etme becerileri onları tarama ‘şiddet görüntüleri ile başa çıkmak için yetenek’ Facebook potansiyel kolaylaştırıcı değerlendirir söyledi.
Cognizant’ın Kuzey Amerika’daki içerik denetleme operasyonlarını denetleyen Bob Duncan, işe alım uzmanlarına işin grafik doğasını dikkatlice başvuru sahiplerine açıkladığını söylüyor. “Görebildiğiniz türlerin örneklerini paylaşıyoruz… böylece onların bir anlayışa sahip olduklarını” söylüyor. “Bütün bunların amacı insanların bunu anlamalarını sağlamak. Ve eğer çalışmalarının kendi durumlarına göre kendileri için uygun olduğunu düşünmüyorlarsa, bu kararları uygun şekilde alabilirler. ”
Yakın zamana kadar çoğu Facebook içerik denetimi ABD dışında yapıldı. Ancak, Facebook’un işgücüne olan talebi arttıkça, yerel operasyonlarını Kaliforniya, Arizona, Teksas ve Florida’daki siteleri içerecek şekilde genişletti.
Facebook’un Davidson’ı, ABD’nin şirketin evi ve en popüler olduğu ülkelerden biri olduğunu söylüyor. Amerikalı moderatörler, genellikle ülkeye özgü argo içeren, zorbalık ve nefret dolu konuşmayı içerebilecek ABD içeriğini değerlendirmek için gerekli kültürel içeriğe sahip olma ihtimalinin daha yüksek olduğunu söylüyor.
Facebook ayrıca, Davidson’un “son teknoloji tesisleri” olarak adlandırdığı şeyi inşa etmeye çalıştı, bu yüzden bir Facebook ofisini kopyaladılar ve Facebook’un kendilerine bakmalarını ve hissetmelerini sağladılar. Bu önemliydi çünkü bazen pazarda bazen insanlarımızın çok karanlık, kirli bodrum katlarında, sadece yeşil bir ekranla aydınlatılan bir algı olduğu da vardı. Bu gerçekten durum böyle değil. ”
Cognizant’ın Phoenix konumunun ne karanlık ne de kirli olduğu doğrudur. Ve çalışanlara bilgisayarları olan masaları sunarken, diğer Facebook ofislerine çok benzeyebilir. Ancak, Facebook’un Menlo Park merkezindeki çalışanlar, Frank Gehry tarafından tasarlanan havadar ve güneşli bir kompleksin içinde çalışırken, Arizona’daki müteahhitleri, az sayıdaki banyo tezgahı için uzun hatların çalışanlarının çoğunun sınırlı zamanını alabildiği, sıkışık bir alanda çalışıyor. Ve Facebook çalışanları günlerini nasıl idare ettikleri konusunda geniş bir özgürlüğe sahip olurken, Cognizant işçilerinin zamanı ikinciye kadar yönetiliyor.
Miguel adında içerik moderatörü, başlamadan hemen önce gündüz vardiyasına geliyor, sabah saat 7’de. Bir Phoenix ofis parkında iki katı olan işyerine filtre uygulayacak yaklaşık 300 çalışandan biri.
Güvenlik personeli, giriş yapanlar, hoşnutsuz eski çalışanlar ve kaldırılan görevler üzerinden moderatörlerle karşılaşabilecek Facebook kullanıcıları için görüşmelerde bulunmaya devam ediyor. Miguel ofise girdi ve dolaplara yöneldi. Dolaşacak kadar az sayıda dolap var, bu nedenle bazı çalışanlar ertesi gün bir tanesine sahip olmalarını sağlamak için bir gece boyunca eşyaları içeride tutuyorlar.
Dolaplar, molalar sırasında insanlarla boğulan dar bir koridorda bulunur. Yayınlarını inceledikleri Facebook kullanıcılarının gizliliğini korumak için çalışanların, çalıştıkları sırada telefonlarını kilitli dolaplarda tutmaları gerekir.
Miguel’in bir Facebook kullanıcısının kişisel bilgilerini yazması istenirse, mutfak eşyaları ve kağıt yazmaya da izin verilmez. Bu politika, sakız sarmalayıcılar gibi küçük kağıt artıklarına kadar uzanır. El losyonu gibi daha küçük nesnelerin şeffaf plastik torbalara yerleştirilmesi gerekir, böylece yöneticilere her zaman görünürler.
Dört günlük vardiyaya ve yüksek çalışan devir sayısına uyum sağlamak için çoğu kişiye Cognizant’ın “üretim alanı” dediği şeyle ilgili kalıcı bir masa atanmayacaktır. Bunun yerine, Miguel açık bir iş istasyonu bulur ve Tekli İnceleme olarak bilinen bir yazılıma giriş yapar. Aracı veya SRT. Çalışmaya hazır olduğunda, “incelemeye devam et” etiketli bir düğmeyi tıklatır ve gönderilerin kuyruğuna dalar.
Geçtiğimiz Nisan ayında, belgelerin çoğunun Guardian’da yayınlanmasından bir yıl sonra , Facebook , 2.3 milyar aylık kullanıcısını yönetmeye çalıştığı topluluk standartlarını kamuoyuna açıkladı. Daha sonraki aylarda, Anakart ve Radiolab , bu kadar geniş bir konuşmayı düzenlemenin zorlukları hakkında ayrıntılı araştırmalar yayınladılar.
Bu zorluklar, direk görev hacimlerini; tek bir kurallar dizisini tutarlı bir şekilde uygulamak için düşük ücretli işçilerden oluşan bir küresel orduyu eğitme ihtiyacı; günlük kurallara yakın değişiklikler ve bu kurallardaki açıklamalar; moderatörler adına kültürel veya politik bağlam eksikliği; anlamlarını belirsizleştiren yazılardaki eksik bağlam; ve moderatörler arasında kuralların bireysel durumlarda uygulanıp uygulanmaması gerektiği konusunda sık sık anlaşmazlıklar.
Böyle bir politikanın uygulanmasındaki yüksek zorluk derecesine rağmen, Facebook Cognizant ve diğer müteahhitlerine “doğruluk” adı verilen bir metriğe vurgu yapma talimatı verdi. Doğruluk, bu durumda, Facebook müteahhitlerin kararlarının bir alt kümesini denetlediğinde, tam zamanlı çalışanlarının müteahhitlerle aynı fikirde olduğu anlamına gelir. Şirket, yüzde 95’lik bir doğruluk hedefi belirledi; her zaman ulaşılamayacak gibi görünüyor. Cognizant, uzun bir süre boyunca asla hedefe ulaşmadı – genellikle 80’lerin veya 90’ların üzerinde yüzüyor ve basın saatinde 92 civarında seyrediyordu.
Miguel politikayı özenle uyguluyor – bana söylese de, genellikle ona bir şey ifade etmiyor.
Birisine “en sevdiğim n —–” diyen bir postanın kalmasına izin verilir, çünkü politika uyarınca “açıkça olumlu içerik” olarak kabul edilir.
“Otistik insanlar sterilize edilmelidir” ona saldırgan görünüyor, ama aynı zamanda kalıyor. Otizm, ırk ve cinsiyetin olduğu gibi “korunan bir özellik” değildir ve bu nedenle politikayı ihlal etmez. (“Erkekler kısırlaştırılmalıdır”).
Ocak ayında, Facebook, moderatörlerin bir cinsiyete yönelik nefreti ifade eden gönderileri değerlendirirken son dönemde yaşanan romantik karışıklığı göz önünde bulundurmaları gerektiğini belirten bir politika güncellemesi yayınlar. “Tüm erkeklerden nefret ediyorum” politikasını daima ihlal etti. Ama “sadece erkek arkadaşımdan ayrıldım ve tüm erkeklerden nefret ediyorum” artık yok.
Miguel, nakilleri kuyruğunda çalışıyor. Belirli bir sıra ile gelmiyorlar.
İşte ırkçı bir şaka. İşte bir çiftlik hayvanıyla seks yapan bir adam. İşte uyuşturucu karteli tarafından kaydedilen cinayetin grafik videosu. Miguel’in yorumlarının bazıları Facebook’ta, zorbalık ve nefret dolu konuşmaların daha yaygın olduğunu söylüyor; diğerleri, kullanıcıların takma adlar altında gönderebilecekleri ve daha fazla şiddet, çıplaklık ve cinsel etkinliği paylaşma eğiliminde oldukları Instagram’da.
Her yazı Miguel’e iki ayrı fakat ilgili sınavla sunar. İlk olarak, bir gönderinin topluluk standartlarını ihlal edip etmediğini belirlemelidir. O zaman neden standartları ihlal ettiği doğru nedeni seçmeli. Bir gönderinin kaldırılması gerektiğini doğru bir şekilde anlarsa, ancak “yanlış” nedeni seçerse, bu doğruluk puanına sayılır.
Miguel işinde çok iyidir. En fazla meşru (rahatsız edici) konuşmayı korurken, Facebook’u en kötü içeriğini temizlemek için çaba göstererek bu görevlerin her birinde doğru önlemi alacaktır. Her maddeye 30 saniyeden daha az zaman harcayacak ve bunu günde 400 kereye kadar yapacak.
Miguel’in bir sorusu olduğunda, elini kaldırıyor ve Facebook’un politikaları hakkında daha kapsamlı bir bilgiye sahip olması beklenen bir müteahhit olan “bir konu uzmanı” (KOBİ) – Miguel’in başına saatte 1 dolar kazandıran bir müteahhit . Ancak bu, Miguel’in zamanına mal olacak ve gözden geçirecek kotaları olmamasına rağmen, yöneticiler verimliliğini izliyor ve sayı 200’lere girdiğinde kendisini açıklamasını istiyor.
Miguel’in 1.500 civarında haftalık kararlarından Facebook, denetlemek için rastgele 50 veya 60’ı seçecek. Bu gönderiler ikinci bir Cognizant çalışanı tarafından gözden geçirilecek – ayrıca bir QA olarak bilinen ve aynı zamanda Miguel’den daha fazla saat başına 1 dolar yapan bir kalite güvence çalışanı. Tam zamanlı Facebook çalışanları daha sonra bir QA kararları alt grubunu denetler ve bu toplu görüşmelerden doğruluk puanı elde edilir.
Miguel, doğruluk rakamının karanlık bir görüntüsünü alır.
“Doğruluk, sadece anlaşma ile değerlendirilir. Hem ben hem de denetçi, eroin satışının açık olmasına izin verirse, Cognizant ‘haklıydı’ çünkü ikimiz de aynı fikirdeyiz ”dedi. “Bu sayı sahte.”