Facebook har brug for 30.000 af sine egne indholdsmoderatorer, siger en ny rapport

Associeret presse Associeret presse

Tænk, hvis Facebook holdt op med at moderere sit websted lige nu. Alle kunne poste, hvad de ville. Erfaringen tyder på, at det ret hurtigt ville blive en helvedes miljø overrendt med spam, mobning, kriminalitet, halshugninger af terrorister, nynazistiske tekster og billeder af seksuelt misbrug af børn. I det scenario ville store dele af dens brugerbase sandsynligvis forlade, efterfulgt af de lukrative annoncører.

Men hvis mådehold er så vigtigt, behandles det ikke som sådan. Det overvældende flertal af de 15.000 mennesker, der bruger hele dagen på at bestemme, hvad der må og ikke må være på Facebook, arbejder ikke engang for Facebook. Hele funktionen af ​​indholdsmoderering er farmet ud til tredjepartsleverandører, som ansætter vikarer på usikre kontrakter på over 20 steder verden over. De skal gennemgå hundredvis af indlæg om dagen, hvoraf mange er det dybt traumatiserende . Fejl er udbredt , på trods af virksomhedens vedtagelse af AI værktøjer at triage stillinger i henhold til hvilke kræver opmærksomhed. Facebook har selv indrømmet en fejlrate på 10 %, uanset om det er forkert markering af opslag, der skal fjernes, og som skal holdes oppe eller omvendt. I betragtning af at anmeldere skal vade gennem tre millioner indlæg om dagen, svarer det til 300.000 fejl dagligt. Nogle fejl kan have dødelige virkninger. For eksempel brugte medlemmer af Myanmars militær Facebook at tilskynde til folkedrab mod det overvejende muslimske rohingya-minoritet i 2016 og 2017. Selskabet indrømmede det senere undlod at håndhæve sin egen politik forbud mod hadefulde ytringer og tilskyndelse til vold.

Hvis vi vil forbedre, hvordan moderation udføres, er Facebook nødt til at bringe indholdsmoderatorer internt, gøre dem til fuld ansatte og fordoble deres antal, hævder en ny rapport fra New York Universitys Stern Center for Business and Human Rights.

Moderering af indhold er ikke som andre outsourcede funktioner, som madlavning eller rengøring, siger rapportforfatter Paul M. Barrett, vicedirektør for centret. Det er en central funktion i de sociale mediers forretning, og det gør det noget mærkeligt, at det bliver behandlet, som om det er perifert eller andres problem.

Hvorfor behandles indholdsmoderering på denne måde af Facebooks ledere? Det kommer i det mindste delvist af omkostningerne, siger Barrett. Hans anbefalinger ville være meget dyrt for virksomheden at vedtage - højst sandsynligt i titusindvis af millioner dollars (selvom for at sætte dette i perspektiv, gør det milliarder af dollars af overskud hvert år). Men der er en anden, mere kompleks grund. Aktiviteten med indholdsmoderering passer bare ikke ind i Silicon Valleys selvbillede. Visse typer aktiviteter er meget højt værdsatte og glamouriserede – produktinnovation, smart marketing, ingeniørarbejde … den nøgne verden af ​​indholdsmoderering passer ikke ind i det, siger han.

Han synes, det er på tide, at Facebook behandler mådehold som en central del af sin forretning. Han siger, at en forhøjelse af dens status på denne måde ville hjælpe med at undgå den slags katastrofale fejl, der er lavet i Myanmar, øge ansvarligheden og bedre beskytte medarbejdere mod skade på deres mentale sundhed.

Det virker som en uundgåelig realitet, at indholdsmoderering altid vil indebære, at man bliver udsat for noget forfærdeligt materiale, selvom værket bringes i hus. Der er dog så meget mere, virksomheden kunne gøre for at gøre det lettere: at screene moderatorer bedre for at sikre, at de virkelig er opmærksomme på risiciene ved jobbet, for eksempel, og sikre, at de har førsteklasses pleje og rådgivning tilgængelig. Barrett mener, at moderation af indhold kunne være noget, som alle Facebook-medarbejdere er forpligtet til at gøre i mindst et år som en slags pligtopfyldelse for at hjælpe dem med at forstå virkningen af ​​deres beslutninger.

Rapporten giver otte anbefalinger til Facebook:

• Stop med at outsource indholdsmoderering og hæv moderatorernes station på arbejdspladsen.
• Fordoble antallet af moderatorer for at forbedre kvaliteten af ​​indholdsgennemgang.
• Hyr en person til at overvåge indhold og faktatjek, som rapporterer direkte til CEO eller COO.
• Udvid yderligere moderation i udsatte lande i Asien, Afrika og andre steder.
• Giv alle moderatorer topkvalitet, on-site medicinsk behandling, herunder adgang til psykiatere.
• Sponsorer forskning i sundhedsrisici ved indholdsmoderering, især PTSD.
• Udforsk snævert skræddersyet regeringsregulering af skadeligt indhold.
• Udvid faktatjek markant for at afsløre falsk information.

Forslagene er mildest talt ambitiøse. Da Facebook blev kontaktet for en kommentar, ville de ikke diskutere, om de ville overveje at vedtage dem. En talsmand sagde dog, at dens nuværende tilgang betyder, at vi hurtigt kan justere fokus på vores arbejdsstyrke efter behov, og tilføjede, at det giver os mulighed for at sikre, at vi har den rigtige sprogekspertise - og hurtigt kan ansætte i forskellige tidszoner - som nye behov opstår, eller når en situation rundt om i verden tilsiger det.

Men Barrett mener, at et nyligt eksperiment udført som reaktion på coronakrisen viser, at forandring er mulig. Facebook meddelte, at fordi mange af dets indholdsmoderatorer ikke var i stand til at gå ind på firmaets kontorer, ville det gøre det flytte ansvaret til interne medarbejdere til kontrol af visse følsomme kategorier af indhold.

Jeg synes, det er meget sigende, at Zuckerberg i et kriseøjeblik stolede på de mennesker, han stoler på: sine fuldtidsansatte, siger han. Måske kunne det ses som grundlaget for en samtale inden for Facebook om justering af den måde, det ser på indholdsmoderering.

skjule