Facebooks lækkede moderationsregler viser, hvorfor Big Tech ikke kan politiets hadefulde ytringer

Kategori: Silicon Valley Udsendt 28. dec

Samfundet bad Big Tech om at lukke ned for hadefulde ytringer online. Vi fik præcis, hvad vi bad om.

Nyhederne: New York Times' Max Fisher offentliggjorte uddrag fra mere end 1.400 sider med interne Facebook-dokumenter, der indeholder regler for virksomhedens globale hær af mere end 7.500 indholdsmoderatorer. (Bundkort havde tidligere offentliggjort noget af det samme materiale.)

Hvad er der indeni? Et vidtstrakt samling af retningslinjer, begrænsninger og klassifikationer. Alene reglerne om hadefulde ytringer løber op i 200 jargonfyldte, hovedsnurrende sider. De inkluderer detaljer om, hvordan man fortolker emoji (brug af ? kan tilsyneladende både være mobning og ros) og lister over personer eller politiske partier, der skal overvåges for mulige hadefulde ytringer. Dokumenterne viser, at Facebook er en langt mere magtfuld dommer for global tale, end den har indrømmet, skriver Fisher.

Problemet: Retningslinjerne er ikke kun byzantinske; nogle er forældede eller indeholder fejl. De varierer også meget afhængigt af, hvor meget pres virksomheden er under: Facebook blokerer snesevis af højreekstremistiske grupper i Tyskland, hvor myndighederne gransker det sociale netværk, men kun én i nabolandet Østrig. Moderatorer, hvoraf de fleste arbejder for outsourcingvirksomheder og får minimal træning, forventes at foretage komplekse vurderinger i løbet af få sekunder, behandler tusinde indlæg om dagen , med regler, der ofte ændres som reaktion på politiske begivenheder, og ofte ved hjælp af Google Translate.

Takeaway: Dette fjerner evt resterende forstillelse at Facebook blot er en neutral publiceringsplatform. Politiske domme gennemsyrer hver side af disse retningslinjer.

Men hvad forventede du? Som Facebooks tidligere sikkerhedschef, Alex Stamos, fortalte mig i oktober, har vi krævet, at teknologiske platforme politier hadefulde ytringer, og det giver dem kun mere magt. Det er en farlig vej, advarede Stamos. Om fem eller ti år kan der være maskinlæringssystemer, der forstår menneskelige sprog såvel som mennesker. Vi kunne ende med maskinhastighed, realtidsmoderering af alt, hvad vi siger online.