YouTube sletter videoer om nazistisk historie som en del af deres nedkæmpelse af hadefulde ytringer

Kategori: Silicon Valley Udsendt juni 07

Sidens hæsblæsende uge viser, hvilken udfordring moderering er blevet for store teknologivirksomheder.

Nyhederne: YouTube annonceret nye regler omkring hadefulde ytringer i onsdags, der forbyder videoer, der promoverer nazistisk ideologi eller benægter eksistensen af ​​Holocaust eller andre veldokumenterede voldelige begivenheder som skyderiet på Sandy Hook Elementary School. Tusindvis af kanaler forventes at blive lukket ned. Men nu klager flere lærere over, at videoer, der er uploadet for at oplyse folk om nazistisk historie, er blevet slettet, vogteren rapporteret.

Naziproblemet: Hadefulde ytringer, og hvordan man overvåger det, er ikke et nyt problem for YouTube eller andre sociale platforme. Men dette viser, hvor fyldt og kompleks balancen er, og fremhæver risikoen for utilsigtede konsekvenser, når politikker og algoritmer justeres. Det er også en påmindelse om, hvor meget magt store teknologivirksomheder har som gatekeepere for det materiale, vi forbruger online.

Ingen undskyldninger: Denne kompleksitet fritager ikke YouTube, som ejes af Google, for dets ansvar. I denne uge afslørede New York Times, at dens anbefalingsmotor (som driver 70 % af alle visninger) har gjort det lettere for pædofile at finde videoer af børn. En senator har sagt, at YouTube ligefrem burde stoppe med at anbefale videoer af mindreårige, men i betragtning af det stort stykke af YouTubes publikum er børn, det er usandsynligt, at virksomheden tager det skridt. Det også flip-floppet om man skal forbyde en højreorienteret personlighed for at chikanere en homoseksuel latino-journalist.

Tilmeld dig vores daglige nyhedsbrev The Download her for at få din dosis af de seneste must-read nyheder fra den nye teknologiske verden.