Hvorfor sociale medier ikke kan blive ved med at moderere indhold i skyggen

Pexels

Tilbage i 2016 kunne jeg tælle på én hånd den slags indgreb, som teknologivirksomheder var villige til at bruge for at befri deres platforme for misinformation, hadefulde ytringer og chikane. Gennem årene har grove mekanismer som blokering af indhold og forbud mod konti forvandlet sig til et mere komplekst sæt værktøjer, herunder emner i karantæne, fjernelse af indlæg fra søgning, spærring af anbefalinger og nedprioritering af indlæg.

Og alligevel, selv med flere muligheder til deres rådighed, er misinformation fortsat et alvorligt problem. Der var stor dækning om misinformation på valgdagen - min kollega Emily Drefyuss fandt f.eks. ud af, at da Twitter forsøgte at håndtere indhold ved hjælp af hashtagget #BidenCrimeFamily, med taktik, herunder deindeksering ved at blokere søgeresultater, brugere inklusive Donald Trump tilpasset ved at bruge varianter af samme tag . Men vi ved stadig ikke meget om, hvordan Twitter besluttede at gøre disse ting i første omgang, eller hvordan det vejer og lærer af de måder, brugere reagerer på moderation.

Hvilke handlinger tog disse virksomheder? Hvordan fungerer deres moderationsteams? Hvad er processen for at træffe beslutninger?

Da sociale medievirksomheder suspenderede konti og mærkede og slettede opslag, forsøgte mange forskere, civilsamfundsorganisationer og journalister at forstå deres beslutninger. Manglen på gennemsigtighed om disse beslutninger og processer betyder, at valgresultaterne – for mange – ender med en stjerne i år, ligesom de gjorde i 2016.

Hvilke handlinger tog disse virksomheder? Hvordan fungerer deres moderationsteams? Hvad er processen for at træffe beslutninger? I løbet af de sidste par år har platformvirksomheder sammensat store task forces dedikeret til at fjerne misinformation om valg og mærke tidlige sejrserklæringer. Sarah Roberts , en professor ved UCLA, har skrevet om det usynlige arbejde, som moderatorer for platformsindhold er en skyggeindustri, en labyrint af entreprenører og komplekse regler, som offentligheden ikke ved meget om. Hvorfor ved vi ikke mere?

I tågen efter valget er sociale medier blevet terrænet for en lavkvalitetskrig mod vores kognitive sikkerhed, med misinformationskampagner og konspirationsteorier, der breder sig. Når broadcast-nyhedsbranchen tjente rollen som informations-gatekeeper, var det det beklædt med forpligtelser i almen interesse såsom at dele rettidig, lokal og relevant information. Sociale medievirksomheder har arvet en lignende position i samfundet, men de har ikke påtaget sig det samme ansvar. Denne situation har ladet kanonerne for påstande om skævhed og censur i, hvordan de modererede valgrelateret indhold.

Afholder omkostningerne

I oktober, I sluttede sig til et panel af eksperter om misinformation, sammensværgelse og infodemier for House Permanent Select Committee on Intelligence. Jeg blev flankeret af Cindy Otis, en tidligere CIA-analytiker; Nina Jankowicz, en desinformationsstipendiat ved Wilson Center; og Melanie Smith, analysechef hos Graphika.

Da jeg forberedte mit vidnesbyrd, kæmpede Facebook for at klare QAnon, en militariseret social bevægelse, der blev overvåget af deres afdeling for farlige organisationer og fordømt af Parlamentet i et todelt lovforslag . Mit hold har været efterforsker QAnon i årevis . Denne konspirationsteori er blevet et yndet emne blandt misinformationsforskere på grund af alle de måder, den er forblevet udvidelig, tilpasningsdygtig og modstandsdygtig over for platformvirksomheders bestræbelser på at sætte den i karantæne og fjerne den.

QAnon er også blevet et problem for Kongressen, fordi det ikke længere handler om folk, der deltager i en mærkeligt online spil: det har ramt ned som en tornado i politikernes liv, som nu er mål for chikanekampagner, der krydser over fra feber drømmer om voldskonspirationer . Desuden er det sket hurtigt og på nye måder. Konspirationsteorier tager normalt år at sprede sig gennem samfundet, med fremme af centrale politiske, medier og religiøse personer. Sociale medier har fremskyndet denne proces gennem stadigt voksende former for indholdslevering. QAnon-følgere kommenterer ikke kun nyheder; de bøjer det efter deres bud .

Jeg fokuserede mit vidnesbyrd på de mange unavngivne skader forårsaget af sociale medievirksomheders manglende evne til at forhindre misinformation i at mætte deres tjenester. Journalister, folkesundheds- og medicinske fagfolk, civilsamfundsledere og byadministratorer, som lovhåndhævelse og valgembedsmænd, bærer omkostningerne ved misinformation i stor skala og byrden ved at håndtere dens virkninger. Mange mennesker tipper på tæerne omkring politiske spørgsmål, når de chatter med venner og familie, men efterhånden som misinformation om protester begyndte at mobilisere hvide borgervagter, og medicinsk misinformation fik folk til at bagatellisere pandemien, indtog forskellige professionelle sektorer vigtige nye roller som fortaler for sandheden .

Tag folkesundheds- og sundhedspersonale, som har været nødt til at udvikle ressourcer til at afbøde medicinsk misinformation om covid-19. Læger forsøger at blive online influencers for at korrigere falske råd og falske påstande om mirakelkure – det tager tid fra at yde pleje eller udvikle behandlinger. Mange nyhedsredaktioner tilpassede sig i mellemtiden normaliseringen af ​​misinformation på sociale medier ved at udvikle et misinformationsbeat - afsløring af konspirationsteorier eller falske nyhedspåstande, der kan påvirke deres læsere. Men disse ressourcer ville være meget bedre brugt på at opretholde journalistik i stedet for i det væsentlige at fungere som tredjeparts indholdsmoderatorer.

Relateret historie

Tak for indlægget: Rygnings lektioner til regulering af sociale medier Tidligere Facebook-chefer indrømmer, at de brugte tobaksindustriens spillebog til vanedannende produkter. Måske kan den også bruges til at fortryde skaden.

Civilsamfundsorganisationer er også blevet tvunget til at bruge ressourcer på at overvåge misinformation og beskytte deres base mod målrettede kampagner. Racialiseret desinformation er en erfaren taktik af indenlandske og udenlandske indflydelsesoperationer: Kampagner efterligner enten farvede fællesskaber eller bruger racisme til at øge polariseringen af ​​wedge-spørgsmål. Brandi Collins-Dexter vidnede om disse spørgsmål ved en kongreshøring i juni og fremhævede, hvordan teknologivirksomheder gemmer sig bag opfordringer til at beskytte ytringsfrihed for enhver pris uden at gøre nok for at beskytte sorte samfund, der er målrettet dagligt på sociale medier med medicinsk misinformation, hadefulde ytringer, tilskyndelse og chikane.

Valgfunktionærer , retshåndhævende personale og førstehjælpere er i en alvorlig ulempe, når de forsøger at udføre deres arbejde, mens rygter og konspirationsteorier spredes online. Lige nu, retshåndhævelsen forbereder sig på vold ved valgstederne.

En vej til forbedring

Når misinformation spreder sig fra den digitale til den fysiske verden, kan den omdirigere offentlige ressourcer og true folks sikkerhed. Det er grunden til, at sociale medievirksomheder skal tage problemet lige så alvorligt, som de tager deres ønske om at profitere.

Men de har brug for en vej til at forbedre sig. § 230 i lov om kommunikation og anstændighed giver sociale medievirksomheder mulighed for at forbedre indholdsmoderering, men politikere har truet med at fjerne disse beskyttelser så de kan fortsætte med deres egne propagandakampagner. Under hele høringen i oktober dukkede spøgelset op for et nyt agentur, der uafhængigt kunne revidere krænkelser af borgerrettigheder, undersøge spørgsmål om databeskyttelse og vurdere markedseksternaliteterne for denne industri på andre sektorer.

Som jeg argumenterede under høringen, betyder den enorme rækkevidde af sociale medier over hele kloden, at det er vigtigt, at regulering ikke begynder med at afvikle § 230, før en ny politik er på plads.

Indtil da har vi brug for mere gennemsigtighed. Misinformation handler ikke kun om fakta; det handler om, hvem der får sagt, hvad fakta er. Retfærdige beslutninger om moderation af indhold er nøglen til offentlig ansvarlighed.

I stedet for at holde fast i teknostalgien i en tid, hvor det ikke var så slemt, er det nogle gange værd at spørge, hvad det ville kræve for at opfinde sociale medier, så vi kan udstikke en kurs for det web, vi ønsker – et web, der fremmer demokrati, viden, omsorg og retfærdighed. Ellers bliver enhver uforklarlig beslutning fra tech-virksomheder om adgang til information potentielt foder for konspiratorer og, endnu værre, grundlaget for at overskride regeringens politik.

skjule