EmTech Stage: Twitters CTO om misinformation

I det andet af to eksklusive interviews satte Technology Review's chefredaktør Gideon Lichfield sig sammen med Parag Agrawal, Twitters Chief Technology Officer for at diskutere stigningen i misinformation på den sociale medieplatform. Agrawal diskuterer nogle af de foranstaltninger, som virksomheden har truffet for at slå tilbage, mens han indrømmer, at Twitter forsøger at trænge en nål af afbødende skade forårsaget af falsk indhold uden at blive en dommer over sandheden. Denne samtale er fra den virtuelle EmTech MIT-konference og er blevet redigeret for klarhedens skyld.

For mere dækning om dette emne, tjek ud denne uges afsnit af Deep Tech og vores tekniske politikdækning.

Credits:

Denne episode fra EmTech MIT blev produceret af Jennifer Strong og Emma Cillekens, med særlig tak til Brian Bryson og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Afskrift:

Stærk: Hej alle sammen, det er Jennifer Strong tilbage med del to af vores samtale om misinformation og sociale medier. Hvis Facebook er et mødested, hvor du går for at finde dit community, YouTube en koncertsal eller backstage for noget, du er fan af, så er Twitter lidt ligesom den offentlige plads, hvor du går for at finde ud af, hvad der bliver sagt om noget. Men hvilket ansvar har disse platforme, når disse samtaler udfolder sig? Twitter har sagt, at et af dets ansvar er at sikre, at den offentlige samtale er sund. Hvad betyder det, og hvordan måler man det?

Det er et spørgsmål, vi stiller til Twitters teknologichef Parag Agrawal. Her er han i samtale med Tech Reviews chefredaktør Gideon Lichfield. Det blev optaget på vores EmTech-konference og er blevet redigeret for længde og klarhed.

Lichfield: For et par år siden var der et projekt, du startede med at tale om målinger, der kunne måle, hvad en sund offentlig samtale er. Jeg har ikke set ret meget til det siden da. Så hvad sker der med det? Hvordan måler du dette?

Agrawal: For to år siden, da vi faktisk arbejdede med nogle mennesker på MIT medielaboratoriet og inspireret af tankerne, gik vi i gang med et projekt for at arbejde med akademikere uden for virksomheden for at se, om vi kunne definere nogle få simple metrikker eller målinger for at indikere sundhed i den offentlige samtale. Det, vi indså i samarbejdet med eksperter fra mange steder, er, at det er meget, meget udfordrende at koge nuancerne og forviklingerne af, hvad vi betragter som en sund offentlig samtale, til nogle få enkle at forstå, let at måle målinger, som du kan sætte din tro på. Og denne samtale har informeret om en ændring i vores tilgang.

Det, der har ændret sig, er, om vi er præskriptive i forsøget på at koge tingene ned til nogle få tal. Men det, der er tilbage, er, at vi indser, at vi er nødt til at arbejde med akademiske forskere uden for Twitter, dele flere af vores data i et åbent miljø, hvor de er i stand til at bruge dem til at forske, for at fremme forskellige områder. Øh, og der er en masse API-relaterede produkter, som vi sender i løbet af de kommende måneder. Og en af ​​de ting, der direkte førte til den samtale, var i april, da vi så, øh, COVID, øh, vi skabte et slutpunkt for COVID-relateret samtale, som akademiske forskere kunne få adgang til. Uh, vi har set forskning på tværs af fire 20 lande, få adgang til det.

Så på en eller anden måde er jeg glad for, at vi begav os ud på den rejse. Og jeg håber stadig, at med denne åbne tilgang vil der være akademikere og vores samarbejde med dem, som i sidste ende vil føre os til at forstå offentlig samtale og sund offentlig samtale nok til at kunne koge målingen ned til få målinger . Men jeg er også begejstret for alle de andre forskningsmuligheder, som denne tilgang åbner for os.

Lichfield: Har du en fornemmelse af, hvordan et eksempel på en sådan metrik ville se ud?

Agrawal: Så da vi satte os for at tale om dette, antog vi, at der var nogle få målinger omkring, deler folk en følelse af virkeligheden? Har mennesker forskellige perspektiver og kan blive udsat for forskellige perspektiver? Vi tænkte på, om samtalen er civil, ikke? Så konceptuelt er disse alle egenskaber, vi ønsker i en sund offentlig samtale. Udfordringen ligger i at kunne måle dem på en måde, der er i stand til at udvikle sig i takt med, at samtalen udvikler sig, på en måde, der er pålidelig og kan tåle tidens tand, da samtalen for to år siden var meget anderledes end samtalen i dag. Udfordringerne for to år siden, som vi forstod dem, er meget forskellige i dag. Øh, og det er her, nogle af udfordringerne og vores forståelse af, hvad sund offentlig organisation betyder, stadig dukker op for, at vi kan koge det ned i disse simple metrikker.

Lichfield: Lad os tale lidt om nogle af de ting, du har gjort i løbet af de sidste par år. Jeg mener, der har selvfølgelig været meget opmærksomhed på beslutningerne om at markere nogle af Donald Trumps tweets. Jeg tror, ​​at det mere systematiske arbejde, du har udført de sidste par år mod misinformation, kan du opsummere hovedpunkterne i det, du har lavet?

Agrawal: Vores tilgang til det er ikke at forsøge at identificere eller markere al potentiel misinformation. Men vores tilgang er forankret i at forsøge at undgå specifik skade, som vildledende information kan forårsage. Vi har været fokuseret i vores tilgang og fokuseret på skade, der kan ske med misinformation omkring COVID-19, som har at gøre med folkesundhed, hvor nogle få mennesker, der bliver fejlinformeret, kan føre til konsekvenser for alle. På samme måde fokuserede vi på misinformation omkring det, vi kalder borgerlig integritet, som handler om, at folk har evnen til at vide, hvordan de skal deltage i valg.

Så et eksempel, bare for at gøre dette klart, er omkring borgerlig integritet, vi bekymrer os om, og vi griber ind over for indhold, der kan misinformere folk, der siger, at du skal stemme den 5. november, når valgdagen er den 3. november. Og vi forsøger ikke at afgøre, hvad der er sandt eller falsk, når nogen indtager en politisk holdning, eller når nogen siger, at himlen er lilla eller blå, eller rød for den sags skyld. Vores tilgang til misinformation er heller ikke en, der er fokuseret på at fjerne indhold som den eneste foranstaltning, hvilket er det regime, vi alle har opereret i i mange år. Men det er en mere og mere nuanceret tilgang med en række interventioner, hvor vi tænker over, hvorvidt bestemt indhold skal forstærkes uden kontekst, eller om det er vores ansvar at give en kontekst, så folk kan se en masse information, men også har evne og lethed til at opdage al samtalen og konteksten omkring det, til at informere sig selv om, hvad de vælger at tro på.

Lichfield: Hvordan vurderer man, om noget er skadeligt uden også at forsøge at finde ud af, om det er sandt, med andre ord, specifikt COVID for eksempel?

Agrawal: Det er et godt spørgsmål, og jeg tror, ​​at du i nogle tilfælde stoler på troværdige kilder til at give den kontekst. Så du behøver ikke altid at afgøre, om noget er sandt eller falsk, men hvis der er potentiale for skade, vælger vi ikke at markere noget som sandt eller falsk, men vi vælger at tilføje et link til troværdige kilder eller til yderligere samtale omkring dette emne, for at give folk kontekst omkring indholdet, så de kan blive bedre informeret, selvom disse data til forståelse og viden udvikler sig. Og offentlig samtale er afgørende for denne udvikling. Vi så folk lære gennem Twitter på grund af den måde, de blev informeret på. Og eksperter har samtaler via Twitter for også at fremme vores forståelse omkring denne sygdom.

Lichfield: Folk har advaret om QAnon i årevis. Du begyndte at fjerne QAnon-konti i juli. Hvad tog dig så lang tid? Hvorfor har du… hvad ændrede sig i din tankegang?

Agrawal: Den måde, vi tænker om QAnon på, eller vi tænkte på QAnon, er, at vi har en koordineret manipulationspolitik, som vi har haft i et stykke tid, og måden det fungerer på, er, at vi arbejder med civile tjenester og menneskerettighedsgrupper over hele kloden i at forsøge at forstå, hvilke grupper, eller hvilke organisationer, eller hvilken slags aktivitet stiger til et skadesniveau, hvor det kræver handling fra os. Set i bakspejlet ville jeg ønske, at vi havde handlet tidligere, men da vi forstod truslen godt, ved at arbejde med disse grupper, tog vi handling, og vores handlinger har involveret en slags faldende forstærkning af dette indhold og markering af dette indhold på en måde, der førte til meget hurtigt fald i mængden af ​​rækkevidde QAnon og relateret indhold kom på platformen med over 50 %. Og siden da har vi set vedvarende fald som følge af denne flytning.

Lichfield: Jeg får en del spørgsmål fra salen, som sådan set alle spørger om det samme. Og de spørger dybest set, ja, jeg vil læse dem. Hvem skal bestemme, hvad der er misinformation? Kan du give en klar klinisk definition af misinformation? Skal noget have ondsindet hensigt for at være misinformation? Hvordan ved du, om dine troværdige kilder er sandfærdige, hvad der måler troværdigheden af ​​disse kilder, og nogen siger endda, at jeg har set misinformation i de såkaldte troværdige kilder. Så hvordan definerer du den sætning?

Agrawal: Jeg tror, ​​det er vor tids eksistentielle spørgsmål. At definere misinformation er virkelig, virkelig svært. Efterhånden som vi lærer gennem tiden, udvikler vores forståelse af sandheden sig også. Vi forsøger ikke at dømme sandheden, vi fokuserer på potentialet for skade. Og når vi siger, at vi læner os op af troværdige kilder, læner vi os også op af al samtalen på platformen, der også kommer til at tale om disse troværdige kilder og påpeger potentielle huller, som et resultat af, at de troværdige kilder også udvikler deres tankegang eller hvad de taler. om.

Så vi fokuserede langt mindre på, hvad der er sandt og hvad der er falsk. Vi fokuserer langt mere på potentialet for skade som følge af, at bestemt indhold forstærkes på platformen uden passende kontekst. Og kontekst er ofte blot en yderligere samtale, der giver et andet synspunkt på et emne, så folk kan se bredden af ​​samtalen på vores platform og udenfor og træffe deres egne beslutninger i en verden, hvor vi alle lærer sammen.

Lichfield: Anvender du en anden standard for ting, der kommer fra verdens ledere?

Agrawal: Vi har en politik omkring offentligt indhold i offentlighedens interesse, det er i vores politiske rammer. Så ja, vi anvender forskellige standarder. Og det er baseret på forståelsen og viden om, at der er bestemt indhold fra folkevalgte, som er vigtigt for offentligheden at se og høre. Og at alt indholdet på Twitter ikke kun er på Twitter. Det er på redaktioner, det er på pressekonferencer, men ofte er kildeindholdet på Twitter. Politikken for offentlig interesse eksisterer for at sikre, at kildeindholdet er tilgængeligt. Vi markerer dog meget tydeligt for alle omkring os, når sådant indhold overtræder nogen af ​​vores politikker. Vi tager det modige træk for at markere det, mærke det, så folk har den passende kontekst, at dette faktisk er et eksempel på en krænkelse, så folk kan se på indholdet i lyset af denne forståelse.

Lichfield: Hvis du tager præsident Trump, var der en Cornell-undersøgelse, der viste det - de målte, at 38% af COVID misinformation omtaler ham. De kaldte dem den største enkeltstående årsag til misinformation omkring COVID. Du har markeret nogle af hans tweets, men der er meget, han udtaler, som ikke helt lever op til den strenge definition af misinformation, og alligevel vildleder folk om pandemiens natur. Så mon ikke dette, denne undtagelse for offentlige embedsmænd, underminerer ikke hele strategien?

Agrawal: Enhver offentlig embedsmand har adgang til flere måder at nå folk på. Twitter er en af ​​dem. Vi eksisterer i et stort økosystem. Vores tilgang til mærkning af indhold giver os faktisk mulighed for ved kilden at markere indhold, der potentielt kan skade folk, og også give folk yderligere kontekst og yderligere samtale omkring det. Så mange af disse undersøgelser, og jeg er ikke bekendt med den, du citerede, er faktisk bredere end Twitter. Og hvis de handler om Twitter, taler de om rækkevidde og indtryk, uden at tale om, at folk også bliver udsat for andre bidder af information omkring emnet. Nu kan vi ikke bestemme, hvad folk vælger at tro, men vi får vist indhold og en mangfoldighed af synspunkter om ethvert emne, så folk kan træffe deres egne beslutninger.

Lichfield: Det lyder lidt som om du prøver at sige, det er ikke kun vores skyld. Det er alles skyld. Og derfor er der ikke meget, vi kan gøre ved det.

Agrawal: Jeg tror ikke, jeg siger det. Hvad jeg taler om, emnerne misinformation har altid eksisteret i samfundet. Vi er nu en kritisk del af den offentlige samtale, og det er vores rolle i verden. Det er ikke emner, vi kommer til at frigøre os fra. Det er emner, der forbliver relevante i dag og vil forblive relevante om fem år. Jeg lever ikke i illusionen om, at vi kan gøre noget, der på magisk vis får det vildledende informationsproblem til at forsvinde. Vi har ikke den slags magt eller kontrol. Og jeg vil helt ærligt ikke have den magt eller kontrol. Men vi har det privilegium at lytte til mennesker, at have et mangfoldigt sæt mennesker på vores platform, at de udtrykker et forskelligt sæt synspunkter, de ting, der virkelig betyder noget for alle, og for os at kunne vise dem frem med den rette kontekst, så samfundet kan lære af hinanden og komme videre.

Lichfield: Når man taler om at lade folk se indhold og drage deres egne konklusioner eller komme til deres egne meninger, det er den slags sprog, man forbinder med, jeg tror, ​​at den måde, sociale medieplatforme traditionelt præsenterede sig selv på. 'Vi er bare et neutralt rum, folk kommer og bruger os, vi forsøger ikke at dømme'. Og det virker lidt i modstrid med det, du tidligere sagde om ønsket om at fremme en sund offentlig samtale, hvilket helt klart indebærer en masse værdidomme om, hvad der er sundt. Så hvordan forener du de to?

Agrawal: Åh, jeg siger ikke, at vi er en neutral part i hele denne samtale. Som jeg sagde, er vi en kritisk del af den offentlige samtale. Og du ønsker ikke, at vi skal dømme, hvad der er sandt eller falsk i verden. Og ærligt talt kan vi ikke gøre det globalt i alle de lande, vi arbejder i på tværs af alle de kulturer og alle de nuancer, der findes. Vi har dog det privilegium at have alle på platformen til at kunne ændre tingene, give folk mere kontrol og være nødt til at styre samtalen på en måde, så den er mere modtagelig og tillader flere stemmer at blive hørt og for alle. af os for at blive bedre informeret.

Lichfield: En af de ting, som nogle iagttagere siger, at du kunne gøre, og som ville gøre en stor forskel, ville være at afskaffe funktionen med trending-emner, fordi det er her, en masse misinformation ender med at dukke op. Ting som QAnon-hashtagget redder børnene, eller der var en konspirationsteori om Hillary Clinton-medarbejdere, der manipulerede Iowa-caucus. Nogle gange kommer den slags ind i trendemner, og så har de en stor indflydelse. Hvad mener du om det?

Agrawal: Jeg ved ikke, om du så det, men netop i denne uge lavede vi en ændring i, hvordan trends og trendemner fungerer på platformen. Og en af ​​de ting, vi gjorde, var, at vi vil vise kontekst på alt, hvad der trender, så folk er bedre informeret, når de ser, hvad folk taler om.

Stærk: Vi tager en kort pause - men først... vil jeg foreslå et andet show, som jeg tror, ​​du vil kunne lide. Brave New Planet vejer fordele og ulemper ved en lang række kraftfulde innovationer inden for videnskab og teknologi. Dr. Eric Lander, der leder Broad Institute of MIT og Harvard, udforsker svære spørgsmål som f.eks

Lander: Skal vi ændre jordens atmosfære for at forhindre klimaændringer? Og kan sandhed og demokrati overleve virkningen af ​​deepfakes?

Stærk: Brave New Planet er fra Pushkin Industries. Du kan finde den overalt, hvor du får dine podcasts. Vi vender tilbage lige efter dette.

[Reklame]

Stærk: Velkommen tilbage til et særligt afsnit af In Machines We Trust. Dette er en samtale mellem Twitters Chief Technology Officer Parag Agrawal og Tech Reviews chefredaktør Gideon Lichfield. Hvis du vil have mere om dette emne, inklusive vores analyse, så tjek venligst shownoterne eller besøg os på Technology Review dot com.

Lichfield: Valget er åbenbart meget tæt på. Og jeg tror, ​​at mange mennesker spørger, hvad der kommer til at ske, især på valgdagen, da der begynder at komme rapporter fra meningsmålingerne, er der bekymring for, at nogle politikere kommer til at sprede rygter om vold eller stemmesvindel eller andre, andre problemer , hvilket igen kan udløse demonstrationer og vold. Og så det er noget, som alle de sociale platforme bliver nødt til at reagere på meget hurtigt i realtid. Hvad skal du lave?

Agrawal: Vi har arbejdet igennem valg i mange lande i løbet af de sidste fire år. Indien, Brasilien, store demokratier lærte gennem hver af dem, og vi har arbejdet i årenes løb for at være bedre forberedt på det, der kommer. Sidste år lavede vi en ændring omkring politik for at forbyde al politisk annoncering på Twitter, som var i forventning om dets potentiale til at gøre skade. Og vi ønskede, at vores opmærksomhed skulle være fokuseret, ikke på reklamer, men på den offentlige samtale, der foregår organisk, for at kunne beskytte den og forbedre den, især når den vedrører samtaler omkring valget.

Vi gjorde en masse arbejde med teknologi for at blive bedre til at opdage og forstå statslige dårlige aktører og deres forsøg på at manipulere valg, og vi har været meget gennemsigtige omkring dette. Vi har offentliggjort hundredvis af sådanne operationer fra over 10 nationer, med titusindvis af konti hver og terabytes af data, der gør det muligt for folk uden for virksomheden at analysere dem og forstå de manipulationsmønstre, der er i spil. Og vi er gået videre med produktændringer for at få mere omtanke og omtanke i, hvordan folk deler indhold, og hvordan folk forstærker indhold.

Så vi har lavet en masse af dette arbejde som forberedelse og gennem læring undervejs. For at komme til et svar om valgaften. Vi har også styrket politikker for vores borgerlige integritet for ikke at tillade nogen, nogen kandidater eller nogen på tværs af alle racer at kunne gøre krav på et valg, når en vinder ikke er blevet erklæret. Vi har også strenge foranstaltninger på plads for at undgå tilskyndelse til vold. Og vi har et team klar, som vil arbejde 24/7 for at bringe os i en agil tilstand.

Når det er sagt, har vi gjort en masse arbejde for at forudse, hvad der kunne ske, men en ting, vi med sikkerhed ved, er, at det, der sandsynligvis vil ske, ikke er noget, vi nøjagtigt har forudset. Så hvad vil være vigtigt for os den aften og derefter, og endda før det tidspunkt, at være forberedte, at være smidige, at reagere på den feedback, vi fik på platformen, at reagere på den samtale, du ser på og udenfor platformen, øh, og prøv at gøre vores bedste for at tjene den offentlige samtale i denne vigtige tid i dette land.

Lichfield: Nogen i, øh, blandt publikum spurgte noget, som jeg ikke tror, ​​du ville gå med til, hvilket var, sagde de, skulle Facebook og Twitter lukkes ned i tre dage før valget? Men måske en mere beskeden version af det ville være, er der en form for indhold, som du mener bør lukkes ned lige før et valg?

Agrawal: Netop i denne uge er en af ​​de fremtrædende ændringer, der er værd at tale om i nogle detaljer, at vi fik folk til at tage mere hensyn, mere eftertanke, når de retweet. Så i stedet for nemt at kunne retweete indhold uden yderligere kommentarer, vil vi nu som standard tilføje en kommentar, når de retweet. Og dette er af to grunde, en for at tilføje yderligere overvejelser, når du retweet og forstærker bestemt indhold, og to, for at få indhold til at blive delt med mere kontekst om, hvad du synes om det, så folk forstår, hvorfor du deler det, og hvad konteksten omkring samtalesættet er. Vi fik også tendenserne til at ændre sig, som jeg beskrev tidligere. Det er ændringer, der er beregnet til at få samtalen på Twitter til at være mere gennemtænkt.

Når det er sagt, vil Twitter være et meget, meget kraftfuldt værktøj i valgperioden for folk til at forstå, hvad der sker, for folk at få virkelig vigtig information. Vi har mærker på alle kandidater. Vi har information på platformen om, hvordan de kan stemme. Vi har feedback i realtid fra folk over hele landet, der fortæller folk, hvad der sker på jorden. Og alt dette er vigtig information for alle i dette land at være opmærksomme på i den tid. Det er et øjeblik, hvor hver af os leder efter information, og vores platform spiller en særlig vigtig rolle på den dag.

Lichfield: Du er fanget på et lidt hårdt sted, da nogen blandt publikum også påpeger, at du forsøger at bekæmpe misinformation, du vil også beskytte ytringsfriheden som en kerneværdi, og også i USA som den første ændring. Hvordan balancerer du de to?

Agrawal: Vores rolle er ikke at være bundet af det første ændringsforslag, men vores rolle er at tjene en sund offentlig samtale, og vores tiltag afspejler ting, som vi mener fører til en sundere offentlig samtale. Den slags ting, vi gør ved dette, er at fokusere mindre på at tænke på ytringsfrihed, men på at tænke på, hvordan tiderne har ændret sig. En af de ændringer i dag, vi ser, er tale er let på internettet. De fleste kan tale. Der, hvor vores rolle er særligt fremhævet, er, hvem der kan blive hørt. Den knappe vare i dag er opmærksomhed. Der er meget indhold derude. Mange tweets derude, ikke det hele får opmærksomhed, en delmængde af det får opmærksomhed. Og så i stigende grad bevæger vores rolle sig mod, hvordan vi anbefaler indhold, og den slags, er, er, en kamp, ​​som vi arbejder igennem med hensyn til, hvordan vi sikrer, at disse anbefalingssystemer, som vi bygger, hvordan vi retter folks opmærksomhed. fører til en sund offentlig samtale, der er mest deltagende.

Lichfield: Nå, vi er ude af tiden, men tak for et virkelig interessant indblik i, hvordan du tænker om disse meget komplicerede problemstillinger.

Agrawal: Tak Gideon for at have mig.

[Musik]

Stærk: Hvis du gerne vil høre vores nyhedsredaktions analyse af dette emne og valget... Jeg har droppet et link i vores udsendelsesnotater. Jeg håber du vil tjekke det ud. Denne episode fra EmTech blev produceret af mig og af Emma Cillekens, med særlig tak til Brian Bryson og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield. Som altid, tak fordi du lyttede. Jeg er Jennifer Strong.

[TR ID]

skjule