YouTubes algoritme ser ud til at lede folk til alt-right-videoer

Kategori: Mennesker og teknologi Udsendt 29 jan

En ny undersøgelse tyder på, at det, vi har haft mistanke om i årevis, er rigtigt: YouTube er en pipeline for ekstremisme og had.

Hvordan ved vi det? Mere end 330.000 videoer på næsten 350 YouTube-kanaler blev analyseret og manuelt klassificeret i henhold til et system designet af Anti-Defamation League. De blev stemplet som enten medier (eller hvad vi tænker på som faktuelle nyheder), alt-lite intellektuelt mørkt web eller alt-right.

Grupperne: Alt-højre er det, der traditionelt forbindes med hvid overherredømme, der presser på for en hvid etnostat. De, der tilslutter sig det intellektuelle mørke web, retfærdiggør hvid overherredømme på grundlag af eugenik og racevidenskab. Medlemmer af alt-lite hævder ikke at støtte hvid overherredømme, selvom de tror på konspirationsteorier om erstatning med minoritetsgrupper.

Gateway: Undersøgelsens forfattere antog, at det alt-lite og intellektuelle mørke web ofte tjener som en indgang til mere ekstreme, højreekstremistiske ideologier. Så de testede det ved at spore forfatterne af 72 millioner kommentarer på omkring to millioner videoer mellem maj og juli sidste år. Resultaterne var bekymrende. Mere end 26 % af de personer, der kommenterede alt-lite-videoer, havde en tendens til at glide over til alt-right-videoer og efterfølgende kommentere der.

Skyld spil: Det er ret nemt at komme til alt-lite og intellektuelt mørkt webindhold med en simpel søgning, men alt-right-videoer har en tendens til at være sværere at finde for førstegangsbrugere. Alligevel fandt forskerne ud af, at YouTubes algoritme ofte rettede brugere, der søgte efter specifikke søgeord, mod stadig mere voldeligt, ekstremt indhold.

Og det bliver værre: Holdet, fra det schweiziske føderale institut for teknologi, Lausanne, fandt også beviser på, at overlapningen mellem alt-righters og andre, der boltrer sig i intellektuelt dark web og alt-lite-materiale, vokser. Forfatterne anslår, at omkring 60.000 mennesker, der kommenterede alt-lite eller intellektuelt mørkt webindhold, blev eksponeret for alt-right-videoer over en periode på omkring 18 måneder. Arbejdet blev præsenteret på 2020-konferencen om retfærdighed, ansvarlighed og gennemsigtighed i Barcelona i denne uge.

Vi ved stadig ikke meget om YouTube-radikalisering: For det første er vi ikke helt sikre på præcis, hvad der får folk til at flytte fra alt-lite-materiale til det yderste højre. Det skyldes delvist, at YouTube begrænser adgangen til anbefalingsdata. Det er også muligt, at nogle mennesker kommer til YouTube, der allerede er blevet radikaliseret af en ekstern, ikke-YouTube-kilde. Men denne forskning tyder på, at YouTubes anbefalingsalgoritmer kan spille en væsentlig rolle.

Baggrunden: YouTube har længe kæmpet med balancen mellem at opretholde ytringsfrihed og at adressere hadefulde ytringer. Virksomheden har taget nogle indledende skridt ved at forbyde nogle kanaler, især Alex Jones' Infowars. Men kritikere hævder, at YouTube ikke har gjort nok.

I en erklæring sagde YouTube, at det arbejder gennem disse problemer: I løbet af de sidste par år ... har vi ændret vores søge- og opdagelsesalgoritmer for at sikre, at mere autoritativt indhold vises og mærkes fremtrædende i søgeresultater og anbefalinger og begyndte at reducere anbefalinger af grænseoverskridende indhold og videoer, der kan misinformere brugere på skadelige måder.'

En talsmand tilføjede, at YouTube bestrider metoden, og at den ikke tager hensyn til nyere opdateringer af sin politik for hadefulde ytringer eller anbefalinger. 'Vi er meget uenige i metoden, dataene og, vigtigst af alt, konklusionerne i denne nye forskning,' sagde talsmanden.

Redaktørens note: Denne historie er blevet redigeret til at inkludere YouTubes kommentar og tvist.