YouTube eksperimenterer med måder at gøre sin algoritme endnu mere vanedannende

Illustration, der viser YouTube-grænseflade med ASMR-videoer Ms. Tech; Billeder: skærmbilleder fra YouTube | Gibi ASMR/ASMR Darling/W magazine/ASMR Glow

Anbefalingsalgoritmer er nogle af de mest kraftfulde maskinlæringssystemer i dag på grund af deres evne til at forme den information, vi forbruger. Især YouTubes algoritme har en stor indflydelse. Platformen vurderes kun at være næst efter Google i webtrafik, og 70 % af, hvad brugerne ser, tilføres dem gennem anbefalinger.

I de senere år er denne indflydelse blevet sat under skarp kontrol. Fordi algoritmen er optimeret til at få folk til at engagere sig i videoer, har den en tendens til at tilbyde valg, der forstærker, hvad nogen allerede kan lide eller tror på, hvilket kan skabe en vanedannende oplevelse, der lukker andre visninger ude. Dette belønner også ofte de mest ekstreme og kontroversielle videoer, som undersøgelser har vist hurtigt kan skubbe folk ind dybe kaninhuller af indhold og føre til politisk radikalisering .

Mens YouTube offentligt har sagt, at det arbejder på at løse disse problemer, en nyt papir fra Google, som ejer YouTube, ser ud til at fortælle en anden historie. Det foreslår en opdatering af platformens algoritme, der skal anbefale endnu mere målrettet indhold til brugerne med henblik på at øge engagementet.

Her er hvordan YouTubes anbefalingssystem virker i øjeblikket . For at udfylde sidebjælken for anbefalede videoer kompilerer den først en shortliste med flere hundrede videoer ved at finde dem, der matcher emnet og andre funktioner i den, du ser. Derefter rangerer den listen i henhold til brugerens præferencer, som den lærer ved at føre alle dine klik, likes og andre interaktioner ind i en maskinlæringsalgoritme.

Blandt de foreslåede opdateringer målretter forskerne specifikt et problem, de identificerer som implicit bias. Det refererer til, hvordan anbefalinger i sig selv kan påvirke brugeradfærd, hvilket gør det svært at tyde, om du har klikket på en video, fordi du kunne lide den, eller fordi den var stærkt anbefalet. Effekten er, at systemet over tid kan skubbe brugerne længere og længere væk fra de videoer, de faktisk ønsker at se.

For at reducere denne skævhed foreslår forskerne en tweak til algoritmen: hver gang en bruger klikker på en video, tager det også hensyn til videoens placering i anbefalingssidebjælken. Videoer, der er nær toppen af ​​sidebjælken, tillægges mindre vægt, når de føres ind i maskinlæringsalgoritmen; videoer dybt nede i ranglisten, som kræver en bruger at scrolle, får flere. Da forskerne testede ændringerne live på YouTube, fandt de markant mere brugerengagement.

Selvom avisen ikke siger, om det nye system vil blive implementeret permanent, sagde Guillaume Chaslot, en tidligere YouTube-ingeniør, der nu driver AlgoTransparency.org, at han var temmelig sikker på, at det ville ske relativt hurtigt: De sagde, at det øger uret. tid med 0,24 %. Hvis du beregner beløbet, tror jeg, at det måske er titusinder af millioner af dollars.

Flere eksperter, der har gennemgået papiret, sagde, at ændringerne kunne have perverse virkninger. I vores forskning har vi fundet ud af, at YouTubes algoritmer skabte et isoleret højreekstremt fællesskab, skubbede brugere mod videoer af børn og fremmede misinformation, sagde Jonas Kaiser, en affiliate ved Berkman Klein Center for Internet & Society. I udkanten kan denne ændring […] fremme dannelsen af ​​mere isolerede samfund, end vi allerede har set. Jonathan Albright, direktøren for det digitale retsmedicinske initiativ ved Tow Center for Digital Journalism, sagde, at selvom reduktion af positionsbias er en god start på at bremse feedback-loopet af lavkvalitetsindhold, kan ændringen i teorien også fremme ekstremt indhold.

Becca Lewis, en tidligere forsker ved Data & Society, som studerer ekstremisme på nettet, sagde, at det var svært at vide, hvordan ændringerne ville udspille sig. Det gælder også for YouTube internt, sagde hun. Der er så mange forskellige fællesskaber på YouTube, forskellige måder, folk bruger YouTube på, forskellige typer indhold, at konsekvenserne vil være anderledes i så mange tilfælde. Vi bliver testpersoner for YouTube.

Da en YouTube-talsmand nåede frem til en kommentar, sagde dets ingeniører og produktteams havde fastslået, at ændringerne ikke ville føre til filterbobler. I modsætning hertil forventer virksomheden, at ændringerne vil reducere dem og diversificere anbefalingerne generelt.

Alle tre eksterne forskere, MIT Technology Review kontaktede, anbefaler, at YouTube bruger mere tid på at udforske virkningen af ​​algoritmiske ændringer gennem metoder som interviews, undersøgelser og brugerinput. YouTube har gjort dette til en vis grad, sagde talsmanden, der arbejder på at fjerne ekstremt indhold i form af hadefulde ytringer på sin platform.

YouTube burde bruge mere energi på at forstå, hvilke aktører deres algoritmer favoriserer og forstærker, end hvordan man holder brugerne på platformen, sagde Kaiser.

Det frustrerende er, at det ikke er i YouTubes forretningsinteresse at gøre det, tilføjede Lewis. Men der er et etisk krav.

Rettelser: Virkningen af ​​YouTubes ændring vil sandsynligvis være i størrelsesordenen titusindvis af millioner, ikke milliarder af dollars. Historien blev også opdateret den 27. september 2019 kl. 15:30 ET for at afspejle YouTubes svar.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.

skjule