Algoritmebevidsthed

I stigende grad er det algoritmer, der vælger, hvilke produkter vi vil anbefale, og algoritmer, der afgør, om vi skal modtage et nyt kreditkort. Men disse algoritmer er begravet uden for vores opfattelse. Hvordan begynder man at forstå disse mystiske skjulte kræfter?

Karrie Karahlios

Spørgsmålet fik genklang for nylig, da Facebook afslørede en videnskabelig undersøgelse om følelsessmitte, som var blevet udført ved hjælp af dets nyhedsfeed. Undersøgelsen viste, at visning af færre positive opdateringer i folks feeds får dem til at sende færre positive og flere negative beskeder af deres egne. Dette resultat er interessant, men foruroligende, og afslører den fulde kraft af Facebooks algoritmiske indflydelse såvel som dens vilje til at bruge den.

For at udforske spørgsmålet om algoritmisk bevidsthed byggede tre kolleger og jeg i 2013 et værktøj, der hjælper folk med at forstå, hvordan deres Facebook-nyhedsfeed fungerer.

Ved at bruge Facebooks egen programmeringsgrænseflade viste vores værktøj en liste over historier, der dukkede op på ens nyhedsfeed i venstre halvdel af skærmen. Til højre så brugerne en liste over historier udsendt af hele deres vennenetværk - det vil sige, de så det uforfalskede feed uden algoritmisk kuration eller manipulation.

Et tredje panel viste, hvilke venners opslag, der overvejende var skjult, og hvilke venners opslag, der dukkede op oftest. Endelig gav værktøjet brugerne mulighed for manuelt at vælge, hvilke indlæg de ønskede at se, og hvilke indlæg de ville kassere.

Vi rekrutterede 40 personer - et lille udsnit, men en tæt repræsentativ for USA's demografi - til at deltage i en undersøgelse for at se, hvordan de gav mening i deres nyhedsfeed. Nogle var chokerede over at høre, at deres foder overhovedet blev manipuleret. Men ved slutningen af ​​vores undersøgelse, da deltagerne valgte, hvilke indlæg de ville se, fandt de værdi i det feed, de kurerede.

Da vi fulgte op måneder senere, sagde mange, at de følte sig bemyndiget. Nogle havde ændret deres Facebook-indstillinger, så de selv kunne manipulere feedet. Af de 40 deltagere holdt en person helt op med at bruge Facebook, fordi det overtrådte en forventning om, hvordan et feed skulle fungere.

Det offentlige ramaskrig over Facebooks følelsesundersøgelse viste, at få mennesker virkelig forstår, hvordan algoritmer former den verden, vi oplever. Og vores forskning viser vigtigheden af ​​at give folk mulighed for at tage kontrol over den oplevelse.

Vi fortjener at forstå den magt, som algoritmer har over os, på godt og ondt.

Karrie Karahlios er lektor i datalogi ved University of Illinois.

skjule