211service.com
DeepMind spørger, hvordan AI hjalp med at gøre internettet til et ekkokammer
FRK. TEKNISK | BILLEDER: YOUTUBE Ms. Tech | Billeder: YouTube
En af de mest almindelige anvendelser af maskinlæring i dag er anbefalingsalgoritmer. Netflix og YouTube bruger dem til at skubbe dig til nye shows og videoer; Google og Facebook bruger dem til at rangere indholdet i dine søgeresultater og nyhedsfeed. Selvom disse algoritmer byder på stor bekvemmelighed, har de nogle uønskede bivirkninger. Du har sikkert hørt om dem før: filterbobler og ekkokamre.
Bekymring om disse effekter er ikke ny. I 2011 advarede Eli Pariser, nu CEO for Upworthy, om filterbobler på TED-scenen. Allerede før det, i hans bog republic.com , Harvard-juraprofessor Cass Sunstein forudsagde nøjagtigt en gruppepolariseringseffekt, drevet af internettets fremkomst, som i sidste ende ville udfordre et sundt demokrati. Facebook ville ikke eksistere i yderligere tre år.
Begge ideer blev hurtigt populariseret i kølvandet på det amerikanske valg i 2016, hvilket førte til en opsving af relevant forskning. Nu tilføjer Googles eget AI-datterselskab, DeepMind, stipendiet. (Bedre sent end aldrig, ikke?)
I et nyt papir , analyserede forskere, hvordan forskellige anbefalingsalgoritmer kan fremskynde eller bremse begge fænomener, som forskerne definerer hver for sig. Ekkokamre, siger de, styrker brugernes interesser gennem gentagen eksponering for lignende indhold. Filterbobler indsnævrer til sammenligning omfanget af indhold, som brugere udsættes for. Begge er eksempler i akademisk tale på degenererede feedback-loops. Et højere niveau af degeneration, i dette tilfælde, refererer til en stærkere filterboble eller ekkokammereffekt.
De kørte simuleringer af fem forskellige anbefalingsalgoritmer, som satte forskellige grader af prioritet på præcist at forudsige præcis, hvad brugeren var interesseret i frem for tilfældigt at promovere nyt indhold. De algoritmer, der prioriterede nøjagtighed højere, fandt de, førte til meget hurtigere systemdegeneration. Med andre ord, den bedste måde at bekæmpe filterbobler eller ekkokamre på er at designe algoritmerne til at være mere udforskende og vise dig ting, der er mindre sikre på at fange din interesse. Det kan også hjælpe at udvide det overordnede sæt af oplysninger, som anbefalingerne er hentet fra.
Joseph A. Konstan, professor i datalogi ved University of Minnesota, som tidligere har udført forskning på filterbobler, siger resultaterne fra DeepMinds analyse ikke er overraskende. Forskere har længe forstået spændingen mellem nøjagtig forudsigelse og effektiv udforskning i anbefalingssystemer, siger han.
På trods af tidligere undersøgelser, der viser, at brugere vil tolerere lavere niveauer af nøjagtighed for at få fordele af forskellige anbefalinger, har udviklere stadig et afskrækkende fra at designe deres algoritmer på den måde. Det er altid nemmere at ’have ret’ ved at anbefale sikre valg, siger Konstan.
Konstan kritiserer også DeepMind-studiet for at nærme sig filterbobler og ekkokamre som maskinlæringssimuleringer snarere end interaktive systemer, der involverer mennesker - en begrænsning, som forskerne også bemærkede. Jeg er altid bekymret for arbejde, der er begrænset til simuleringsstudier (eller offline dataanalyser), siger han. Mennesker er komplekse. På den ene side ved vi, at de værdsætter mangfoldighed, men på den anden side ved vi også, at hvis vi strækker anbefalingerne for langt - til det punkt, hvor brugerne føler, vi ikke er troværdige - kan vi miste brugerne helt.
Rettelse: Overskriften blev opdateret for bedre at afspejle undersøgelsens omfang.