211service.com
Facebooks annoncevisningsalgoritme diskriminerer efter køn og race
Ms. Tech/ Logo: facebook
Algoritmer er forudindtaget - og Facebooks er ingen undtagelse.
I sidste uge blev teknologigiganten sagsøgt af det amerikanske ministerium for bolig- og byudvikling for den måde, den lod annoncører bevidst målrette deres annoncer efter race, køn og religion – alle beskyttede klasser i henhold til amerikansk lovgivning. Virksomheden meddelte, at det ville stoppe med at tillade dette.
Men nye beviser viser, at Facebooks algoritme, som automatisk bestemmer, hvem der får vist en annonce, udfører den samme diskrimination alligevel og viser annoncer til over to milliarder brugere på baggrund af deres demografiske oplysninger.
Et hold ledet af Muhammad Ali og Piotr Sapiezynski ved Northeastern University kørte en række ellers identiske annoncer med små variationer i tilgængeligt budget, overskrift, tekst eller billede. De fandt ud af, at disse subtile justeringer havde betydelig indvirkning på det publikum, som hver annonce nåede – især når annoncerne var for job eller fast ejendom. Udstationeringer til førskolelærere og sekretærer blev for eksempel vist til en højere andel af kvinderne, mens udstationeringer til pedel og taxachauffører blev vist til en højere andel af minoriteter. Annoncer om boliger til salg blev også vist til flere hvide brugere, mens annoncer for udlejning blev vist til flere minoriteter.
Vi har foretaget vigtige ændringer i vores annoncemålretningsværktøjer og ved, at dette kun er et første skridt, en Facebook-talsmand sagde i en udtalelse som svar på resultaterne. Vi har kigget på vores annonceleveringssystem og har engageret brancheledere, akademikere og borgerrettighedseksperter om netop dette emne – og vi undersøger flere ændringer.
På nogle måder burde dette ikke være overraskende - skævhed i anbefalingsalgoritmer har været et kendt problem i mange år. I 2013 udgav for eksempel Latanya Sweeney, professor i regering og teknologi ved Harvard, et papir, der viste den implicitte racediskrimination af Googles annoncevisningsalgoritme. Spørgsmålet går tilbage til, hvordan disse algoritmer grundlæggende fungerer. Alle er baseret på maskinlæring, som finder mønstre i enorme mængder data og genbruger dem til at træffe beslutninger. Der er mange måder, som bias kan sive ind under denne proces, men de to mest tydelige i Facebooks tilfælde vedrører problemer under problemframing og dataindsamling.
Bias opstår under problemframing, når formålet med en maskinlæringsmodel er forkert tilpasset behovet for at undgå diskrimination. Facebooks annonceringsværktøj giver annoncører mulighed for at vælge mellem tre optimeringsmål: antallet af visninger en annonce får, antallet af klik og mængden af engagement, den modtager, og mængden af salg, den genererer. Men de forretningsmæssige mål har intet at gøre med for eksempel at opretholde lige adgang til boliger. Som et resultat, hvis algoritmen opdagede, at den kunne tjene mere engagement ved at vise flere hvide brugere hjem til køb, ville den ende med at diskriminere sorte brugere.
Bias opstår under dataindsamling, når træningsdata afspejler eksisterende fordomme. Facebooks annonceringsværktøj baserer sine optimeringsbeslutninger på de historiske præferencer, som folk har demonstreret. Hvis flere minoriteter tidligere har engageret sig i annoncer for udlejning, vil maskinlæringsmodellen identificere dette mønster og genanvende det til evig tid. Endnu en gang vil det blindt skride ned ad vejen for beskæftigelses- og boligdiskrimination – uden at blive udtrykkeligt bedt om at gøre det.
Selvom denne adfærd inden for maskinlæring er blevet undersøgt i et stykke tid, tilbyder den nye undersøgelse et mere direkte blik på omfanget af dets indvirkning på folks adgang til bolig og beskæftigelsesmuligheder. Disse fund er eksplosive! Christian Sandvig, direktør for Center for Ethics, Society, and Computing ved University of Michigan, fortalte The Economist. Avisen fortæller os, at [...] big data, brugt på denne måde, aldrig kan give os en bedre verden. Faktisk er det sandsynligt, at disse systemer gør verden værre ved at accelerere de problemer i verden, der gør tingene uretfærdige.
Den gode nyhed er, at der kan være måder at løse dette problem på, men det bliver ikke nemt. Mange AI-forskere forfølger nu tekniske rettelser til maskinlæringsbias, der kan skabe mere retfærdige modeller for onlineannoncering. En nylig papir fra Yale University og Indian Institute of Technology, for eksempel, tyder på, at det kan være muligt at begrænse algoritmer for at minimere diskriminerende adfærd, omend med en lille omkostning for annonceindtægterne. Men politikere bliver nødt til at spille en større rolle, hvis platforme skal begynde at investere i sådanne rettelser – især hvis det kan påvirke deres bundlinje.
Dette dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, tilmeld dig her gratis.