211service.com
Hvorfor vi bør forvente, at algoritmer er forudindtaget
Teknologier drevet af algoritmer og kunstig intelligens er i stigende grad til stede i vores liv, og vi støder nu jævnligt på et vanskeligt spørgsmål: kan disse programmer være neutrale aktører? Eller vil de altid afspejle en vis grad af menneskelig skævhed?
Støvet over Facebooks liste over populære emner og dens mulige liberale bias ramte en sådan nerve, at Det amerikanske senat ringede på virksomheden for at komme med en officiel forklaring, og i denne uge sagde COO Sheryl Sandberg, at virksomheden vil begynde uddannelse af medarbejdere at identificere og kontrollere deres politiske holdninger.
Dette er dog kun et resultat af en bredere tendens, som Fred Benenson, Kickstarters tidligere datachef, kalder matematikvask : Vores tendens til at idolisere programmer som Facebooks som helt objektive, fordi de har matematik i deres kerne.
Et område med potentiel bias kommer fra det faktum, at så mange af de programmører, der laver disse programmer, især maskinlæringseksperter, er mænd. I en nylig Bloomberg artikel , Margaret Mitchell, en forsker hos Microsoft, er citeret og beklager farerne ved et hav af fyre, der stiller de spørgsmål, der er centrale for at skabe disse programmer.
Bekymringer har bygget sig op over dette problem i nogen tid, da undersøgelser fandt tegn på bias i online annoncering, rekruttering og prissætningsstrategier drevet af formodentlig neutrale algoritmer.
I en undersøgelse , så Harvard-professor Latanya Sweeney på de Google AdSense-annoncer, der dukkede op under søgninger efter navne forbundet med hvide babyer (Geoffrey, Jill, Emma) og navne forbundet med sorte babyer (DeShawn, Darnell, Jermaine). Hun fandt ud af, at annoncer med ordet arrest blev vist ud for mere end 80 procent af sorte navnesøgninger, men færre end 30 procent af hvide navnesøgninger.
Sweeney bekymrer sig om, at den måde, hvorpå Googles reklameteknologi fastholder racemæssig skævhed, kan underminere en sort persons chancer i en konkurrence, uanset om det er til en pris, en date eller et job.
Områder som udlån og kredit, der traditionelt har lidt under velkendt menneskelig diskrimination, skal være særligt forsigtige.
ZestFinance, en online långiver baseret på ideen om, at maskinlæringsprogrammer kan udvide antallet af personer, der anses for kreditværdige ved at se på titusindvis af datapunkter, fastholder, at det er godt tilpasset farerne ved diskriminerende udlån. For at beskytte mod diskrimination har ZestFinance bygget værktøjer til at teste sine egne resultater.
Men faren er fortsat, at uerkendt skævhed, ikke kun i programmeringen af en algoritme, men selv i de data, der strømmer ind i den, utilsigtet kan gøre ethvert program til en diskriminator. For forbrugere, der ikke er i stand til at pakke kompleksiteten af disse programmer ud, vil det være svært at vide, om de er blevet behandlet retfærdigt.
Algoritme og datadrevne produkter vil altid afspejle designvalgene hos de mennesker, der byggede dem, forklarede Benenson i en nylig Q&A med Technical.ly Brooklyn, og det er uansvarligt at antage andet.
(Læs mere : Wall Street Journal , Technical.ly Brooklyn , Bloomberg , AI tager fart [PDF])