Sådan mistede vi kontrollen over vores ansigter

Getty

I 1964, matematiker og datamatiker Woodrow Bledsoe forsøgte først opgaven med at matche mistænktes ansigter med mugshots. Han målte afstanden mellem forskellige ansigtstræk i printede fotografier og indlæste dem i et computerprogram. Hans rudimentære succeser ville sætte gang i årtiers forskning i at lære maskiner til at genkende menneskelige ansigter.

Nu et nyt studie viser, hvor meget denne virksomhed har udhulet vores privatliv. Det har ikke kun givet næring til et stadig mere kraftfuldt overvågningsværktøj. Den seneste generation af deep-learning-baseret ansigtsgenkendelse har fuldstændig forstyrret vores normer for samtykke.

Deborah Raji, en stipendiat hos nonprofitorganisationen Mozilla, og Genevieve Fried, som rådgiver medlemmer af den amerikanske kongres om algoritmisk ansvarlighed, undersøgte over 130 datasæt for ansigtsgenkendelse samlet over 43 år. De fandt ud af, at forskere, drevet af de eksploderende datakrav til dyb læring, gradvist opgav at bede om folks samtykke. Dette har ført til, at flere og flere af folks personlige billeder er blevet inkorporeret i overvågningssystemer uden deres viden.

Det har også ført til langt mere rodede datasæt: de kan utilsigtet inkludere billeder af mindreårige, bruge racistiske og sexistiske etiketter eller have inkonsekvent kvalitet og belysning. Tendensen kan være med til at forklare det stigende antal tilfælde, hvor ansigtsgenkendelsessystemer har svigtet med foruroligende konsekvenser, som f.eks. falske anholdelser af to sorte mænd i Detroit-området sidste år.

Folk var ekstremt forsigtige med at indsamle, dokumentere og verificere ansigtsdata i de tidlige dage, siger Raji. Nu er vi ligeglade mere. Alt det er opgivet, siger hun. Du kan bare ikke holde styr på en million ansigter. Efter et vist punkt kan du ikke engang lade som om, du har kontrol.

En historie med data om ansigtsgenkendelse

Forskerne identificerede fire store epoker af ansigtsgenkendelse, hver drevet af et stigende ønske om at forbedre teknologien. Den første fase, som løb frem til 1990'erne, var i høj grad præget af manuelt intensive og beregningsmæssigt langsomme metoder.

Men så, ansporet af erkendelsen af, at ansigtsgenkendelse kunne spore og identificere individer mere effektivt end fingeraftryk, pumpede det amerikanske forsvarsministerium 6,5 millioner dollars til at skabe det første store ansigtsdatasæt. Over 15 fotograferingssessioner på tre år fangede projektet 14.126 billeder af 1.199 personer. Face Recognition Technology (FERET) databasen blev frigivet i 1996.

Det følgende årti oplevede en stigning i akademisk og kommerciel forskning i ansigtsgenkendelse, og mange flere datasæt blev oprettet. Langt de fleste blev hentet gennem fotooptagelser som FERETs og havde fuldt deltagersamtykke. Mange inkluderede også minutiøse metadata, siger Raji, såsom emners alder og etnicitet eller belysningsoplysninger. Men disse tidlige systemer kæmpede i den virkelige verden, hvilket fik forskere til at søge større og mere forskelligartede datasæt.

I 2007 åbnede udgivelsen af ​​datasættet Labeled Faces in the Wild (LFW) sluserne for dataindsamling gennem websøgning. Forskere begyndte at downloade billeder direkte fra Google, Flickr og Yahoo uden bekymring for samtykke. Et efterfølgende datasæt udarbejdet af andre forskere kaldet LFW+ slækkede også standarderne omkring inklusion af mindreårige ved at bruge billeder fundet med søgetermer som baby, unge og teenager for at øge mangfoldigheden. Denne proces gjorde det muligt at skabe væsentligt større datasæt på kort tid, men ansigtsgenkendelse stod stadig over for mange af de samme udfordringer som tidligere. Dette skubbede forskerne til at søge endnu flere metoder og data for at overvinde teknologiens dårlige ydeevne.

Så brugte Facebook i 2014 sine brugerbilleder til at træne en dyb-læringsmodel kaldet DeepFace. Selvom virksomheden aldrig frigav datasættet, hævede systemets overmenneskelige ydeevne dyb læring til de facto-metoden til at analysere ansigter. Det var her, manuel verifikation og mærkning blev næsten umulig, da datasæt voksede til titusinder af billeder, siger Raji. Det er også, når virkelig mærkelige fænomener begynder at dukke op, som autogenererede etiketter, der inkluderer stødende terminologi.

Relateret historie

En AI så et beskåret billede af AOC. Det autofuldførte hende iført bikini. Billedgenererende algoritmer sætter gang i de samme sexistiske, racistiske ideer, som findes på internettet.

Den måde, datasættene blev brugt på, begyndte også at ændre sig omkring dette tidspunkt. I stedet for at prøve at matche individer, begyndte nye modeller at fokusere mere på klassificering. I stedet for at sige: 'Er dette et billede af Karen? Ja eller nej,' blev det til 'Lad os forudsige Karens interne personlighed eller hendes etnicitet' og bokser folk ind i disse kategorier, siger Raji.

Amba Kak, den globale politiske direktør hos AI Now, som ikke deltog i forskningen, siger, at papiret giver et skarpt billede af, hvordan biometriindustrien har udviklet sig. Deep learning kan have reddet teknologien fra nogle af dens kampe, men det teknologiske fremskridt har også kostet, siger hun. Det har kastet alle disse problemer op, som vi nu er ret fortrolige med: samtykke, udtrækning, IP-problemer, privatliv.

Skade, der afføder skade

Raji siger, at hendes undersøgelse af dataene har gjort hende alvorligt bekymret over deep-learning-baseret ansigtsgenkendelse.

Det er så meget farligere, siger hun. Datakravet tvinger dig til at indsamle utroligt følsomme oplysninger om som minimum titusindvis af mennesker. Det tvinger dig til at krænke deres privatliv. Det er i sig selv et grundlag for skade. Og så samler vi al denne information, som du ikke kan kontrollere for at bygge noget, der sandsynligvis vil fungere på måder, du ikke engang kan forudsige. Det er virkelig karakteren af, hvor vi er.

Hun håber, at papiret vil provokere forskere til at reflektere over afvejningen mellem præstationsgevinster fra dyb læring og tab af samtykke, omhyggelig dataverifikation og grundig dokumentation. Var det værd at opgive alle disse praksisser for at lave dyb læring? hun siger.

Hun opfordrer dem, der ønsker at fortsætte med at opbygge ansigtsgenkendelse, til at overveje at udvikle forskellige teknikker: Hvis vi virkelig kan prøve at bruge dette værktøj uden at såre folk, vil det kræve, at vi genovervejer alt, hvad vi ved om det.

Rettelse, 15. februar 2021: En tidligere version af artiklen sagde, at datasættet Labeled Faces in the Wild (LFW) 'afslappede standarder omkring inklusion af mindreårige.' Det var faktisk LFW+-datasættet, som efterfølgende blev udarbejdet af en anden gruppe forskere.

skjule