Borgere vender ansigtsgenkendelse til uidentificeret politi

Den nye serie af vores AI-podcast, In Machines We Trust, handler om ansigtsgenkendelse. I en del af serien udforsker Jennifer Strong og teamet hos MIT Technology Review de uventede måder, teknologien bliver brugt på, herunder hvordan den bliver tændt på politiet.

Vi møder:

• Christopher Howell, dataforsker og demonstrant.

Credits:

Denne episode blev rapporteret og produceret af Jennifer Strong, Tate Ryan-Mosley og Emma Cillekens og Karen Hao. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Afskrift:

[Reklame]

[TR ID]

Stærk: Der er sket et par ting, siden vi sidst talte om ansigtsgenkendelse. Vi har set flere steder flytte for at begrænse brugen, mens skoler og andre offentlige bygninger samtidig er begyndt at bruge ansigts-id som en del af deres covid-forebyggelsesplaner. Vi bruger det endda på dyr og ikke kun på ansigter med ligheder med vores egne, som chimpanser og gorillaer, kinesiske teknologifirmaer bruger det på grise, og canadiske videnskabsmænd arbejder på at identificere hvaler, selv grizzlybjørne.

Med andre ord, antallet af måder, vi kan bruge denne teknologi på, eksploderer, ligesom bekymringer om, hvorvidt det er muligt, endsige en god idé. Og så udvides forbud mod, hvordan ansigts-id kan bruges, fra Portland, Maine til Portland, Oregon, hvor de skrappeste restriktioner for ansigtsgenkendelse i landet træder i kraft næste år og forbyder ikke kun brugen af ​​det af politiet, men kommercielt applikationer også.

Wheeler: Kolleger, vi er her i eftermiddag for at overveje to bekendtgørelser, der søger at forbyde brugen af ​​ansigtsgenkendelsesteknologier af vores egen byregering i Portland og af private enheder i det offentlige rum.

Stærk: Det er Portlands borgmester Ted Wheeler, der åbner byrådsmødet, der vedtog disse lovforslag i september. Som med de fleste ting i disse dage, fandt de offentlige kommentarer og afstemning sted på Zoom.

Wheeler: Portland er langt fra en anti-teknologi by, og det vil jeg gerne gøre meget klart. Vi er ikke anti-teknologi med en bred vifte af lokale og nationale teknologivirksomheder. Vi er et af de hurtigst voksende tech-hubs overalt på vestkysten.

Stærk: I løbet af de næste par timer sagde advokater, softwareingeniører, bekymrede borgere og virksomhedsledere deres mening. Så lige før afstemningen fandt sted. En sidste person, en lokal dataforsker, rakte sin virtuelle hånd op for at stille et spørgsmål.

Wheeler: Christopher Howell... sidst men ikke mindst, velkommen.

Howell: Jeg vil gerne udtrykke en betinget støtte til denne bekendtgørelse, men jeg har bekymringer.

Stærk: Det er fordi han bygger noget, der bruger ansigtsgenkendelse på en mindre end konventionel måde.

Howell: Jeg er involveret i at udvikle ansigtsgenkendelse til rent faktisk at bruge på Portland politibetjente, da de ikke identificerer sig selv over for offentligheden, og de begår forbrydelser. Ville dette blive ulovligt, hvis du vedtager denne bekendtgørelse?

[Musik]

Stærk: Jeg er Jennifer Strong, og i løbet af de næste par uger vil vi dykke endnu et dybt dyk på fremkomsten af ​​ansigtsgenkendelse. I denne seneste miniserie vil vi undersøge, hvordan den bliver brugt i sport både på atleter og fans, dens brug i detailbutikker, selv hvordan den bruges til at tjene hjemløse. Men først starter vi tingene med et kig på, hvordan det bliver vendt tilbage til politiet.

[VIS ID]

Stærk: Politiets og andre autoritetspersoners anonymitet er gennemsyret af en virkelig kompliceret historie. Der er en delikat balance mellem privatliv og ansvarlighed begge sider for demonstranter og for politiet.

[Lyden af ​​Chicago-optøjer.]

Stærk: Chicago Riots i 1968 afbrød tv'er fra amerikanere over hele landet, da de tunede ind for at se den demokratiske nationale konvent, som blev afholdt i Chicago det år.

[Lyden af ​​Chicago-optøjer.]

Stærk: Demonstranter demonstrerede mod Vietnamkrigen og mod Det Demokratiske Parti. Efter at have stødt sammen med politiet i Grant Park, marcherede demonstranter ned ad Michigan Avenue til hotellet, hvor mange af konventets delegerede opholdt sig. I 17 minutter så Amerika live, da Illinois National Guard affyrede tåregas... da politiet slog demonstranterne.

[Lyden af ​​Chicago-optøjer. 'Hele verden ser på']

Stærk: Politiet bar ikke navneskilte, og det er faktisk ret almindeligt, når politiet har med demonstranter at gøre. Nogle gange er det lovligt, nogle gange er det ulovligt, og nogle gange er det endda påbudt af hensyn til sikkerheden som denne sommer i Buffalo, New York.

Reporter: Buffalo politikommissæren siger, at det var hans beslutning at lade betjente bære deres badge-numre og ikke deres navne på deres uniformer.

kommissær: Der var en stigende bekymring for chikane hos betjente og deres familie. For at tillade betjente at udføre deres arbejde uden frygt, tog jeg beslutningen på det tidspunkt.

Stærk: Men når det sker, skubber borgere og aktivister tilbage. Mange hævder, at dette giver politiet endnu mere magt, end de allerede har...fordi det bliver næsten umuligt at holde dem ansvarlige.

Interviewede: Vi har brug for, at vores råd rejser sig og taler for de 255.000 mennesker, du repræsenterer, og opmuntrer og kræver, at denne politistyrke ændrer politikken tilbage i stedet for udelukkende at tænke på det dusin eller deromkring betjente, der blev chikaneret, som kunne beskyttes under den nuværende gældende lov .

Stærk: Men længe før begivenhederne denne sommer har folk forsøgt at identificere uidentificerede politibetjente. De har brugt fotos fra protester, søgning på sociale medier, crowdsourcing gennem internettet, endda tyet til at stjæle personlige oplysninger. Som i tilfældet med et hackerkollektiv - kaldet Anonymous. Det er kendt for at tilslutte sig Occupy Wall Street-protesterne og kortvarigt fjerne New York Stock Exchanges hjemmeside. Den samme gruppe lækkede senere private oplysninger, som den stjal fra politiets og regeringens hjemmesider, herunder politibetjentes hjemmeadresser.

Telefonfis: Du har nået Baldwin County Sheriff's Office... [ring]

Stærk: I dette prank call hævder de æren for hacket.

[Uddrag fra spøgekaldet]

Stærk: At afsløre dem, der udøver magt over andre, er ikke unikt for USA. Tilbage i 2014 under Ruslands annektering af Krim kan du huske, at soldater uden badges på deres grønne uniformer tog kontrollen. På det tidspunkt benægtede topembedsmænd, inklusive præsident Vladimir Putin, gentagne gange, at disse tropper var russiske.

Lille smule : Der er ingen tropper overhovedet. Ingen russiske tropper i det mindste.

Stærk: Dette er Ruslands ambassadør i EU, der taler til journalister.

Ambassadør: USA, der har tradition for at blande sig i andre lande og sende tropper til udlandet, handler måske i overensstemmelse med deres egen mentalitet... vil jeg sige. Men der er ikke tale om russisk indblanding.

Stærk: Men det var det. Ved at matche billeder, potentielt ved hjælp af ansigtsgenkendelse, fastslog den ukrainske regering, at tropperne faktisk var bundet til russisk militær. Og de udgav billeder som bevis. Senere indrømmede Putin også, at tropperne faktisk var russiske.

Putin Oversættelse: Selvfølgelig støttede de russiske soldater Krim-selvforsvarsstyrkerne. De handlede civilt, som jeg allerede har sagt, men beslutsomt og professionelt.

[Musik]

Stærk: Nu forsøger demonstranter i stigende grad at vende Face I-D tilbage til politiet - for at identificere betjente, der bruger overdreven magt. Inklusiv i Hong Kong, hvor dramatiske billeder af sammenstød mellem demonstranter og politi sidste år dominerede nyhedsfeeds, der viser politiet, der affyrer levende kugler, og demonstranter, der angriber betjente. Dette er New York Times reporter Paul Mozur, der taler på offentligt tv.

Mozur: Efterhånden som protesterne er gået videre, og politiet og Hongkongerne fortsætter med at slå ud uge efter uge, er ansigtet blevet bevæbnet, og selve identiteten er på en måde bevæbnet. Du ved, demonstranter vil gå ud, og politiet vil forsøge at fange deres billeder på video og derefter gå tilbage og identificere dem via alle de sociale medier og online materialer, der er derude og så omvendt. Vi så politiet faktisk tage deres badges af, og så nu gør demonstranter det samme over for politiet, hvor de forsøger at gå tilbage og bruge sociale medier og finde ud af, hvilket politi der gør hvilken handling. En demonstrant, især denne fyr Colin Cheung, som vi fandt, skabte et ansigtsgenkendelsesværktøj for at forsøge at identificere politiet... og han frigav faktisk ikke produktet, men han siger, at på grund af det, politiet sigtede ham.

Stærk: Og Cheung blev arresteret kort efter, at han skrev om værktøjet på Facebook... men lignende bestræbelser er i gang andre steder, herunder Portland, Oregon.

Howell: Jeg tager nøjagtig den samme teknologi, som de bruger på os. Og det er ikke sådan, at jeg prøver at doxe folk. Jeg mener, dette er for betjente, der i det væsentlige bryder loven med hensyn til deres magtanvendelse.

Stærk: Christopher Howell er dataforsker og demonstrant.

Howell: Og jeg ville bare komme på posten. Hej, der er en anden måde, vi kan bruge dette på. // Og egentlig handler det mere om, du ved, at holde presset på dem for at identificere sig selv i modsætning til, at vi skal gøre det.

Stærk: Hans vidnesbyrd for byrådet i Portland om dette værktøj, han arbejder på, førte til, at hans projekt blev dækket af The New York Times. Siden da har han fået en del opmærksomhed, ligesom reaktionen fra Portlands borgmester, der kaldte projektet uhyggeligt.

Howell: Det er uhyggeligt at lade dem gå ud og rive gas i folk nat efter nat // og jeg, det var virkelig, for mig, bare et, en slags åndssvagt øjeblik af ligesom, det er uhyggeligt, at de her fyre ikke har deres navne. Du ved, at nogen bare kan klæde sig ud som en politimand, du kender [griner]

Stærk: Han siger, at han startede projektet delvist for at se, hvordan det ville fungere.

Howell: Jeg mener, der er en klar teknologisk nysgerrighed der... og den slags noget, jeg kan gøre, når det er sent om aftenen, og det er frustrerende at se det her, nyhederne eller du går på Twitter og ser folks, alles videoer af protesterne og okay, hvad kan jeg gøre? …og i sidste ende vil jeg gerne have, at det ikke er nødvendigt. Jeg synes, de skal bære deres navne med høje bogstaver, så vi ikke skal bruge ansigtsgenkendelse på politiet for at finde ud af, hvem de er.

Stærk: At være i stand til at identificere en betjent handler ikke kun om at vide, om nogen faktisk er en... Det er ekstremt svært at indgive en klage mod nogen uden at vide, hvem den person er.

Howell: En af grundene til, at jeg startede dette, var, at man i retssager ikke kan navngive som betjenten, der skubbede mig. Du skal vide, hvem det er. De vil bare sige, ja, vi ved ikke, hvem det var. Så der er ingen for dig at sagsøge og forsøger at få optegnelser om, hvilke særlige betjente gjorde, vil de ikke lade dig fiske efter det. // Du skal vide det, hvis du gav mig et billede af, du ved, her er denne betjent, der slår en med en stafet, jeg vil, og vi skal finde ud af, du kan se hans ansigt. Så vi skal finde ud af, hvem det er, hvordan gør vi det? Og oprindeligt tænkte jeg mere på en omvendt billedsøgning på en database. Ligesom jeg bare samler alle de billeder, jeg kan, og vi vil være i stand til at linke dem sammen, så vi kan sige, at det alle er den samme person. Og så gik det op for mig, at jeg kunne gøre det bedre end det.

Stærk: Han indså, at han kunne bygge et ansigts-id-værktøj ved at bruge billeder af betjentene fra internettet.

Howell: Så jeg begyndte at se på deres billeder, hvor de er identificeret eller nyheder, du ved, gå længere tilbage og få lignende nyhedsartikler.

Stærk: Projektet er teknisk nemmere end at bygge et system beregnet til at identificere nogen.

Howell: Vi ved, at hvem politiet er, du ved, det er der ikke, der skal ikke være folk i optøjer, som ikke er politibetjente. Så hvis du kan få alle deres billeder, og det er den virkelige udfordring, men så kunne du have et mindre vanskeligt matematisk problem i den forstand at identificere, okay, vi ved, at denne person er ude af dette sæt. Lad os finde ud af, hvilken af ​​dem de er...

Stærk: Han siger, at han har indsamlet tusindvis af billeder indtil videre ... for det meste manuelt fra Twitter og nyhedsartikler i gennemsnit 15 til 20 eller deromkring for hver betjent, han har identificeret.

Howell: Mange af de første billeder var fra Twitter. Meget af det var mig, der gik ind i nyhedsartikler. // Jeg mener, trafikulykken, en er, du ved, nyhedshistorie er sådan et godt eksempel. For jeg fandt en masse af dem. Eller som fællesgrill, og der er uniformerede betjente der, og det navngiver dem.

Stærk: Det er ikke helt den samme skala som de ansigts-id-systemer, der bruges af politiet...

Howell : Jeg gør bare det hele lige nu på et Python-script - du ved, det hele er lokalt på min bærbare computer.

Stærk: ...de er normalt trænet i fotosæt på millioner eller milliarder.

Howell: Fordi jeg tror, ​​at nøjagtigheden er vigtig, og, øh, og antallet af billeder er lille nok til, at hvis jeg prøvede at sætte mit ansigt derinde, vil jeg ikke have en anden Chris Howell.

Stærk: Men det er bare nok billeder til, at det ser ud til at gøre tricket. Han siger, at hans værktøj allerede er blevet brugt til at bekræfte identiteten på en betjent i en sag, der er på vej til retten.

Howell: Nogen bragte mig et billede, jeg ikke havde fundet, og sagde, hjælp mig, du ved, du bruger dit system og fortæl mig, hvad der står. Og hun vidste allerede, hvem hun troede, det var, men hun fortalte mig det ikke. Og så var topresultatet det, der var forventet.

Stærk: Med hensyn til, hvor dette går videre, er det enhvers gæt, selvom han kan forestille sig en dag, hvor det kan bruges i samarbejde med byen.

Howell: Jeg kunne se en fremtid, måske flere år fra nu, hvor tingene er lidt anderledes, hvor byen stiller sådan noget til rådighed og selv er vært for det og får dem til at tage en masse billeder, så vi kan have en veltrænet ting. Altså som en lignende borgerfeedback ting. Og, og det skulle ikke nødvendigvis alle være negative ting, men på en måde, så det også kunne bruges til klager. Jeg mener, en del af mig tror, ​​at det ville være en fordel, at de samarbejder med de offentlige myndigheder selv for at sige, hej, vi vil gerne være ansvarlige. Jeg tror ikke, det er særlig realistisk i 2020, men jeg tror, ​​det kan ikke være langt væk! [grine]

Stærk: Noget, han ikke ønsker, er at gøre det til open source.

Howell: Jeg tror ikke, det er en god idé for nogen virkelig at få det til at være som offentligt ansigt på en hjemmeside. Tænk, det er, det er at bede om, at tingene går galt ud over de virkelig åbenlyse ting, du kunne have, folk, du ved, falske ting eller med vilje indsætte vildledende billeder...

[Musik]

Stærk: Portlands forbud mod I-D træder i kraft i januar, men Howells projekt? Det vil ikke blive påvirket. Offentlige skoler, religiøse institutioner, selv hvordan ansigtsgenkendelse bruges i lufthavnen, såsom måden flyselskaber som Delta går ombord på deres passagerer. Intet af det vil heller blive påvirket. Lokale myndigheder vil ikke kunne bruge det. Og det vil ikke være tilladt i de fleste offentlige rum eller private rum, der er åbne for offentligheden, som et indkøbscenter. Det lokale politi får heller ikke lov til at bruge teknologien, selvom folk i deres private hjem, som Christopher Howell, vil være det. Forbuddene gælder heller ikke for retshåndhævelse på stats- eller føderalt niveau.

På en måde er brugen af ​​denne overvågningsteknologi ved at blive et slags globalt våbenkapløb mellem offentligheden og autoritetspersoner, der begge håber på at fjerne anonymitetens omslag for at tilskynde til god opførsel. Det er svært at se, hvem vinderen kan være, men taberen er helt sikkert privatlivets fred.

I næste afsnit...

Uddrag : Det er ikke traumeorienteret at få nogen til at gå ind på et anlæg og sige, ja, du kan absolut komme ind, men lad mig lige tage dine fingeraftryk.

Stærk: Vi ser på tiltaget til at bruge ansigtsgenkendelse i almene boliger og hjemløse krisecentre.

Uddrag : Ansigtsgenkendelse er mere følelsesmæssigt ved, at den er passiv, den ikke rører dem, og du kan fange den hurtigere, og der er ingen risiko for overførsel.

Stærk: Denne episode blev rapporteret og produceret af mig, Tate Ryan-Mosley, Karen Hao og Emma Cillekens. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Tak fordi du lyttede, jeg er Jennifer Strong.

[TR ID]

skjule