Land med en milliard ansigter

Clearview AI har bygget en af ​​de mest omfattende databaser over folks ansigter i verden. Dit billede er sandsynligvis derinde (vores vært Jennifer Strongs var). I del to af denne firedelte serie om ansigtsgenkendelse møder vi CEO'en for det kontroversielle firma, som fortæller os, at vores fremtid er fyldt med FaceID – uanset om den er reguleret eller ej.

Vi møder:

• Hoan Ton-That, Clearview AI
• Alexa Daniels-Shpall, Politiets Executive Research Forum

Credits:

Denne episode blev rapporteret og produceret af Jennifer Strong, med Tate Ryan-Mosley og Emma Cillekens, med særlig tak til Karen Hao og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield. Vores tekniske direktør er Jacob Gorski.

Udskrift af hele episoden:

Jennifer Strong: Der udspiller sig en kamp i domstolene mellem netværkssiden LinkedIn og en virksomhed kaldet hiQ Labs – en startup, der fortæller virksomheder, når deres ansatte er i fare for at blive pocheret af andre virksomheder...

Problemet er, at det gør dette ved at trække data fra LinkedIns hjemmeside.

Nyhedsanker læsning: med mere end 500 millioner brugere verden over er LinkedIn en skatkammer af personlige oplysninger. Men hvad hvis den information, du ikke vil dele, vender tilbage til din chef?

Jennifer Strong: Men hiQ hævder, det er ok – alle disse data er offentligt tilgængelige uden login. Sagen kan gå for højesteret i år, men indtil videre er retssystemet enig med hiQ.

Ved du, hvad dine rettigheder til privatliv er på websteder som LinkedIn eller YouTube?

Ville det være overraskende, at billeder – inklusive nogle, du aldrig har set, men på en eller anden måde er havnet på nettet – bliver brugt af virksomheder til at vokse deres virksomheder, herunder til at bygge ting som AI-systemer, der identificerer mistænkte for politiet?

Jeg er Jennifer Strong, og i del to af vores serie om ansigtsgenkendelse og politi taler vi med administrerende direktør Hoan Ton-That, grundlæggeren af ​​en af ​​verdens mest kontroversielle teknologivirksomheder, Clearview AI.

Jennifer Strong: Tilbage i 2011 gav Googles daværende administrerende direktør, Eric Schmidt, et hovedinterview på en konference arrangeret af The Wall Street Journal.

Erik Schmidt : Jeg er personligt meget bekymret over foreningen af ​​mobilsporing og ansigtsgenkendelse.

Jennifer Strong: Ved at kombinere ansigts-ID med sporingsdata fra mobiltelefoner kan næsten alle detaljer om, hvordan og hvor vi bruger vores tid, væk.

Schmidt sagde, at han mente, at det kunne bruges til godt eller ondt, men i demokratier troede han, at det ville blive reguleret hurtigt.

Han var på scenen med journalisterne Walt Mossberg og Kara Swisher, og de pressede ham på det: Hvilke muligheder havde Google, og hvad kan der ske i de forkerte hænder?

Erik Schmidt : For at være klar, byggede vi den teknologi... og vi tilbageholdt den. Så vidt jeg ved, er det den eneste teknologi, som Google har bygget, og efter at have set på det, besluttede vi at stoppe.

Jennifer Strong: Spol næsten et årti frem. Ansigtsgenkendelse er stadig ikke reguleret, og big tech er tilbage til at stille spørgsmålstegn ved, hvad der skal bygges, og hvem der skal have det.

Sagen er, at teknologigiganter ikke er de største spillere på det område. Virksomheder, der er - inklusive NEC, Cognitec og Clearview AI - fortsætter med at sælge deres systemer.

Og fordi ansigtsgenkendelse ikke er reguleret, medmindre en virksomhed beslutter at fortælle os, at disse værktøjer eksisterer, eller en journalist afslører noget, vil vi ikke nødvendigvis vide, hvad der er derude – endsige hvordan det bruges, selv når det bruges på os.

Clearview omtales nogle gange som den dræberapp for ansigts-ID. Det er også utroligt kontroversielt. Det skrabede stille og roligt milliarder af billeder af internettet – fra Venmo, LinkedIn, Google, Facebook, Twitter, YouTube og så videre – og det byggede et system, der menes også at blive brugt i vid udstrækning af retshåndhævelse, inklusive FBI og ICE. som statsligt og lokalt politi.

Der er mange juridiske kampe, der udkæmpes om denne praksis kaldet web-skrabning – ikke fordi der er noget iboende dårligt ved det, det er bare et værktøj til at indsamle data fra internettet. Det er, hvordan websteder tilbyder prissammenligninger og ejendomsannoncer. Det er også sådan en stor del offentlig forskning bliver udført.

Så det virkelige problem er, at der ikke rigtig er grundregler for hvad kan skrabes. Og den føderale lov bruges oftest til at ordne disse sager? Nå, det er fra 1986. Før nettet overhovedet eksisterede.

Igennem denne serie kommer vi til at høre fra folk, der bygger teknologier, såvel som dem, der kæmper imod dem. Og jeg satte mig ned med Clearviews administrerende direktør for at tale om alt dette fra hans perspektiv.

Hoan Ton-Det : Mit navn er Hoan Ton-That, og jeg er grundlægger og administrerende direktør for Clearview AI.

Jennifer Strong : Ok, hvordan vil du beskrive din virksomhed, teknologien, og hvad den gør?

Hoan Ton-Det : Grundlæggende er det en søgemaskine til ansigter. Så du uploader et billede af et ansigt, og det finder offentligt tilgængelige links, der er online. Og lige nu bruges det til retshåndhævelse til at opklare forbrydelser i efterhånden. Så en betjent, hvis de sidder fast i en sag, og de har noget fra videooptagelser, kan de køre det gennem vores system og derefter starte en efterforskning.

Jennifer Strong: Han siger, at det straks appellerede til retshåndhævelsen, men det var efter, at han havde shoppet det rundt til et par forskellige grupper.

Hoan Ton-Det : Da vi byggede vores ansigtsgenkendelsesteknologi, udforskede vi mange forskellige ideer og mange forskellige sektorer fra privat sikkerhed til gæstfrihed ... da vi gav den til nogle folk i retshåndhævelsen, var stigningen enorm. Og de ringede tilbage næste dag og sagde, vi løser sager. Det her er sindsygt. På en uges tid havde vi et rigtig tykt hæfte.

Jennifer Strong : Så hvor fik du ideen til at skabe Clearview. Hvad var dine motiver?

Hoan Ton-Det : Jeg har altid elsket at lære om computerprogrammering, siden jeg var barn og kiggede på MIT-videoforelæsningerne eller lavede open source-projekter og downloadede billeder for at træne bedre modeller til ansigtsgenkendelse. Og til sidst ændrede det sig til at lave en ansigtssøgemaskine. Og det var bare en overraskelse for mig, hvor mange mennesker der virkelig ikke tog fat på denne idé, fordi det er et så svært problem, fordi man skal være meget, meget præcis, men vi holdt fast i det, og det endte med at fungere rigtig godt.

Jennifer Strong: Der er en voksende liste over årsager til, at forskere måske vælger ikke at arbejde på en søgemaskine med ansigter. En stor er, hvordan dette arbejde kan anvendes.

Kade Crockford : Tag tilfældet med Steve Talley, en finansanalytiker fra Colorado.

Jennifer Strong: Kade Crockford er en fortaler for privatlivets fred. Dette er fra hendes Ted Talk.

Kade Crockford : I 2015 blev Talley sigtet for bankrøveri på baggrund af en fejl i et ansigtsgenkendelsessystem. Talley kæmpede den sag, og han blev til sidst frikendt for disse anklager, men han mistede sit hus, sit job og sine børn. Steve Talleys sag er et eksempel på, hvad der kan ske, når teknologien svigter. Men ansigtsovervågning er lige så farligt, når det fungerer som annonceret.

Overvej lige, hvor trivielt det ville være for en statslig instans at placere et overvågningskamera uden for en bygning, hvor folk mødes til Anonyme Alkoholikere-møder. Det ville være lige så nemt at bruge denne teknologi til automatisk at identificere hver person, der deltog i Women's March eller en Black Lives Matter-protest.

Jennifer Strong: Selvom Ton-That mener, at Clearviews værktøj er mere sikkert end det, hun beskriver.

Hoan Ton-Det : En falsk positiv i en live-indstilling er mere et problem, end den er i en efter fact-indstilling. For hvis du får en alarm, og du løber ned for at finde personen, har du måske meget mindre tid til at se, om det er korrekt. Hvorimod hvis du bag et skrivebord laver en undersøgelse, har du al tid i verden til at sikre dig, at du gør det rigtige.

Jennifer Strong: Men der er ingen enighed om, hvad det vil sige at gøre det rigtige.

I første afsnit mødte vi Robert Williams. Han blev fejlagtigt anholdt i netop den type undersøgelse, Ton-That taler om, efter at software forkert matchede hans kørekortfoto til billeder af en person, der stjæler ure.

Værktøjet brugt i tilfældet med Mr. Williams blev ikke bygget af Clearview, men af ​​et firma kaldet DataWorks – selvom begge disse systemer er afhængige af neurale netværk.

Hoan Ton-Det : Så et neuralt netværk er en nyere form for kunstig intelligens, hvor vi i stedet for hårdkodning af bestemte faktorer - for eksempel vil lave ansigtsgenkendelse for at finde lignende ansigter af den samme person - i stedet for hårdkodningsfaktorer som afstanden mellem dine øjne eller afstand mellem øjnene og næsen, lærer den bare af et væld af forskellige eksempler. Og det, vi gør, er, at vi samler som tusinde eksempler på George Clooney eller tusinde eksempler på Brad Pitt og maskinen over tid, den lærer forskellen mellem de to ansigter, og så kan den anvende den på et ansigt, der ikke er set før .

Jennifer Strong: Noget alle, vi talte med til denne serie, var enige om, er, at disse systemer fungerer bedst, når belysningen er god, og kameraerne er placeret i ansigtshøjde.

Men med sikkerhedskameraer er det sjældent. Der er også udfordringen med skalaen.

Hoan Ton-Det : Hvordan søger du milliarder af ansigter eller vektorer på under et sekund? Typisk databaseopslag ved navn og e-mail. Dette ser op efter lighed. Og at gøre det i skala er svært. Vi skulle også have vores eget datacenter til det. Typisk, hvis du køber et ansigtsgenkendelsessystem, er der et problem med koldstart. Hvilke billeder sætter du ind der? Så politiafdelinger har måske deres egne mugshots, men de har ikke mugshots fra andre politiafdelinger. Så det begrænser virkelig nytten af ​​det. Og vi har lige indset, at der er billioner og billioner af websider på internettet og på sociale medier, og du ved, nyhedssider, mugshot-websteder.

Jennifer Strong: Vi er kun et par kilometer væk fra hinanden i New York City, men på grund af pandemien chatter vi over Zoom.

Hoan Ton-Det : Jennifer, jeg havde taget et skærmbillede af et billede af dig før. Har du noget imod, hvis jeg uploader det?

Jennifer Strong : Nej, det er fint.

Jennifer Strong: Og han sætter et gammelt billede fra min LinkedIn-konto op på skærmen.

Hoan Ton-Det : Altså på venstre side? Ser du denne nye søgeknap, hvor du vælger et billede? Så det er den jeg skal bruge. Bare rolig. Ingen kan se skærmen undtagen os (latter).

Og så det tog, du ved, omkring et sekund. Øh, og du kan se, at der er et link, som du kan klikke på. Men efterhånden som vi gennemgår dette, så er det, øh, fra Twitter. Kan du overhovedet huske dette billede?

Jennifer Strong : Ummm nej jeg vidste ikke det var taget... jeg ser meget ud...

Hoan Ton-Det : Ja. Du gør. Du ser meget seriøs ud i den. Ja.

Her holder du et foredrag på The Wall Street Journal, The Future of Everything.

Jennifer Strong : Ja.

Hoan Ton-Det : Du interviewer nogen her hos Duke Health. Så som jeg sagde, alle disse ting er offentligt tilgængelige. Så det er i bund og grund sådan det fungerer.

Jennifer Strong: Der er ikke noget usædvanligt her. Bare billeder af mig på arbejde, hvor jeg rapporterer historier og er vært for paneler i forskellige byer - selvom det er lidt skurrende at finde billeder af mig selv, jeg aldrig har set - og endnu en gang rejser det dette vanskelige spørgsmål om samtykke.

Ser du, det er usandsynligt, at jeg markerer en boks, der giver tilladelse til, at virksomheder som Clearview kan skrabe mit image og bruge det til at bygge deres forretninger op.

Sagen er den, at de ikke har brug for det.

Vi vender tilbage om et øjeblik lige efter dette.

Hoan Ton-Det : Det unikke ved Clearview AI, og det gør det lidt sværere for folk at forstå, er kun at søge offentligt tilgængelig information.

Jennifer Strong: Og det er her, Ton-That fremsætter et argument, som vi måske diskuterer og sagfører i mange år fremover: at det åbne internet, som vi kender det, inklusive ting som Google-søgninger, ikke rigtig ville eksistere, hvis vi havde lagt restriktioner på brugen af online data.

Hoan Ton-Det : LinkedIn er en milliard dollar virksomhed, eller billion dollar virksomhed Microsoft, de har ikke ret til at blokere andre menneskers adgang til offentlige data. Så det er en ting, der bare er på et interessant sted, fordi det kun søger offentligt tilgængelig information og ting, som folk ønsker skal være private. Vi ved godt, at vi ikke ønsker at plastre dem over hele internettet. Så jeg tror, ​​at vi har et instinkt for, hvad vi vil holde privat, og hvad vi vil holde offentligt, og sådan vil det altid være.

Jennifer Strong: Det er sikkert at sige, at ikke alle er enige med ham.

Twitter er blandt en lang række virksomheder, der sendte Clearview en ophørs- og afståelsesordre og beder det stoppe med at skrabe deres billeder og slette alle deres data. Twitter siger også, at deres politikker forbyder deres data i at blive brugt til ansigtsgenkendelse. I betragtning af at han allerede har skrabet milliarder af billeder, ville du blive tilgivet for at spekulere på, hvor meget mere information der stadig er derude for ham at fange.

Men det er kun toppen af ​​isbjerget.

Hoan Ton-Det : Vi er stadig ikke engang 1% af, hvad der er derude, når du kører tallene, det er lidt vanvittigt, hvor meget information der er derude. Så når det kommer til privatlivets fred, er vi lidt nødt til at se på os selv og sige, ja, vi deler frivilligt mange af disse oplysninger. Og det kan være rigtigt, men hvordan, hvordan har vi det med det? Vi har ingen private oplysninger, som Google eller Facebook har. Google har hele tiden din placering på Android. Facebook kender alle dine vaner, og hvad du kan lide, og hvad du ikke kan lide. Instagram Explorer-fanen er ligesom fænomenal til at finde ud af, hvad du kan lide, det er lidt skræmmende, men de ved på en måde meget mere information, end hvad vi gør. Og vi er kun fokuseret på at forsøge at ansøge om det største gode, tror vi, for at gøre verden meget mere sikker.

Jennifer Strong: Og for ham betyder det at arbejde med politiet.

Hoan Ton-Det : Så allerede i en masse retshåndhævende myndigheder, der bruger ansigtsgenkendelse, har de en procedure, der siger, at man ikke bare kan anholde nogen baseret på et ansigtsgenkendelsesmatch. Du skal stadig lave opfølgende undersøgelser. Så der er altid et menneske i løkken, der tjekker, om denne person er den rigtige? Har de det rigtige navn? Bor denne person i det samme område, hvor forbrydelsen blev begået?

Jennifer Strong: Men hvad med folk, der er falsk anklaget?

Ton-Det ville påstå, at det er en menneskelig fejl. På samme måde er vi stadig ansvarlige for, hvordan vi kører, mens vi bruger GPS – når navigationen siger drej til højre, og det er ikke sikkert at gøre det – er det op til os og vores menneskelige hjerner at ignorere det.

Og han minder os om, at folk også tager fejl.

Hoan Ton-Det : Som et eksempel er menneskelige opstillinger. The Innocence Project siger, at 70 % af de ulovlige domme stammer fra øjenvidne. Så, du ved, hvis du er en dårlig politibetjent, og du vil udråbe nogen for en forbrydelse, de ikke har begået, kan du godt lide at få folk til at vælge den person, du vil have ud af en lineup, og jeg tror, ​​at teknologi som f.eks. Clearview kan faktisk hjælpe med at tilføje en masse gennemsigtighed og ansvarlighed. Noget, som vi ville elske at tage et stærkt kig på, er, hvordan det faktisk kan hjælpe folk til ikke at blive fejlidentificeret.

Jennifer Strong: På en måde argumenterer han imod human dom? Det er den samme, der bruges mod at videregive disse beslutninger til AI: Der er fejl, bias og racisme. Men hvor Ton-That ikke tror på, at vi pålideligt kan ændre folk, tror han, at han har fjernet disse ting fra sit system.

Hoan Ton-Det : Og så tror vi, at vi fuldstændigt har løst nøjagtighedsproblemet og racefordommesproblemet, der på en måde har plaget andre ansigtsgenkendelsesfirmaer. Og vi ønsker, at andre skal vide, at vi virkelig kan tage denne teknologi og bruge den.

Jennifer Strong: Disse er meget store påstande, som måske ikke engang er mulige, og der er i øjeblikket ingen måde at verificere noget af det på. Clearview har ikke givet den form for offentlig adgang, der ville tillade deres system at blive revideret på samme måde, som Amazon og andre har.

Han siger, at virksomheden foretog sin egen revision og samlede et uafhængigt bedømmelsesudvalg, der havde en lignende tilgang til, da ACLU testede Amazons ansigtsgenkendelsessystem ved at køre billeder af den amerikanske kongres forbi en mugshot-database - som er billeder af folk, der er blevet arresteret. for en forbrydelse.

Hoan Ton-Det : Og så kørte de denne uafhængige undersøgelse. Men i stedet for at søge i et galleri med 25.000 mugshots søgte den i et galleri med 2,8 milliarder billeder på det tidspunkt. Og vi gjorde andre lovgivende forsamlinger som staten New York og Texas. Og hvert af resultaterne, der kom frem, var den rigtige person, og de gennemgik dem individuelt.

Jennifer Strong: Fra Clearviews perspektiv betyder det, at teknologien faktisk kan hjælpe retssystemet med at blive mere retfærdigt. Han siger, at de fik Jonathan Lippman, chefdommeren for appelretten i New York, til at være en del af det revisionspanel.

Hoan Ton-Det : Og han mener virkelig, at hvis man har noget, der er mere præcist, er det også bedre for de tiltalte. De kommer ikke i fængsel for en forbrydelse, de ikke har begået.

Jennifer Strong: Hvis Silicon Valley har et brand, er det denne teknooptimisme om, hvordan deres kreationer vil ændre verden, men uden byrden af ​​at være ansvarlig for eventuelle uønskede ændringer, der måtte følge med det.

Måske det virkelig burde ikke være teknologiskabernes opgave at bekymre sig om, hvilke former for gennemsigtighed, tilsyn og autoværn der er nødvendige for at beskytte offentligheden.

Hoan Ton-Det : Jeg synes, det er regeringens og de politiske beslutningstageres ansvar at komme med regler, og teknologivirksomheder bør have en plads ved bordet, og det er i deres interesse at have en plads ved bordet. Nogle gange ser man dårlige politikker vedtaget, fordi de ikke ved, hvordan teknologien fungerer. Så jeg tror, ​​at flere teknologivirksomheder vil engagere sig i politik.

Vi har haft meget opmærksomhed, men vi ved, at vi gør det rigtige. Og jeg tror i det lange løb, at enhver form for ny teknologi er kontroversiel fra trykpressen... og det er bare en del af processen. Valget står ikke mellem ingen ansigtsgenkendelse og ansigtsgenkendelse. Det er mellem ansvarlig ansigtsgenkendelse og en slags vilde vesten.

Jennifer Strong: En gruppe, der har til formål at hjælpe med at tæmme det vilde vesten, er The Police Executive Research Forum. Nonprofitorganisationen har brugt de sidste fire årtier på at hjælpe politichefer med at løse nye problemer.

Alexa Daniels-Shpall : Brugen af ​​tasers. De bruger kropsbårne kameraer. Nu ser vi også på emnet ansigtsgenkendelse.

Jennifer Strong: Alexa Daniels-Shpall leder denne forskning i samarbejde med det amerikanske justitsministerium.

Alexa Daniels-Shpall : Vi har lavet meget af denne forskning på dette område med det mål at udvikle nogle nationale retningslinjer. De bruger det på en række forskellige måder, og de har alle sammen udviklet deres egne procedurer, protokoller og politikker.

Jennifer Strong: Vi kommer ind på den næste episode... Men for nu er det vigtige, hendes forskning tyder på, at Clearviews adoption af politiafdelinger måske ikke er så udbredt som hævdet. I januar fortalte han New York Times, at mere end 600 retshåndhævende myndigheder er begyndt at bruge hans produkt i det seneste år.

Alexa Daniels-Shpall : Vi har kun set en håndfuld, der har fulgt op med en formel kontrakt.

Jennifer Strong: Nederste linje: politibureauer bruger Clearview. Men der er stor forskel på at prøve og købe.

Alexa Daniels-Shpall : Jeg ved, at nogle prøvede det og derefter besluttede ikke at bruge det. Og i det mindste nogle af dem, vi talte med, sagde, at det bare ikke fungerede så godt for dem. Og jeg tænker, at det nok afhænger af, du ved, hvad du tester det med, og hvor du er i landet. For, du ved, jeg ved ikke, at nogen har en fornemmelse af, hvor mange billeder der kommer op i forskellige områder.

Jennifer Strong: Og ikke alle politimyndigheder, der prøvede det, gjorde det bevidst ... eller gennem officielle kanaler.

Alexa Daniels-Shpall : Lederne fandt ud af, at detektiver var blevet kontaktet af virksomheden for at teste det. Og så bragte de det til deres chefer for at sige: Hej, vi burde se på at komme videre med det. Og lederne sagde sådan set, at vi lukker det ned for nu og gennemgår vores normale indkøbs- og evalueringsprocesser, før vi går videre. // Det har været en slags blandet modtagelse, vil jeg sige fra forskellige bureauer. Og det vigtigere spørgsmål ville være at finde ud af, hvor mange slags permanente langsigtede kontrakter, og hvor mange agenturer, der har lavet det formelle indkøb for at skabe et forhold til virksomheden i stedet for blot de gratis prøveperioder, der var i gang.

Jennifer Strong: Næste gang møder vi politi rundt om i USA, der bruger ansigts-ID...

Dori Koren : Det er lidt Hollywood-agtigt, men vi gjorde det med vilje, det var sådan, vi ønskede, at det skulle føles. Så forestil dig at gå ind i et stort rum og på forvæggen, du har denne massive skærm - alle slags kamera-feeds som et overvågningsrum, men en lille smule mere højteknologisk, en lille smule større, en lille smule mere avanceret.

Jennifer Strong: Og find ud af, hvilken rolle skuespilleren Woody Harrelson og andre berømtheder uforvarende spiller i at navngive politimistænkte...

Denne episode blev rapporteret og produceret af mig, med Tate Ryan-Mosely og Emma Cillekens, med særlig tak til Karen Hao og Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Litchfield. Vores tekniske direktør er Jacob Gorski.

Tak fordi du lyttede, jeg er Jennifer Strong.

skjule