Podcast: Bemærk, shoppere – du bliver sporet

I nogle butikker sporer sofistikerede systemer kunder på næsten alle tænkelige måder, lige fra at genkende deres ansigter til at måle deres alder, deres humør og nærmest gider dem op med makeup. Systemerne beder sjældent om folks tilladelse, og det behøver de for det meste ikke. I vores sæson 1-finale ser vi på eksplosionen af ​​AI og ansigtsgenkendelsesteknologier i butikslokaler, og hvad det betyder for fremtidens shopping.

Vi møder:

• RetailNext CTO Arun Nair
• L'Oreals teknologiinkubator Global VP Guive Balooch
• Modiface CEO Parham Arabi
• Biometripioner og formand for ID4Africa Joseph Atick

Credits

Denne episode blev rapporteret og produceret af Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens og Karen Hao. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Afskrift

[TR ID]

Stærk: Detailhandlere har brugt ansigtsgenkendelse og AI-sporingsteknologier i årevis.

[ Lyd fra Face First: Hvad hvis du kunne stoppe detailkriminalitet, før det sker, ved at kende det øjeblik, en butikstyv kommer ind i din butik? Og hvad hvis du kunne vide om tilstedeværelsen af ​​voldelige kriminelle, før de handler? Med Face First kan du stoppe kriminalitet, før den starter.]

Stærk: Det er en af ​​de største udbydere af denne teknologi til detailbutikker. Den registrerer ansigter, stemmer, genstande og hævder, at den kan analysere adfærd. Men ansigtsgenkendelsessystemer har en veldokumenteret historie med fejlidentifikation af kvinder og farvede.

[ Lyd fra 2019 Kongressens høring om ansigtsgenkendelse (Ocasio-Cortez): Vi har en teknologi, der er skabt og designet af én demografisk person, som kun er mest effektiv på den ene demografiske. Og de forsøger at sælge det og påtvinge det hele landet?]

Stærk: Dette er repræsentant Alexandria Ocasio-Cortez ved en kongreshøring i 2019 om ansigtsgenkendelse. Fototeknologier fungerer bedre på lysere hud. Og datasæt, der bruges af virksomheder til at træne ansigtsanalysesystemer, er i vid udstrækning baseret på ansigter indsamlet fra internettet, hvor indhold har en tendens til at skæve hvidt, mandligt og vestligt.

[ Lyd fra 2019 Kongressens høring om ansigtsgenkendelse (Ocasio-Cortez): Og tror du, at dette kan forværre de allerede voldsomme uligheder i vores strafferetssystem]

[ Lyd fra 2019 Kongressens høring om ansigtsgenkendelse (Buolamwini): Og det er det allerede.]

Stærk: Joy Buolamwini er aktivist og datalog.

[ Lyd fra 2019 Kongressens høring om ansigtsgenkendelse (Buolamwini): Så der er en sag med Mr. Bah, en 18-årig afroamerikansk mand, der blev fejlidentificeret i Apple-butikker som en tyv. Og faktisk blev han falsk arresteret flere gange på grund af denne form for fejlidentifikation.

Stærk: Efterhånden som bevidstheden om disse problemer vokser, søger flere steder at indføre restriktioner omkring brugen af ​​det, såsom i Portland, Oregon, som for nylig vedtog det mest omfattende forbud mod ansigts-ID i USA.

[ Lyd fra butik i Portland, Oregon: kig venligst ind i kameraet for adgang]

Stærk: Forbuddet træder i kraft i januar, og når det sker, vil stemmen og kameraet forsvinde fra steder som denne fødevarebutik, hvor teknologien låser døren op for kunder, der køber sent om aftenen. Men brug andre steder bevæger sig langt ud over at bekæmpe kriminalitet (og begynder at spille andre detailroller) som at huske dine tidligere ordrer og betalingsoplysninger.

Miller: Disse ansigtsbaserede teknologier, uhh kunstig intelligens, maskinsyn giver os mulighed for at se vores kunde i offlineverdenen, som Amazon ser sin kunde i onlineverdenen. Det giver os mulighed for at skabe skræddersyede oplevelser til kunden og giver os også mulighed for direkte at målrette kunden på nye måder, når de kommer tilbage til restauranten.

Stærk: Det er formanden for Cali Group, John Miller, dens fastfood-restaurant Caliburger afprøver teknologier, som den senere markedsfører til hele industrien. Andre forhandlere bruger ansigtsgenkendelse til at vide, hvornår VIP-shoppere eller berømtheder er i deres butikker, ikke ulig denne scene fra filmen Minority Report, hvor Tom Cruise slentrer gennem et indkøbscenter, hans øjne scannes, og annoncerne adresserer hans karakter ved navn.

[ Lyd fra Minority Report, hvor stemmer henvender sig til John Anderson personligt]

Stærk: Ansigtsmålingerne, der driver disse applikationer, kan også bruges til mange andre ting udover blot at identificere nogen. For eksempel bruger nogle indkøbscentre det til at hjælpe med at fastsætte deres butiksleje ved at tælle, hvor mange mennesker der går forbi, og bruge ansigtsdata til at måle køn, alder og andre demografiske oplysninger. Nogle gange er ansigtsgenkendelseskameraer endda skjult inde i indkøbscentrets biblioteker. Og i butikkerne bruger detailhandlere det til bedre at forstå, hvad shoppere er interesserede i. Det er også indlejret i shopping-apps og butiksspejle, der lader folk prøve alt fra briller til makeup virtuelt.

Jeg er Jennifer Strong, og denne episode afslutter vores første sæson (og vores seneste miniserie om ansigtsgenkendelse) med et kig på, hvordan det bruges til at se, forstå og påvirke dine indkøbsvaner.

[VIS ID]

Stærk: Så jeg er ude foran det, der plejede at være den største butik i verden. Dette er Macy's på 34th Street på Manhattan. Bygningen fylder en hel byblok og på nogle måder er den en slags tyngdepunkt for juleshoppingsæsonen her, som blandt andet inspiration til en af ​​New Yorks mest berømte julefilm, Miracle on 34th Street.

Men virksomheden kan også have en historie med at bruge ansigtsgenkendelse, og der blev anlagt en retssag om det i Illinois, som har en biometrisk privatlivslov, der kræver, at virksomheder får tilladelse, før de bruger det på kunder. Denne sag hævder, at Macy's er klient hos ClearviewAI. Vi har haft grundlæggeren på dette show, Hoan Ton-That, og hans produkt fungerer ved at matche billeder, i dette tilfælde af shoppere eller butikstyve, mod en database med måske milliarder af billeder taget fra sociale medier, som er postet af folk, der ikke har ændret deres indstillinger for at gøre billederne private kun for deres venner.

Nu har New York Citys rådsmedlemmer netop vedtaget en biometrisk foranstaltning her, som, hvis den er underskrevet af borgmesteren, vil få detailhandlere til at fortælle kunderne, at ansigtsgenkendelse bliver brugt, og måske hvad der sker med disse data. Men du ved, at det er for tidligt at sige, hvordan det kan se ud. Jeg mener er det at gå som en del af en stor skare af shoppere forbi en vægplade, der siger, at ansigtsgenkendelse er til stede, er det lig med at blive informeret, endsige give samtykke? Men jeg vil gå indenfor med min producer, Anthony Green, og se, om vi kan finde helt forskellige anvendelser af ansigtsmapping at vise dig.

Flere af disse skønhedsdiske har iPads, der fungerer som spejle med augmented reality. Vi prøvede tre af dem, men vi bad om samtykke til at analysere vores ansigter. To af systemerne så os fint igennem vores masker. Den anden genkendte slet ikke vores ansigter.

Jeg gik hen til et spejl, og det siger, at min belysning er i orden. Kom tættere på, indtil dit ansigt fylder en cirkel. Jeg har tilsyneladende mørke rande, ujævn tekstur. irritation og rødme og øjenlinjer. Vi er i det mindste på den mindre side? Jeg ved ikke. Woah. Hej Anthony, du burde se det her. Jeg var ikke sikker på, at den gjorde noget, og kig nu i spejlet.

Grøn: Wow.

Stærk: Ret?

Grøn: Wow.

Stærk: Jeg har ikke rigtig ord for at beskrive dette, men det er så sjovt at se mig selv, at det er opdigtet.

Grøn: Lidt ligesom glammet op.

Stærk: Ja. Jeg er ligesom super glammet. Og bogstaveligt talt alt, hvad jeg gjorde, var at kigge i dette spejl, og så kiggede jeg ned på en iPad og Holy, wow.

Grøn: Dette fungerer med din maske på.

Stærk: Det er med min maske på. Og hvis jeg trækker min maske ned, bliver jeg sminket overalt.

Grøn: Åh ja.

Stærk: Som glosset og det hele. Åh, se på dig.

Grøn: Wow.

Stærk: Okay, så Anthony tog lige et skridt over mod mig, og nu er han nået op til nine. Okay. Disse erfaringer er blandt de mange mange måder, ansigtsmapping kan anvendes på.

Men fordi de er så kontroversielle, vil de fleste mærker simpelthen ikke tale om det. Og for det meste behøver de ikke. Der er ikke noget nationalt krav om, at virksomheder afslører måden, de indsamler eller bruger vores biometriske data på, selvom vi kan forestille os en ikke så fjern fremtid, når disse data bliver vigtigere end noget dokument, vi har. Disse personlige data vil sandsynligvis erstatte dem alle, hvilket beviser, hvem vi er, og hvad vi ejer.

Det meste af det, vi ved om detailhandlernes brug af ansigtsgenkendelse startede i 2013, da det blev offentligt, at identitetsfirmaet NEC havde omkring et dusin brands og hoteller som kunder, og de brugte sin ansigtslæseteknologi til at identificere berømtheder og andre VIP'er, da de gik gennem deres døre.

Året efter annoncerede Facebook, at det anvendte neurale netværk til ansigts-id for første gang, hvilket fik det til at fungere betydeligt bedre. Og detailhandlere, inklusive Walmart, begyndte at teste det som en måde at identificere personer, der blev taget i butikstyveri.

I 2016 eksperimenterede fastfoodvirksomheder med andre anvendelsesmuligheder. Et partnerskab, mellem KFC og den kinesiske teknologigigant Baidu, anbefalede menupunkter til kunder baseret på deres alder og humør som vurderet ved ansigtsscanning. I disse dage er det også muligt at betale med dit ansigt, selvom disse applikationer endnu ikke rigtig har fanget. Og så uanset hvor du handler, er det rimeligt at antage, at du kan støde på et aspekt af denne teknologi, og det kan kombineres med et hvilket som helst antal andre trackere. Men det er lige så sandt, at meget af den sporing, der udføres i detailbutikker ved hjælp af computersyn, slet ikke involverer ansigtsgenkendelse.

Nair: Hvis du bygger et websted i dag, er der en masse værktøjer tilgængelige, som du kan bruge til at give dig data, som hvor mange mennesker der besøgte dit websted, hvem de var, hvordan de navigerede på dit websted og så videre, og for e-handelssider. også eventuel købsaktivitet. Og du kan bruge alle disse data til at forstå besøgendes adfærd og optimere dit websted. Vi gør præcis det samme, men til fysiske rum. Mit navn er Arun Nair. Jeg er CTO og medstifter af RetailNext.

Stærk: Deres sporingssoftware er implementeret på kontorer, museer, endda bowlingbaner, men deres primære marked er detailhandel. Loftskameraer udstyret med computervision sporer kunder, når de rejser gennem butikken. Det kan gætte grundlæggende demografiske oplysninger som køn, hvem der er en medarbejder - baseret på om de går bag registret, selv interaktioner mellem medarbejdere og kunder.

Nair: Vi har endda en forudsigelsesalgoritme, der vil fortælle dig baseret på historisk information, hvornår din butik bliver travlt senere på dagen, senere på ugen. Og det er yderst nyttigt for personalet. Så sørg for, at når du forventer et toppunkt, at der er folk der for at hjælpe shoppere, og de ikke står i kø og så videre, ligesom du ikke altid er bemandet, når ingen behøver at være der.

Stærk: Han siger, at virksomheden er i stand til at bestemme, hvad du ser på, men den sporer ikke øjenblik, udtryk eller ansigter. Og de identificerer ikke individuelt nogen.

Nair: Vi ved ikke, hvem de er som individer, og vi prøver specifikt at lade være. Og i faktisk mange tilfælde, når vi først har fået den information, smider vi videoen væk, eller vi slører videoen.

Stærk: Når det kommer til privatliv, mener han, at systemer, der bruger ansigtsgenkendelse til identitet, bør være opt-in

Nair: Samtykke handler ikke kun om, åh, jeg lægger mine data derude, så du kan gøre, hvad du vil. Jeg tror, ​​at samtykke også handler om, at du ved, vi ønsker, at du gør dette, så vi kan gøre dette til gengæld for dig. Er du okay med det?

Stærk: Men han indrømmer, at det er lettere sagt end gjort.

Nair: Det er ikke nemt at fravælge de ting. Og selvom du fravælger, er udfordringen, at lad os sige, du siger det, hej, jeg vil gerne fravælge mit ansigt. Som teknologivirksomhed er jeg stadig nødt til at gemme en digitaliseret version af dit ansigt for at sikre, at jeg ikke sporer dig igen i fremtiden, for næste gang jeg ser dit ansigt, har jeg brug for noget at kortlægge for at sige det, Åh, jeg burde tabe denne persons ansigt. Men så igen, du ved, på en underlig måde gemmer jeg nu en digitaliseret version af dit ansigt, som. Igen, det er ikke rigtig dit ansigt, men det er en repræsentation af det.

Stærk: Og disse udfordringer forsvinder ikke. De fleste sporingsteknologier er ikke reguleret, og vi ved simpelthen ikke, hvor ofte ting som ansigtsdata bliver fanget. Hvad der er klart, er detailbranchen ved at skifte til en verden, der er centreret omkring realtidsanalyse af kundeoplevelser.

Nair: Jeg tror, ​​de kommer til at se mere og mere af det fremadrettet, hvor der faktisk sker færre køb på disse steder, men det er sådan set, hvordan man lærer om mærket. [00:12:15] Næsten som reklame, såvel som en slags opbygning af en brandloyalitet.

Stærk: Sporing af kunder og deres interaktion med butikken hjælper ikke kun detailhandlere med at vide, hvad der sælger, det giver dem også indsigt i, hvad kunderne ønsker.

Nair: Du introducerer et nyt produkt. Og du vil sikre dig, at folk ser det produkt. Vores algoritmer vil fortælle dig, om folk rent faktisk går ind i et område af butikken og interagerer med et produkt og faktisk foretager et køb bagefter.

Balooch: Jeg tror, ​​at det er en kombination af kunstig intelligens med fysiske objekter, der virkelig skaber et spændende øjeblik i tiden. Du ved, du kunne aldrig rigtig prøve en trend og så rent faktisk aflevere den. Det var aldrig muligt. Men nu på grund af kunstig intelligens er vi i stand til virkelig at gå gennem trends virkelig hurtigt. Vi er i stand til at kurere trends, vi er i stand til at give folk, hvad de ønsker. Mit navn er Guive Balooch, og jeg driver den globale teknologiinkubator hos L'Oreal. Jeg har været i virksomheden i 15 år, og mit job er at finde krydsfeltet mellem skønhed og teknologi.

Stærk: L’Oreal er verdens største kosmetikvirksomhed med Estee Lauder, Maybelline, Garnier og utallige andre forbrugermærker under virksomhedens paraply.

Balooch: Vi startede for omkring otte år siden med en augmented reality-app kaldet makeup genius. Det var verdens første virtuelle try-on. Og siden da har vi lanceret projekter omkring personlig skønhed som hudplejepersonalisering, foundation personalisering. Vi har lanceret en UV-sensor i Apple Store, som er en bærbar, der ikke har noget batteri og kan måle din UV-eksponering. Og nu er vi, vi bevæger os mere og mere i retning af massepersonalisering og finde måder at kombinere teknologier som AR og AI for at skabe nye fysiske objekter, der kan være magiske for skønhedsforbrugere og forhåbentlig glæde vores brugere.

Stærk: Og det her er sværere, end det måske lyder. At designe oplevelser, der lader kunder prøve makeup i augmented reality, giver enorme tekniske udfordringer for ansigtsgenkendelse.

Balooch: Du skal opdage, hvor øjet er, og hvor øjenbrynet er. Og det skal være på et niveau af nøjagtighed, at når produktet er på der, ser det ikke ud som om det ikke ligefrem er på din læbe. Og det er, det er sjovt, fordi jeg kommer fra en akademisk baggrund med en ph.d. Så jeg var ikke klar over, hvor kompliceret den specifikke del af denne teknologi er. Jeg tænkte: Åh, det er okay. Vi henter bare softwaren. Det bliver nemt. Vi får det bare til at fungere. Men det viser sig nej, det er virkelig kompliceret, fordi folks læber kan variere i form, farven mellem din hudtone og din læbe kan også være meget forskellig. Og så du skal have en algoritme, der kan registrere det og sørge for, at det virker på mennesker fra meget lys til meget mørk hud.

Stærk: Og han siger, at en af ​​de største virkninger af kunstig intelligens på skønhedsmarkedet kunne være mere inklusivitet - noget industrien længe har kæmpet med.

Balooch: Jeg er under denne, du ved, stærke overbevisning om, at inklusivitet er fremtiden for skønhed, og inklusivitet betyder, at ethvert menneske har ret til at have et produkt, der er, hvad de har brug for til sig selv og til at vise verden, hvordan de ønsker at være fremvist. Og jeg tror, ​​at kun gennem ting som AI og teknologi, vil vi være i stand til at nå det niveau af personligt forhold til folks ønsker om deres skønhedsvaner.

Stærk: Disse vaner er formet omkring vores hud. Og hudfarve har historisk set været en af ​​de sværeste tekniske og kulturelle udfordringer.

Balooch: Vi lancerede dette projekt kaldet som er denne foundationblender. Og da jeg først startede dette projekt, troede jeg, at det ville være meget enkelt, for da jeg gik på Home Depot umm, er jeg ikke rigtig en handyman, men jeg gik meget med min, min far til Home Depot, og han ville købe maling. Han ville matche malingen, og de ville bare lave malingen lige der. Og jeg sagde, okay, det er så nemt? Så da vi først startede projektet, indså vi, okay, du ved, du tager bare en hudtone fra et stykke, du ved, et papir, og du kan bare matche foundationen. Og jeg indså senere, at vores hud ikke er som en væg, det er biologisk væv, der ændrer sig afhængigt af, hvilken slags hudfarve du har.

Stærk: Kort sagt virkede algoritmen ikke.

Balooch: Så vi måtte stoppe op og bruge yderligere seks måneder på at forbedre det. Først gjorde vi det med en lille enhed, der på en måde måler din hudtone, ved hjælp af et fysisk objekt, fordi din hudtone er svær at måle, hvis du faktisk ikke rører ved huden, fordi lyset kan ændre farven på din hud. Og så afhængigt af, om du er udenfor eller om du er inde, kan du have en stor forskel i målingen. Men ikke længere. Takket være AI tror jeg mere og mere med AI, at vi vil være i stand til at få nøjagtige målinger. Vi skal teste dem og sikre os, at de fungerer lige så godt som objekter. Men når vi når til et punkt, hvor vi tror, ​​vi nærmer os det, så kan man løse nogle rigtig, rigtig store udfordringer. Og i foundation kan 50 % af kvinderne ikke finde den rigtige nuance af foundation. Og der er ingen måde, at antallet af produkter på hylden nogensinde vil løse det, for du vil altid have flere hudtoner i verden end produkter, du kan lægge på hylden.

Stærk: Og fremtiden kan åbne op for en helt ny klasse af personlige skønhedsværktøjer.

Balooch: Vi kan lave genstande, som du ved, ikke er store – håndholdte – og som kan gøre utrolige ting. Ligesom i fremtiden kunne du forestille dig, at du automatisk kan dispensere øjenskygge på dit øjenlåg blot ved at opdage ansigtet og kunne have en genstand, der kunne dispensere det.

Stærk: For at bygge denne fremtid opkøbte L'Oreal et firma kaldet Modiface, som laver augmented reality-værktøjer til mere end 70 af verdens førende skønhedsmærker.

arabisk: Et stort skridt, der skete for et par år siden, var at gå fra fotos til live-videosimulering. Virkelig hård præstation teknologisk, men virkelig indflydelse på forbrugeroplevelsen. I stedet for at skulle tage et billede og uploade det, kunne de se en live-video.

Stærk: Parham Aarabi er grundlægger og administrerende direktør for Modiface.

arabisk: Det næste store skridt, som jeg ser, at jeg er virkelig begejstret for, er en kombination af AI-forståelse af ansigtet sammen med vores simulering. Så ikke kun fortæller dig, okay, så du vælger en læbestift, og sådan ser den ud, men siger, fordi du valgte denne læbestift, og fordi du, du ved, du har blå øjne, tror vi, at denne øjenskygge kan matche den bedst.

Stærk: Hans baggrund er i ansigts- og læbesporing.

arabisk: Og så vi havde lavet denne prøvedemo, hvor du for eksempel kunne spore nogens læber og bytte læberne med en berømthed. Min medstifter havde den idé, at før vi gør dette, skulle vi faktisk påføre nogle ændringer på huden. Og så var det egentlig kombinationen af ​​disse to ideer, der blev grundlaget for Modiface.

Stærk: Skønhedsindustrien trives med den personlige shoppingoplevelse. Og selvom e-handelssalget længe har været stigende, har denne sektor været meget langsommere end andre. For sammenhængen var den bedste e-handelssælger inden for skønhed i 2018 shampoo. Men pandemien fremskynder tingene. Onlinesalget hos skønhedsgiganten Sephora steg 30 procent i USA i år. Og det er også samarbejdet med Modiface om at udvikle en app, der fungerer som en virtuel butik, komplet med produktvejledninger og en augmented reality skønhedsdisk.

arabisk: Du ser en prøv-på-knap, du trykker på den, og et vindue åbnes. Du ser din egen video i det vindue, men med forskellige virtuelle produkter, der vises.

Stærk: Og at opbygge forbrugernes tillid til disse simulerede produkter betyder at skabe en oplevelse lige så problemfri som at se sig i et spejl.

arabisk: Hvis nogen rent faktisk prøver en læbestift og en hårfarve og derefter videooptager sig selv i forhold til at bruge vores teknologi og derefter har en virtuel simulering af disse produkter, burde de to være umulige at skelne mellem. Forsinkelsen inden for simuleringen, der anvendes i forhold til, når du ser på dit ansigt, og du ser bevægelser, skal ikke være synlige for brugeren. Og det er altså store udfordringer. Den ene er af realisme. Du ønsker ikke, at eyelineren skal flimre på nogens øjne, og det andet er at gøre det så hurtigt, at du på en hjemmeside i live video ikke bemærker nogen forsinkelse. Så det er store, store udfordringer.

Stærk: Og det er mere end bare kosmetik. Elementer af ansigtsdetektion bruges i stigende grad i medicin til at diagnosticere sygdom. Og han tror på, at deres produkter i fremtiden vil opdage alle former for hudlidelser.

arabisk: Så vi har presset på denne hudvurdering, um, retning ved at se på en persons billede. Og baseret på det, ved at vide, hvilke hudplejeprodukter der er bedst for dem, og mere, jo mere vi gør dette og jo mere vi træner vores AI-systemer, opdager vi, at de stiger i niveauet af nøjagtighed, der svarer til hudlægers niveau. . Og jeg tror, ​​hvis du følger den linje, at denne AI, som faktisk ikke kan erstatte hudlæger, men virkelig hjalp dem som .. et objektivt værktøj, der kan se på nogens ansigt og komme med anbefalinger.

Stærk: Det føles som om, at der er mere bevidsthed om ansigtsgenkendelse af dets risici, umodenhed og skævheder, men også dets øgede tilstedeværelse i vores liv og blot rå potentiale. For mig ser det ud til, at vi lige har ridset overfladen - i dette rodede digitale kapløb til noget andet og stort. Og det fik mig til at spekulere på, hvordan en af ​​dens opfindere kunne have det med alt dette?

Atick: Jeg begyndte at arbejde med den menneskelige hjerne omkring et år efter, at jeg blev færdig og lavede sammen med mine samarbejdspartnere nogle grundlæggende gennembrud, som førte til skabelsen af ​​et felt kaldet den biometriske industri og den første kommercielt levedygtige ansigtsgenkendelse. Det er derfor, folk omtaler mig som en grundlægger af ansigtsgenkendelse og den biometriske industri.

Stærk: Det er Dr. Joseph Atick. Han udviklede en af ​​de første ansigtsgenkendelsesalgoritmer tilbage i 1994.

Atick: Algoritmen for, hvordan en menneskelig hjerne ville genkende kendte ansigter, blev klar, mens vi laver matematisk forskning på Institut for avanceret undersøgelse i Princeton.

Stærk: Men den nødvendige teknologi til at fange disse ansigter var endnu ikke i alles lommer.

Atick: På det tidspunkt havde computere ikke kameraer. Telefoner, der havde kameraer, fandtes ikke. Vi skulle bygge øjnene til hjernen. Vi havde en hjerne, vi troede, vi vidste, hvordan hjernen ville analysere signaler, men vi havde ikke de øjne, der ville få informationen og det visuelle signal til hjernen.

Stærk: Webcams kom til i 90'erne, og computere med videofunktioner kom på markedet et par år efter.

Atick: Og det var en spændende tid, for pludselig havde hjernen, som vi havde bygget, endelig det par øjne, det ville være nødvendigt at se.

Stærk: Dette var det gennembrud, han og hans team havde brug for for at bringe deres koncept ud i livet. Så de begyndte at kode.

Atick: det var en lang periode på måneder med programmering og fiasko og programmering og fiasko

Stærk: Men til sidst…

Atick: Og en aften, tidligt om morgenen, havde vi faktisk lige færdiggjort, um, en version af algoritmen. Vi indsendte kildekoden til kompilering for at få en kørekode. Og vi trådte ud, jeg trådte ud for at gå på toilettet. Og da jeg så trådte tilbage ind i rummet, opdagede det mit ansigt, trak det ud af baggrunden, og det udtalte, at jeg ser Joseph. Og det var det øjeblik, hvor håret på ryggen – jeg følte, at der var sket noget. Vi var et vidne. Og jeg begyndte, øh, at kalde på de andre mennesker, der stadig var i laboratoriet, og hver enkelt af dem, de ville komme ind i rummet. Og jeg ville sige, det ville sige, jeg ser Norman. Jeg ville se Paulus, jeg ville se Josef. Og vi ville på skift løbe rundt i lokalet bare for at se, hvor mange den kan få øje på i lokalet.

Stærk: De havde bygget noget, der aldrig var blevet bygget før. Måneder med matematik og kodning og lange nætter så ud til at betale sig. Men i løbet af få år blev den begejstring til bekymring.

Atick: Min bekymring for den teknologi, som jeg var med til at skabe og opfinde, startede meget hurtigt, efter jeg havde opfundet den. Jeg så en fremtid, hvor vores privatliv ville være i fare, hvis vi ikke indførte beskyttelsesforanstaltninger for at forhindre misbrug af denne kraftfulde teknologi.

Stærk: Og han ville gøre noget ved det.

Atick: Så i 1998 lobbyede jeg industrien, og jeg sagde, at vi er nødt til at sammensætte principper for ansvarlig brug. Og det er her en organisation kaldet IBIA blev født i 1998 som en brancheforening for at fremme ansvarlig brug. Øh, og så var jeg grundlæggeren af ​​den organisation. Og jeg havde det godt i et stykke tid, fordi jeg følte, at vi har fået det rigtigt. Jeg følte, at vi havde opfundet teknologien, men så indførte vi en ansvarlig brugskode, der skal følges af, hvad end implementeringen er. Den kode levede dog ikke tidens tand. Og årsagen bag det er, at vi ikke forudså fremkomsten af ​​sociale medier.

Stærk: Ansigtsgenkendelse er afhængig af en database med billeder. Størrelsen, kvaliteten og fortrolighedsbetingelserne for denne database er i høj grad det, der bestemmer, hvor sikker eller påtrængende teknologien er. I 1998 byggede Atick sine databaser ved manuelt at scanne tusindvis af billeder og mærke dem med navne. Det var kedeligt og begrænsende i størrelse.

Atick: Vi har ladet udyret komme ud af posen ved at fodre det med milliarder af ansigter og hjælpe det ved at mærke os selv. Vi er nu i en verden, hvor maskinlæring nu giver mulighed for fremkomsten af ​​over 400 forskellige algoritmer for ansigtsgenkendelse i verden. Derfor er ethvert håb om at kontrollere og kræve, at alle skal være ansvarlige i deres brug af ansigtsgenkendelse, vanskeligt.

Stærk: Og det forværres af scraping, hvor der skabes en database ved at scanne hele internettet for offentlige billeder.

Atick: Så jeg begyndte at gå i panik i 2011, og jeg skrev en oplyste artikel, der sagde, at det er tid til at trykke på panikknappen, fordi verden er på vej i en retning, hvor ansigtsgenkendelse vil være allestedsnærværende, og ansigter vil være tilgængelige overalt. i, i, i databaser. Computerkraft er ved at blive meget, meget massiv til det punkt, at vi potentielt kan genkende milliarder af mennesker. Og på det tidspunkt sagde folk, at jeg var alarmist, men de indser, at det er præcis, hvad der sker i dag.

Stærk: Så på en måde lobbyer han på en måde mod sin egen opfindelse, selvom han stadig bruger biometri til at hjælpe med at bygge ting, som han mener kan gavne det større gode som digitalt ID for mennesker i udviklingslande.

Atick: Den afkølende effekt er noget, der er utilgiveligt. Hvis jeg ikke kan gå udenfor på gaden, fordi jeg tror, ​​at nogen bruger en iPhone, kan jeg tage et billede af mig og forbinde mig til min online profil, og denne online og offline forbindelse er en farlig ting. Og det sker lige nu.

Stærk: Og han mener, at vi har akut brug for nogle juridiske spilleregler.

Atick: Og så er det ikke længere et teknologisk problem. Vi kan ikke indeholde denne kraftfulde teknologi gennem teknologi. Der skal være en form for juridiske rammer.

Stærk: Som han ser det, vil den teknologiske kant blive ved med at skubbe fremad – med AI i front. Men de mennesker, der bygger og bruger det? De er i centrum.

Atick: Jeg tror på, at der skal være en vis harmoni mellem, hvad teknologi kan gøre for os og hjælper os med at leve med værdighed og få nemmere liv og forbinde os med de mennesker, vi elsker, men på samme tid skal det være inden for vores moral og vores forventninger. som mennesker tillader det at være.

Stærk: Med andre ord, endnu en gang... det ser ud til at være op til os. Denne episode blev rapporteret og produceret af mig, Anthony Green, Emma Cillekens, Tate Ryan-Mosley og Karen Hao. Vi er redigeret af Michael Reilly og Gideon Lichfield. Også tak til Kate Kaye med The Banned in PDX podcast. Det er det til sæson et. Mange tak, fordi du valgte at bruge din tid hos os. Vi mødes igen her i det nye år indtil da, glædelig ferie og... Tak fordi du lyttede, jeg hedder Jennifer Strong.

[TR ID]

skjule