Podcast: Historien om AI, som fortalt af de mennesker, der opfandt den

Velkommen til Jeg var der hvornår , et nyt mundtlig historieprojekt fra I maskiner, vi stoler på podcast. Den byder på historier om, hvordan gennembrud inden for kunstig intelligens og computing skete, som fortalt af de mennesker, der så dem. I denne første episode møder vi Joseph Atick – som hjalp med at skabe det første kommercielt levedygtige ansigtsgenkendelsessystem.

Credits:

Denne episode blev produceret af Jennifer Strong, Anthony Green og Emma Cillekens med hjælp fra Lindsay Muscato. Den er redigeret af Michael Reilly og Mat Honan. Det er blandet af Garret Lang, med lyddesign og musik af Jacob Gorski.

Fuld udskrift:

[TR ID]

Jennifer: Jeg er Jennifer Strong, vært for I maskiner, vi stoler på .

Jeg vil gerne fortælle dig om noget, vi har arbejdet med i et stykke tid bag kulisserne her.

Det hedder Jeg var der hvornår .

Det er et mundtlig historieprojekt, der byder på historierne om, hvordan gennembrud inden for kunstig intelligens og databehandling skete ... som fortalt af de mennesker, der så dem.

Joseph Atick: Og da jeg kom ind i rummet, fik den øje på mit ansigt, trak det ud fra baggrunden og det udtalte: Jeg ser Joseph, og det var det øjeblik, hvor håret på ryggen... Jeg følte, at der var sket noget. Vi var et vidne.

Jennifer: Vi sætter gang i tingene med en mand, der hjalp med at skabe det første ansigtsgenkendelsessystem, der var kommercielt levedygtigt... tilbage i 90'erne...

[IMWT ID]

Jeg er Joseph Atick. I dag er jeg administrerende formand for ID for Africa, en humanitær organisation, der fokuserer på at give mennesker i Afrika en digital identitet, så de kan få adgang til tjenester og udøve deres rettigheder. Men jeg har ikke altid været på det humanitære område. Efter at jeg fik min ph.d. i matematik, lavede jeg sammen med mine samarbejdspartnere nogle grundlæggende gennembrud, som førte til den første kommercielt levedygtige ansigtsgenkendelse. Det er derfor, folk omtaler mig som en grundlægger af ansigtsgenkendelse og den biometriske industri. Algoritmen for, hvordan en menneskelig hjerne ville genkende kendte ansigter, blev klar, mens vi lavede forskning, matematisk forskning, mens jeg var på Institute for Advanced Study i Princeton. Men det var langt fra at have en idé om, hvordan man ville implementere sådan noget.

Det var en lang periode med måneder med programmering og fiasko og programmering og fiasko. Og en aften, tidligt om morgenen, havde vi faktisk lige færdiggjort en version af algoritmen. Vi sendte kildekoden til kompilering for at få en kørekode. Og vi trådte ud, jeg trådte ud for at gå på toilettet. Og da jeg så trådte ind i rummet igen, og kildekoden var blevet kompileret af maskinen og var vendt tilbage. Og som regel, efter du kompilerer det, kører det automatisk, og da jeg kom ind i rummet, opdagede det et menneske, der bevægede sig ind i rummet, og det fik øje på mit ansigt, trak det ud fra baggrunden, og det udtalte: Jeg ser Joseph. og det var det øjeblik, hvor håret på ryggen - jeg følte, at der var sket noget. Vi var et vidne. Og jeg begyndte at kalde på de andre mennesker, der stadig var i laboratoriet, og hver enkelt af dem ville de komme ind i rummet.

Og det ville sige, jeg ser Norman. Jeg ville se Paulus, jeg ville se Josef. Og vi ville på skift løbe rundt i lokalet bare for at se, hvor mange den kan få øje på i lokalet. Det var, det var et sandhedens øjeblik, hvor jeg vil sige, at flere års arbejde endelig førte til et gennembrud, selvom der teoretisk set ikke var noget yderligere gennembrud påkrævet. Bare det faktum, at vi fandt ud af, hvordan vi skulle implementere det og endelig så, at kapacitet i aktion var meget, meget givende og tilfredsstillende. Vi havde udviklet et team, som mere er et udviklingsteam, ikke et forskerhold, som var fokuseret på at sætte alle disse muligheder ind i en pc-platform. Og det var fødslen, egentlig fødslen af ​​kommerciel ansigtsgenkendelse, vil jeg sige det, i 1994.

Min bekymring startede meget hurtigt. Jeg så en fremtid, hvor der ikke var noget sted at gemme sig med udbredelsen af ​​kameraer overalt, og kommodiseringen af ​​computere og computernes behandlingsevner blev bedre og bedre. Og så i 1998 lobbyede jeg industrien, og jeg sagde, at vi er nødt til at sammensætte principper for ansvarlig brug. Og jeg havde det godt i et stykke tid, for jeg følte, at vi har fået det rigtigt. Jeg følte, at vi har indført en ansvarlig brugskode, der skal følges af, hvad end implementeringen er. Den kode levede dog ikke tidens tand. Og årsagen bag det er, at vi ikke forudså fremkomsten af ​​sociale medier. Grundlæggende sagde vi på det tidspunkt, hvor vi etablerede koden i 1998, at det vigtigste element i et ansigtsgenkendelsessystem var den taggede database over kendte personer. Vi sagde, hvis jeg ikke er i databasen, vil systemet være blindt.

Og det var svært at bygge databasen. Vi kunne højst bygge tusind 10.000, 15.000, 20.000, fordi hvert billede skulle scannes og skulle indtastes i hånden - den verden, vi lever i i dag, er vi nu i et regime, hvor vi har ladet udyret komme ud af posen ved at fodre det med milliarder af ansigter og hjælpe det ved at mærke os selv. Um, vi er nu i en verden, hvor ethvert håb om at kontrollere og kræve, at alle er ansvarlige i deres brug af ansigtsgenkendelse, er svært. Og samtidig er der ikke mangel på kendte ansigter på internettet, fordi man bare kan skrabe, som det er sket for nylig hos nogle virksomheder. Så jeg begyndte at gå i panik i 2011, og jeg skrev en oplyste artikel, der sagde, at det er tid til at trykke på panikknappen, fordi verden er på vej i en retning, hvor ansigtsgenkendelse vil være allestedsnærværende, og ansigter vil være tilgængelige overalt. i databaser.

Og dengang sagde folk, at jeg var alarmist, men i dag indser de, at det er præcis, hvad der sker i dag. Og hvor går vi så hen herfra? Jeg har lobbyet for lovgivning. Jeg har lobbyet for juridiske rammer, der gør det til et ansvar for dig at bruge nogens ansigt uden deres samtykke. Og så er det ikke længere et teknologisk problem. Vi kan ikke begrænse denne kraftfulde teknologi gennem teknologiske midler. Der skal være en form for juridiske rammer. Vi kan ikke tillade, at teknologien går for meget foran os. Forud for vores værdier, foran det, vi synes er acceptabelt.

Spørgsmålet om samtykke er fortsat en af ​​de sværeste og mest udfordrende spørgsmål, når det handler om teknologi, bare at give nogen besked betyder ikke, at det er nok. For mig skal samtykke informeres. De skal forstå konsekvenserne af, hvad det betyder. Og ikke bare for at sige, ja, vi lavede et tilmelding, og det var nok. Vi fortalte det til folk, og hvis de ikke ville, kunne de være gået hvor som helst.

Og jeg oplever også, at der er, det er så nemt at blive forført af prangende teknologiske funktioner, som måske kan give os en kortsigtet fordel i vores liv. Og så ned ad linjen erkender vi, at vi har opgivet noget, der var for værdifuldt. Og på det tidspunkt har vi desensibiliseret befolkningen, og vi kommer til et punkt, hvor vi ikke kan trække os tilbage. Det er det, jeg er bekymret over. Jeg er bekymret over det faktum, at ansigtsgenkendelse gennem arbejdet med Facebook og Apple og andre. Jeg siger ikke, at det hele er illegitimt. Meget af det er legitimt.

Vi er nået til et punkt, hvor den brede offentlighed kan være blevet blaseret og kan blive desensibiliseret, fordi de ser det overalt. Og måske om 20 år træder du ud af dit hus. Du vil ikke længere have den forventning, at du ikke ville være det. Det vil ikke blive genkendt af snesevis af mennesker, du krydser undervejs. Jeg tror på det tidspunkt, at offentligheden vil være meget foruroliget, fordi medierne vil begynde at rapportere om sager, hvor folk er blevet forfulgt. Folk blev målrettet, folk blev endda udvalgt baseret på deres nettoværdi på gaden og kidnappet. Jeg synes, det er et stort ansvar på vores hænder.

Så jeg tror, ​​at spørgsmålet om samtykke fortsat vil hjemsøge industrien. Og indtil det spørgsmål bliver et resultat, bliver det måske ikke løst. Jeg tror, ​​vi er nødt til at etablere begrænsninger for, hvad der kan gøres med denne teknologi.

Min karriere har også lært mig, at det ikke er en god ting at være på forkant, fordi ansigtsgenkendelse, som vi kender det i dag, faktisk blev opfundet i 1994. Men de fleste mennesker tror, ​​at det er opfundet af Facebook og maskinlæringsalgoritmerne, som er nu spreder sig over hele verden. Jeg var dybest set på et tidspunkt nødt til at træde tilbage som offentlig administrerende direktør, fordi jeg begrænsede brugen af ​​teknologi, som min virksomhed ville promovere, fordi jeg var bange for negative konsekvenser for menneskeheden. Så jeg føler, at videnskabsmænd skal have modet til at projicere ind i fremtiden og se konsekvenserne af deres arbejde. Jeg siger ikke, at de skal stoppe med at skabe gennembrud. Nej, du bør gå for fuld kraft, lave flere gennembrud, men vi bør også være ærlige over for os selv og dybest set advare verden og politikerne om, at dette gennembrud har plusser og minusser. Og derfor, når vi bruger denne teknologi, har vi brug for en form for vejledning og rammer for at sikre, at den kanaliseres til en positiv anvendelse og ikke negativ.

Jennifer: Jeg var der da... er et mundtlig historieprojekt, der byder på historier om mennesker, der har været vidne til eller skabt gennembrud inden for kunstig intelligens og computing.

Har du en historie at fortælle? Kender du en der gør? Send os en e-mail på [email protected].

[MIDROLL]

[KREDITTER]

Jennifer: Denne episode blev optaget i New York City i december 2020 og produceret af mig med hjælp fra Anthony Green og Emma Cillekens. Vi er redigeret af Michael Reilly og Mat Honan. Vores mix engineer er Garret Lang... med lyddesign og musik af Jacob Gorski.

Tak fordi du lyttede, jeg er Jennifer Strong.

[TR ID]

skjule