211service.com
Hvordan computing har transformeret sig
Jeanette Wing mener, at pålidelig kunstig intelligens og kausal ræsonnement kan hjælpe samfundet med at løse problemer i den virkelige verden. Men det bliver ikke nemt.
27. oktober 2021
Peter Garritano
Det er på tide, at vi begyndte at fiksere data for at løse vores problemer, siger en af verdens førende eksperter i datavidenskab.
I 2006 udgav Jeannette Wing, dengang lederen af datalogiafdelingen ved Carnegie Mellon University, et indflydelsesrigt essay med titlen Beregningstænkning, argumenterer for, at alle ville have gavn af at bruge datalogiens konceptuelle værktøjer til at løse problemer inden for alle områder af menneskelig bestræbelse.
Denne historie var en del af vores november 2021-udgave
- Se resten af problemet
- Abonner
Wing selv havde aldrig til hensigt at studere datalogi. I midten af 1970'erne kom hun ind på MIT for at forfølge elektroteknik, inspireret af sin far, en professor i det felt. Da hun opdagede sin interesse for datalogi, ringede hun til ham for at spørge, om det var en forbigående mode. Marken havde jo ikke engang lærebøger. Han forsikrede hende om, at det var det ikke. Wing skiftede major og så sig aldrig tilbage.
Tidligere corporate vice president for Microsoft Research og nu executive vice president for forskning ved Columbia University, Wing er førende inden for fremme af datavidenskab inden for flere discipliner.
Anil Ananthaswamy spurgte for nylig Wing om hendes ambitiøse dagsorden for at fremme pålidelig kunstig intelligens, en af dem 10 forskningsmæssige udfordringer hun er identificeret i sit forsøg på at gøre AI-systemer mere retfærdige og mindre forudindtaget.
Spørgsmål: Vil du sige, at der er en transformation på vej i den måde, beregningen udføres på?
A: Absolut. Moores lov bar os langt. Vi vidste, at vi ville ramme loftet for Moores lov, [så] parallel computing blev fremtrædende. Men faseskiftet var cloud computing. Originale distribuerede filsystemer var en slags baby cloud computing, hvor dine filer ikke var lokale på din maskine; de var et andet sted på serveren. Cloud computing tager det og forstærker det endnu mere, hvor dataene ikke er i nærheden af dig; computeren er ikke i nærheden af dig.
Næste skift handler om data. I længst tid fikserede vi på cyklusser, hvilket fik tingene til at fungere hurtigere – processorer, CPU'er, GPU'er og flere parallelle servere. Vi ignorerede datadelen. Nu skal vi fiksere data.
Spørgsmål: Det er datavidenskabens domæne. Hvordan vil du definere det? Hvad er udfordringerne ved at bruge data?
TIL: Jeg har en meget kortfattet definition. Datavidenskab er studiet af at udvinde værdi fra data.
Du kan ikke bare give mig en masse rådata, og jeg trykker på en knap, og værdien kommer frem. Det starter med at indsamle, behandle, opbevare, administrere, analysere og visualisere dataene og derefter fortolke resultaterne. Jeg kalder det datalivscyklussen. Hvert trin i den cyklus er meget arbejde.
Spørgsmål: Når du bruger big data, dukker der ofte bekymringer op om privatliv, sikkerhed, retfærdighed og bias. Hvordan løser man disse problemer, især i AI?
TIL: Jeg har denne nye forskningsdagsorden, som jeg promoverer. Jeg kalder det troværdig kunstig intelligens, inspireret af de årtiers fremskridt, vi har gjort inden for pålidelig databehandling. Med troværdighed mener vi normalt sikkerhed, pålidelighed, tilgængelighed, privatliv og brugervenlighed. I løbet af de sidste to årtier har vi gjort mange fremskridt. Vi har formelle metoder, der kan sikre rigtigheden af et stykke kode; vi har sikkerhedsprotokoller, der øger sikkerheden i et bestemt system. Og vi har visse forestillinger om privatlivets fred, som er formaliserede.
Troværdig AI øger ante på to måder. Pludselig taler vi om robusthed og retfærdighed - robusthed, hvilket betyder, at hvis du forstyrrer inputtet, bliver outputtet ikke forstyrret af ret meget. Og vi taler om fortolkning. Det er ting, vi aldrig plejede at tale om, når vi talte om computere.
[Også] AI-systemer er sandsynlige. Fortidens computersystemer er dybest set deterministiske maskiner: de er tændt eller slukket, sande eller falske, ja eller nej, 0 eller en . Outputtet af vores AI-systemer er dybest set sandsynligheder. Hvis jeg fortæller dig, at dit røntgenbillede siger, at du har kræft, er det med f.eks. 0,75 sandsynlighed for, at den lille hvide plet, jeg så, er ondartet.
Så nu skal vi leve i denne verden af sandsynligheder. Fra et matematisk synspunkt er det at bruge probabilistisk logik og bringe en masse statistikker og stokastiske ræsonnementer og så videre. Som datalog er du ikke trænet til at tænke på de måder. Så AI-systemer har virkelig kompliceret vores formelle ræsonnement om disse systemer.
Q: Troværdig AI er en af de 10 forskningsmæssige udfordringer du identificerede for dataforskere. Kausalitet synes at være en anden stor en.
A: Kausalitet, tror jeg, er den næste grænse for kunstig intelligens og maskinlæring. Lige nu er machine-learning algoritmer og modeller gode til at finde mønstre og sammenhænge og associationer. Men de kan ikke fortælle os: Var det årsagen til det? Eller hvis jeg skulle gøre dette, hvad ville der så ske? Og så er der et helt andet aktivitetsområde om kausal inferens og kausal ræsonnement inden for datalogi. Statistiksamfundet har kigget på kausalitet i årtier. Nogle gange bliver de lidt forargede over datalogisamfundet, fordi de tror, at Åh, det her er en helt ny idé. Så jeg vil gerne takke statistiksamfundet for deres grundlæggende bidrag til kausalitet. Kombinationen af big data og kausal ræsonnement kan virkelig rykke feltet fremad.
Spørgsmål: Er du spændt på, hvad datavidenskab kan opnå?
TIL: Alle går galt over datavidenskab, fordi de ser deres felter blive transformeret ved brug af datavidenskabelige metoder på de digitale data, som de nu genererer, producerer, indsamler og så videre. Det er en meget spændende tid.