Udvikler sig til en mere retfærdig AI

I forbindelse med Salgsstyrke

Pandemien, der har raset over hele kloden i løbet af det seneste år, har kastet et koldt, hårdt lys over mange ting – de forskellige niveauer af beredskab til at reagere; kollektive holdninger til sundhed, teknologi og videnskab; og store økonomiske og sociale uligheder. Mens verden fortsætter med at navigere i covid-19-sundhedskrisen, og nogle steder endda begynder en gradvis tilbagevenden til arbejde, skole, rejser og rekreation, er det afgørende at løse de konkurrerende prioriteter med at beskytte offentlighedens sundhed retfærdigt og samtidig sikre privatlivets fred.

Den længerevarende krise har ført til hurtige ændringer i arbejde og social adfærd, samt en øget afhængighed af teknologi. Det er nu mere kritisk end nogensinde, at virksomheder, regeringer og samfund udviser forsigtighed med at anvende teknologi og håndtere personlige oplysninger. Den udvidede og hurtige indførelse af kunstig intelligens (AI) viser, hvordan adaptive teknologier er tilbøjelige til at krydse mennesker og sociale institutioner på potentielt risikable eller ulige måder.

Vores forhold til teknologien som helhed vil have ændret sig dramatisk efter pandemien, siger Yoav Schlesinger, rektor for den etiske AI-praksis hos Salesforce. Der vil være en forhandlingsproces mellem mennesker, virksomheder, regering og teknologi; hvordan deres datastrømme mellem alle disse parter vil blive genforhandlet i en ny social datakontrakt.

AI i aktion

Da covid-19-krisen begyndte at udfolde sig i begyndelsen af ​​2020, så forskerne til AI for at understøtte en række medicinske anvendelser, såsom at identificere potentielle lægemiddelkandidater til vacciner eller behandling, hjælpe med at opdage potentielle covid-19-symptomer og allokere knappe ressourcer som intensiv -pleje-enhedssenge og ventilatorer. Specifikt lænede de sig op af den analytiske kraft i AI-augmenterede systemer til at udvikle banebrydende vacciner og behandlinger.

Mens avancerede dataanalyseværktøjer kan hjælpe med at udtrække indsigt fra en enorm mængde data, har resultatet ikke altid været mere retfærdige resultater. Faktisk kan AI-drevne værktøjer og de datasæt, de arbejder med, fastholde iboende bias eller systemisk ulighed. Under hele pandemien har agenturer som Centers for Disease Control and Prevention og Verdenssundhedsorganisationen indsamlet enorme mængder af data, men dataene repræsenterer ikke nødvendigvis nøjagtigt befolkninger, der er blevet uforholdsmæssigt og negativt påvirket - inklusive sorte, brune og indfødte. mennesker – heller ikke nogle af de diagnostiske fremskridt, de har gjort, siger Schlesinger.

For eksempel viser biometriske wearables som Fitbit eller Apple Watch løfte i deres evne til at opdage potentielle covid-19-symptomer, såsom ændringer i temperatur eller iltmætning. Alligevel er disse analyser afhængige af ofte mangelfulde eller begrænsede datasæt og kan introducere skævhed eller uretfærdighed, der uforholdsmæssigt påvirker sårbare mennesker og samfund.

Der er noget forskning, der viser grønt LED lys har sværere ved at aflæse puls og iltmætning på mørkere hudtoner, siger Schlesinger med henvisning til halvlederlyskilden. Så det gør måske ikke et lige så godt stykke arbejde med at fange covid-symptomer for dem med sort og brun hud.

AI har vist større effektivitet med at hjælpe med at analysere enorme datasæt. Et team på Viterbi School of Engineering ved University of Southern California udviklede en AI-ramme til at hjælpe med at analysere covid-19-vaccinekandidater. Efter at have identificeret 26 potentielle kandidater, indsnævrede det feltet til 11, der havde størst sandsynlighed for at få succes. Datakilden til analysen var Immune Epitope Database, som omfatter mere end 600.000 smittedeterminanter fra mere end 3.600 arter.

Andre forskere fra Viterbi anvender AI til at dechifrere kulturelle koder mere præcist og bedre forstå de sociale normer, der styrer etnisk og racemæssig gruppeadfærd. Det kan have en betydelig indflydelse på, hvordan en bestemt befolkning klarer sig under en krise som pandemien, på grund af religiøse ceremonier, traditioner og andre sociale skikke, der kan lette viral spredning.

Ledende videnskabsmænd Kristina Lerman og Fred Morstatter har baseret deres forskning på Moralske Grundlagsteori , som beskriver den intuitive etik, der danner en kulturs moralske konstruktioner, såsom omsorg, retfærdighed, loyalitet og autoritet, der hjælper med at informere individuel og gruppeadfærd.

Vores mål er at udvikle en ramme, der giver os mulighed for at forstå dynamikken, der driver beslutningsprocessen i en kultur på et dybere niveau, siger Morstatter i en rapport udgivet af USC . Og ved at gøre det genererer vi mere kulturelt informerede prognoser.

Forskningen undersøger også, hvordan man implementerer AI på en etisk og retfærdig måde. De fleste mennesker, men ikke alle, er interesserede i at gøre verden til et bedre sted, siger Schlesinger. Nu er vi nødt til at gå til det næste niveau – hvilke mål vil vi opnå, og hvilke resultater vil vi gerne se? Hvordan vil vi måle succes, og hvordan vil den se ud?

Afhjælpning af etiske bekymringer

Det er afgørende at undersøge antagelserne om indsamlede data og AI-processer, siger Schlesinger. Vi taler om at opnå retfærdighed gennem bevidsthed. Ved hvert trin i processen laver du værdivurderinger eller antagelser, der vil vægte dine resultater i en bestemt retning, siger han. Det er den grundlæggende udfordring ved at bygge etisk AI, som er at se på alle de steder, hvor mennesker er forudindtaget.

En del af den udfordring er at udføre en kritisk undersøgelse af de datasæt, der informerer AI-systemer. Det er vigtigt at forstå datakilderne og sammensætningen af ​​dataene og besvare spørgsmål som: Hvordan er dataene sammensat? Omfatter det en bred vifte af interessenter? Hvad er den bedste måde at implementere disse data i en model for at minimere bias og maksimere retfærdighed?

Efterhånden som folk går tilbage på arbejde, kan arbejdsgiverne være det nu ved hjælp af sensorteknologier med AI indbygget , herunder termiske kameraer til at registrere høje temperaturer; lydsensorer til at registrere hoste eller hævede stemmer, som bidrager til spredningen af ​​luftvejsdråber; og videostreams for at overvåge procedurer for håndvask, bestemmelser om fysisk afstand og maskekrav.

Sådanne overvågnings- og analysesystemer har ikke kun udfordringer med teknisk nøjagtighed, men udgør kernerisici for menneskerettigheder , privatliv, sikkerhed og tillid . Drivkraften til øget overvågning har været en bekymrende bivirkning af pandemien. Regeringsorganer har brugt overvågningskameraoptagelser, smartphone-placeringsdata, kreditkortkøbsregistreringer og endda passive temperaturscanninger i overfyldte offentlige områder som lufthavne for at hjælpe med at spore bevægelser af mennesker, der kan have pådraget sig eller været udsat for covid-19 og etablere virusoverførsel kæder.

Det første spørgsmål, der skal besvares, er ikke bare, kan vi gøre dette – men skal vi? siger Schlesinger. Scanning af enkeltpersoner for deres biometriske data uden deres samtykke giver anledning til etiske bekymringer, selvom det er placeret som en fordel for det større gavn. Vi bør have en robust samtale som samfund om, hvorvidt der er god grund til at implementere disse teknologier i første omgang.

Hvordan ser fremtiden ud

Efterhånden som samfundet vender tilbage til noget, der nærmer sig normalt, er det tid til fundamentalt at revurdere forholdet til data og etablere nye normer for indsamling af data, såvel som passende brug – og potentiel misbrug – af data. Når teknologer bygger og implementerer kunstig intelligens, vil de fortsat gøre de nødvendige antagelser om data og processer, men grundlaget for disse data bør stilles spørgsmålstegn ved. Er dataene lovligt hentet? Hvem har samlet det? Hvilke antagelser er det baseret på? Er det præcist præsenteret? Hvordan kan borgernes og forbrugernes privatliv bevares?

Da kunstig intelligens er mere udbredt, er det vigtigt at overveje, hvordan man også skaber tillid. Brug af kunstig intelligens til at øge menneskelig beslutningstagning og ikke helt erstatte menneskelig input, er en tilgang.

Der vil være flere spørgsmål om, hvilken rolle AI skal spille i samfundet, dets forhold til mennesker, og hvad der er passende opgaver for mennesker, og hvad der er passende opgaver for en AI, siger Schlesinger. Der er visse områder, hvor AI's evner og dens evne til at øge menneskelige evner vil accelerere vores tillid og tillid. På steder, hvor AI ikke erstatter mennesker, men øger deres indsats, er det den næste horisont.

Der vil altid være situationer, hvor et menneske skal inddrages i beslutningstagningen. I regulerede industrier, for eksempel som sundhedspleje, bank og finans, skal der være et menneske i løkken for at opretholde overholdelse, siger Schlesinger. Du kan ikke bare implementere AI til at træffe plejebeslutninger uden en klinikers input. Så meget som vi ville elske at tro, at AI er i stand til at gøre det, har AI ikke empati endnu, og vil sandsynligvis aldrig.

Det er afgørende for data indsamlet og skabt af AI ikke at forværre, men minimere ulighed. Der skal være en balance mellem at finde måder, hvorpå kunstig intelligens kan hjælpe med at fremskynde menneskelige og sociale fremskridt, at fremme retfærdige handlinger og reaktioner og blot at erkende, at visse problemer vil kræve menneskelige løsninger.

Dette indhold blev produceret af Insights, den tilpassede indholdsarm af MIT Technology Review. Det er ikke skrevet af MIT Technology Reviews redaktion.

skjule