AI-fællesskabet skal tage ansvar for sin teknologi og dets handlinger

Celeste Kidd Niall Carson / AP

I mandags, ved åbningen af ​​en af ​​verdens største forsamlinger af AI-forskere, talte Celeste Kidd til tusindvis af deltagere i et lokale næsten dobbelt så stort som en fodboldbane. Hun trak ikke sine slag.

Der er ikke sådan noget som en neutral platform, fortalte den indflydelsesrige videnskabsmand og fremtrædende #metoo galionsfigur til dem, der var samlet på NeurIPS-konferencen i Vancouver. Algoritmerne, der skubber indhold online, har stor indflydelse på, hvad vi tror på.

Kidd, professor i psykologi ved University of California, Berkeley, er kendt inden for sit felt for at yde vigtige bidrag til vores forståelse af sindets teori – hvordan vi tilegner os viden, og hvordan vi danner overbevisninger. For to år siden blev hun også kendt i den store verden, da Time navngav hende Årets person blandt andre, der talte imod seksuelle overgreb og chikane.

På scenen delte Kidd fem lektioner fra sin forskning og demonstrerede, hvordan teknologiindustriens beslutninger kunne påvirke folk til at udvikle falske overbevisninger – for eksempel at benægte klimaændringer. Nær slutningen af ​​sit foredrag delte hun også sin erfaring med seksuel chikane som kandidatstuderende og direkte henvendt nogle af de misforståelser, hun havde hørt om #metoo-bevægelsen fra mænd.

Det kan virke som en skræmmende tid at være en mand i tech lige nu, sagde hun til konferencegængerne, hvoraf omkring 80 % er mænd i år. Der er en følelse af, at en karriere kan blive ødelagt på grund af akavede afleveringer eller misforståelser.

Det, jeg vil sige i dag til alle mændene i rummet, er, at I er blevet vildledt, sagde hun.

Hendes foredrag modtog et stående bifald - et sjældent øjeblik i konferencens historie.

Kidds bemærkninger kommer på et tidspunkt, hvor AI-samfundet - og teknologiindustrien mere bredt - er blevet tvunget til at regne med de utilsigtede skader af dets teknologier. Alene i det seneste år har en række højtprofilerede sager afsløret, hvordan deepfakes kan misbruge kvinder, hvordan algoritmer kan træffe diskriminerende beslutninger i sundhedsvæsenet og kreditudlån, og hvordan udvikling af AI-modeller kan være uhyre dyrt for miljøet. Samtidig er fællesskabet blevet rystet af flere seksuelle overgreb og chikaneskandaler , herunder nogle overhændelser kl tidligere år af selve konferencen . Det er også fortsat med at lide af rystende mangfoldighedstal.

Men Kidds foredrag fremhævede et vigtigt skift, der er begyndt at ske - et, der kunne mærkes i rummet den aften. Efter hendes tale stillede snesevis af mennesker sig op ved mikrofonerne spredt rundt i lokalet for at takke hende for at have talt ud om disse problemer. Snesevis mere samlede sig omkring hende efter sessionen - nogle bare for at trykke hendes hånd i taknemmelighed. For deltagere, der husker den årlige sammenkomst for endnu to år siden, er der en ny åbenhed for at anerkende disse udfordringer og et fornyet fokus på at gøre det bedre.

Dagen efter hendes tale satte jeg mig ned med Kidd for at tale mere om de to beskeder, hun leverede, hvordan de hænger sammen og hendes håb for fremtiden.

Dette interview er blevet redigeret og komprimeret for klarhedens skyld.

I researchdelen af ​​din tale sluttede du med dit budskab: Der er ikke sådan noget som en neutral platform. Hvordan kom du frem til denne konklusion ud fra din forskning?

Noget, jeg først har indset i de sidste par år - på grund af min interaktion med mine to kandidatstuderende - er, at der ikke rigtig er en skelnen mellem viden og overbevisninger. Det er i bund og grund det samme.

Nu bevæger vi os mod at forstå, hvordan denne dynamik, som vi har observeret i laboratorieeksperimenter, strækker sig til den virkelige verden. Når nogen går på internettet og ikke er sikker på, hvad de skal tro, hvad har de så en tendens til at gå væk med fra disse neutrale søgninger? Kan vi bruge de samme slags ideer til at forsøge at forklare, hvorfor folk tror, ​​at jorden er flad, og hvorfor disse misforståelser ikke bliver rettet? Det er ikke et område, jeg har set meget opmærksomhed på, men det er et, som jeg synes er meget vigtigt.

Hvorfor var det vigtigt for dig at dele dit budskab på denne konference?

Så meget af det, vi tror nu, kommer fra onlinekilder. Især børn - de danner byggestenene af viden, der senere vil forme, hvad de tror på, hvad de er interesseret i at lære om downstream. For små børn er der også grund til at forvente, at de bruger mere autoplay og foreslået indhold end voksne. Så i starten er de mere i risiko for at blive påvirket af algoritmen, der skubber indhold, fordi det er deres eneste valg.

Min tale var tænkt som et budskab til folk, der arbejder på systemerne, om at tage hensyn til, hvordan disse bagvedliggende beslutninger påvirker en individuel persons overbevisning, men også samfundet som helhed. Jeg tror ikke, der er nok følsomhed i teknologien til, hvordan de beslutninger, du træffer bag kulisserne om, hvordan man presser indhold, påvirker folks liv.

Der er et almindeligt kampråb, når der opstår spørgsmål om, hvordan indhold tilbydes – påstanden om, at platforme er neutrale. Og det synes jeg er uærligt. De backend-beslutninger, du træffer, påvirker direkte, hvad folk tror, ​​og folk ved det. Så at lade som om det ikke er en ting er uærligt.

Når vi ændrer folks adfærd, er det, vi gør, at ændre deres overbevisninger. Og de ændringer har reelle, konkrete konsekvenser. Når en forælder søger efter information om, hvorvidt de skal vaccinere deres barn eller ej – hvis de går hen til deres bærbare computer uafklarede, og de går besluttede væk, betyder det virkelig, hvilket indhold der blev tilbudt, hvilke synspunkter der var repræsenteret.

Jeg synes ikke, det er rimeligt at sige, at du ikke har noget ansvar for, hvad en mor gør ved sit barn - uanset om hun beslutter sig for at vaccinere dem eller ej - for det var ikke noget, du overvejede, da du byggede systemet. Jeg synes, du har et ansvar for at overveje, hvad konsekvenserne er af back-end-beslutningerne.

Du nævnte i den private Q&A efter din tale, at du aldrig har præsenteret både din forskning og dine erfaringer med seksuel chikane i et offentligt forum. Hvorfor adskiller du normalt de to, og hvorfor besluttede du dig for at kombinere dem?

Jeg starter med den anden – jeg gjorde en undtagelse fra reglen i dette tilfælde, fordi jeg troede, det var meget vigtigt for dette samfund at høre den besked. Datalogi er et felt, hvor kvinder i lang tid har haft rigtig svært ved at få greb og bryde ind. Der er tidligt en høj grad af interesse, og så er der et utæt rør. Og jeg ved, at en af ​​de ting, der gør det meget svært at klare sig som kvinde på dette felt, er færre mentormuligheder.

Jeg ved, at det er meget almindeligt, at mænd i datalogi med gode intentioner er bekymrede for at krænke kvinder. Nedstrømsimplikationen af ​​det er, at kvinder går glip af uddannelsesmuligheder, men også mændene går glip af de ideer og innovation, som kvinderne ville bringe. Empiriske undersøgelser viser, at diversitet fører til højere innovationsrater. Og muligheden for at tale med en stor del af disse mænd i ét rum på én gang – jeg følte, at det var vigtigt, og det var jeg nødt til at gøre.

Grunden til, at jeg normalt ikke blander dem: Jeg valgte ikke, hvad der skete med mig, mit første år på gymnasiet i Rochester. Jeg valgte ikke, hvad universitetets svar ville være. Jeg ønskede en karriere inden for videnskab, og det vil jeg gerne beskytte, så jeg vil ikke tale mindre om videnskab, fordi jeg har udtalt mig om dette spørgsmål. Men jeg er også klar over, at de fleste mennesker ikke får muligheden, de får ikke en platform til at sige fra. Det, der normalt sker med folk, der blev chikaneret seksuelt tidligt i deres karriere og fik deres institution til at gengælde sig, er, at de forsvinder. Jeg ville ikke have det okay at lave ingenting. Folk, der har privilegier, skal bruge det, hvor de kan. Og dette var en mulighed for at bruge privilegiet ved at holde et foredrag på NeurIPS til at hjælpe de mere yngre kvinder, der fortjener ligebehandling.

Var du bekymret for, hvordan disse kommentarer ville lande?

Selvfølgelig. Men at være bange for svaret er ikke en grund til ikke at tale. Jeg talte lidt om privilegier. Jeg er også i en relativt privilegeret position på netop denne konference, fordi der er så mange mennesker i industrien, og jeg tror, ​​at presset for at holde folk tavse er større hos virksomheder, end de er i den akademiske verden, i det mindste inden for tech lige nu. Så hvis jeg var bekymret for at blive fyret, ville det være en ekstra ting, der holdt mig stille. UC Berkeley var klar over, at jeg udtalte mig om disse spørgsmål, før de ansatte mig, og de har ikke vist mig andet end støtte og opmuntring i kampen for retfærdighed. Ved at være et sted, der støtter mig sådan, kan jeg sige ting uden frygt for at miste mit arbejde og ikke kunne betale for mad til mit barn. Og det er den anden grund til, at jeg følte, at jeg skulle tale.

Jeg havde fuldt ud forventet, at nogle mennesker ville være vrede. Det er 13.000 mennesker. Selvfølgelig kan nogle mennesker misforstå mig. Jeg talte bogstaveligt talt om, at når vi bruger ord, er de tvetydige, og folk aktiverer forskellige begreber. Det er ikke muligt at overbevise alle mennesker præcis, hvad du har i tankerne.

Selvom du normalt adskiller dine foredrag om din forskning og din aktivisme, og du adskilte det i to sektioner hos NeurIPS, så adresserer de for mig virkelig det samme: hvordan man udvikler ansvarlig teknologi ved at tage mere ansvar for dine beslutninger og handlinger.

Ret. Du nævnte for mig, at der er mere snak i AI-samfundet om de etiske implikationer, at der er mere påskønnelse af forbindelsen mellem teknologien og samfundet. Og jeg tror, ​​at en del af det kommer af, at samfundet bliver mere mangfoldigt og involverer flere mennesker. De kommer fra et mindre privilegeret sted og er mere opmærksomme på ting som skævhed og uretfærdighed, og hvordan teknologier, der er designet til en bestemt demografi, faktisk kan skade dårligt stillede befolkninger.

Det håber jeg fortsætter. Vi er nødt til at tale med hinanden for at gøre fremskridt. Og vi fortjener alle at føle os trygge, når vi interagerer med hinanden.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.

skjule