Lad være med at tale om AI-etik. Det er tid til at tale om magt.

Vladan Joler

Ved begyndelsen af ​​det 20. århundrede tog en tysk hest Europa med storm. Den kloge Hans, som han blev kendt, kunne tilsyneladende udføre alle mulige tricks, der tidligere var begrænset til mennesker. Han kunne tilføje og trække tal fra, fortælle tid og læse en kalender, endda stave ord og sætninger - alt sammen ved at stemple svaret med en hov. A var et tryk; B var to; 2+3 var fem. Han var en international sensation - og et bevis, mente mange, på, at dyr kunne læres at ræsonnere lige så godt som mennesker.

Problemet var, at kloge Hans ikke rigtig lavede nogen af ​​disse ting. Som efterforskere senere opdagede, havde hesten lært at give det rigtige svar ved at observere ændringer i spørgernes holdning, vejrtrækning og ansigtsudtryk. Hvis spørgeren stod for langt væk, ville Hans miste sine evner. Hans intelligens var kun en illusion.

Denne historie bruges som en advarselshistorie for AI-forskere, når de evaluerer deres algoritmers muligheder. Et system er ikke altid så intelligent, som det ser ud til. Sørg for at måle det korrekt.

TILLATELSE AF KATE CRAWFORD

Men i hendes nye bog, Atlas over AI , førende AI-forsker Kate Crawford vender denne morale på hovedet. Problemet, skriver hun, var med den måde, folk definerede Hans' præstationer på: Hans udførte allerede bemærkelsesværdige bedrifter med kommunikation mellem arter, offentlig præstation og betydelig tålmodighed, men disse blev ikke anerkendt som intelligens.

Så begynder Crawfords udforskning af kunstig intelligenss historie og dens indvirkning på vores fysiske verden. Hvert kapitel søger at udvide vores forståelse af teknologien ved at afsløre, hvor snævert vi har set og defineret den.

Crawford gør dette ved at bringe os på en global rejse, fra minerne, hvor de sjældne jordarters elementer, der bruges i computerfremstilling, udvindes til Amazons opfyldelsescentre, hvor menneskekroppe er blevet mekaniseret i virksomhedens ubønhørlige jagt på vækst og profit. I kapitel et fortæller hun om at køre en varebil fra hjertet af Silicon Valley til et lille minesamfund i Nevadas Clayton Valley. Der undersøger hun den destruktive miljøpraksis, der kræves for at opnå det lithium, der driver verdens computere. Det er en kraftfuld illustration af, hvor tæt disse to steder er i det fysiske rum, men hvor langt fra hinanden de er i rigdom.

Ved at basere sin analyse i sådanne fysiske undersøgelser, fjerner Crawford den eufemistiske ramme om, at kunstig intelligens simpelthen er effektiv software, der kører i skyen. Hendes nærbillede, levende beskrivelser af jorden og arbejdet AI er bygget på, og de dybt problematiske historier bag det, gør det umuligt at fortsætte med at tale om teknologien rent abstrakt.

I kapitel fire, for eksempel, tager Crawford os med på endnu en tur - denne gennem tid frem for rum. For at forklare historien om feltets besættelse af klassificering besøger hun Penn Museum i Philadelphia, hvor hun stirrer på rækker og rækker af menneskekranier.

Kranierne blev indsamlet af Samuel Morton, en amerikansk kraniolog fra det 19. århundrede, som mente, at det var muligt objektivt at opdele dem ved deres fysiske mål i verdens fem racer: afrikansk, indiansk, kaukasisk, malaysisk og mongolsk. Crawford drager paralleller mellem Mortons arbejde og de moderne AI-systemer, der fortsætter med at klassificere verden i faste kategorier.

Disse klassifikationer er langt fra objektive, hævder hun. De pålægger en social orden, naturaliserer hierarkier og forstørrer uligheder. Set gennem denne linse kan AI ikke længere betragtes som en objektiv eller neutral teknologi.

I sin 20-årige karriere har Crawford kæmpet med de virkelige konsekvenser af store datasystemer, maskinlæring og kunstig intelligens. I 2017 grundlagde hun sammen med Meredith Whittaker forskningsinstituttet AI Now som en af ​​de første organisationer, der var dedikeret til at studere de sociale implikationer af disse teknologier. Hun er også nu professor ved USC Annenberg, i Los Angeles, og den indledende gæstestol i AI og retfærdighed ved École Normale Supérieure i Paris, samt senior hovedforsker hos Microsoft Research.

For fem år siden, siger Crawford, arbejdede hun stadig på at introducere tanken om, at data og AI ikke var neutrale. Nu har samtalen udviklet sig, og AI-etikken er blomstret op i sit eget felt. Hun håber, at hendes bog vil hjælpe den med at modnes endnu mere.

Jeg satte mig ned med Crawford for at tale om hendes bog.

Det følgende er blevet redigeret for længde og klarhed.

Hvorfor valgte du at lave dette bogprojekt, og hvad betyder det for dig?

Crawford: Så mange af de bøger, der er blevet skrevet om kunstig intelligens, taler egentlig bare om meget snævre tekniske præstationer. Og nogle gange skriver de om AI's store mænd, men det er virkelig alt, hvad vi har haft i forhold til virkelig at kæmpe med, hvad kunstig intelligens er.

Jeg tror, ​​det har skabt denne meget skæve forståelse af kunstig intelligens som rent tekniske systemer, der på en eller anden måde er objektive og neutrale, og - som Stuart Russell og Peter Norvig siger i deres lærebog -som intelligente agenter, der træffer den bedste beslutning af enhver mulig handling.

Jeg ville gøre noget helt andet: virkelig at forstå, hvordan kunstig intelligens er lavet i bredeste forstand. Det betyder, at man ser på de naturressourcer, der driver det, den energi, det forbruger, det skjulte arbejde langs hele forsyningskæden og de enorme mængder data, der udvindes fra hver platform og enhed, som vi bruger hver dag.

Relateret historie

Deepfake Amazon-arbejdere sår forvirring på Twitter. Det er ikke problemet.

Beretningerne er sandsynligvis bare parodier, ikke en del af en uhyggelig virksomhedsstrategi, men de illustrerer den slags ting, der kunne ske en dag.

Ved at gøre det, ville jeg virkelig åbne op for denne forståelse af AI som hverken kunstig eller intelligent. Det er modsatte af kunstig. Det kommer fra de mest materielle dele af jordskorpen og fra menneskekroppe, der arbejder, og fra alle de artefakter, som vi producerer og siger og fotograferer hver dag. Det er heller ikke intelligent. Jeg tror, ​​der er denne store arvesynd i feltet, hvor folk antog, at computere på en eller anden måde er som menneskelige hjerner, og hvis vi bare træner dem som børn, vil de langsomt vokse til disse overnaturlige væsener.

Det er noget, som jeg synes er virkelig problematisk - at vi har købt denne idé om intelligens, når vi i virkeligheden bare kigger på former for statistisk analyse i skala, der har lige så mange problemer som de data, den er givet.

Var det umiddelbart indlysende for dig, at det er sådan, folk burde tænke om AI? Eller var det en rejse?

Det har absolut været en rejse. Jeg vil sige, at et af vendepunkterne for mig var tilbage i 2016, hvor jeg startede et projekt kaldet Anatomi af et AI-system med Vladan Joler. Vi mødtes til en konference specifikt om stemmeaktiveret AI, og vi forsøgte effektivt at tegne, hvad der skal til for at få en Amazon Echo til at fungere. Hvad er komponenterne? Hvordan udtrækker det data? Hvad er lagene i datapipelinen?

Vi indså, ja - faktisk, for at forstå det, skal du forstå, hvor komponenterne kommer fra. Hvor blev chipsene produceret? Hvor er minerne? Hvor bliver det smeltet? Hvor er de logistiske veje og forsyningskæden?

Til sidst, hvordan sporer vi afslutningen på disse enheder? Hvordan ser vi på, hvor e-affaldstipsene er placeret i steder som Malaysia og Ghana og Pakistan? Det, vi endte med, var dette meget tidskrævende toårige forskningsprojekt for virkelig at spore disse materialeforsyningskæder fra vugge til grav.

Når du begynder at se på AI-systemer i den større skala og på den længere tidshorisont, skifter du væk fra disse meget snævre beretninger om AI-retfærdighed og etik til at sige: disse er systemer, der producerer dybtgående og varige geomorfe ændringer på vores planet, som samt øge de former for arbejdsulighed, som vi allerede har i verden.

Så det fik mig til at indse, at jeg var nødt til at skifte fra en analyse af kun én enhed, Amazon Echo, til at anvende denne form for analyse til hele industrien. Det var for mig den store opgave, og det er derfor Atlas over AI tog fem år at skrive. Der er et stort behov for rent faktisk at se, hvad disse systemer virkelig koster os, fordi vi så sjældent gør arbejdet med faktisk at forstå deres sande planetariske implikationer.

Den anden ting, jeg vil sige, der har været en rigtig inspiration, er det voksende felt af forskere, der stiller disse større spørgsmål omkring arbejde, data og ulighed. Her tænker jeg på Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown – listen fortsætter. Jeg ser dette som et bidrag til denne viden ved at bringe perspektiver ind, der forbinder miljøet, arbejdstagerrettigheder og databeskyttelse.

Du rejser meget igennem bogen. Næsten hvert kapitel starter med, at du rent faktisk ser dig omkring på dine omgivelser. Hvorfor var dette vigtigt for dig?

Det var et meget bevidst valg at basere en analyse af AI på specifikke steder, for at bevæge sig væk fra disse abstrakte intetsteder af algoritmisk rum, hvor så mange af debatterne omkring maskinlæring finder sted. Og forhåbentlig fremhæver det det faktum, at når vi ikke gør det, når vi bare taler om disse ingensteds rum med algoritmisk objektivitet, er det også et politisk valg, og det har konsekvenser.

Med hensyn til at samle lokationerne, er det virkelig derfor, jeg begyndte at tænke på denne metafor om et atlas, fordi atlas er usædvanlige bøger. Det er bøger, som du kan åbne op og se på omfanget af et helt kontinent, eller du kan zoome ind og se på en bjergkæde eller en by. De giver dig disse skift i perspektiv og skift i skala.

Der er denne dejlige linje, som jeg bruger i bogen fra fysikeren Ursula Franklin. Hun skriver om, hvordan kort forbinder det kendte og det ukendte i disse metoder til kollektiv indsigt. Så for mig var det virkelig at trække på den viden, jeg havde, men også at tænke på de faktiske steder, hvor AI bliver konstrueret meget bogstaveligt af sten og sand og olie.

Hvilken slags feedback har bogen fået?

En af de ting, som jeg er blevet overrasket over i de tidlige svar, er, at folk virkelig føler, at denne form for perspektiv var forsinket. Der er et øjebliks erkendelse af, at vi skal have en anden form for samtale end dem, vi har haft i løbet af de sidste par år.

Vi har brugt alt for meget tid på at fokusere på snævre tekniske rettelser til AI-systemer og altid centrere tekniske svar og tekniske svar. Nu skal vi kæmpe med systemernes miljømæssige fodaftryk. Vi er nødt til at kæmpe med de meget reelle former for arbejdsudnyttelse, der har fundet sted i konstruktionen af ​​disse systemer.

Og vi er nu også begyndt at se den giftige arv af, hvad der sker, når du bare river så meget data ud af internettet, som du kan, og bare kalder det jordsandhed. Den slags problematiske rammer for verden har produceret så mange skader, og som altid er disse skader blevet følt mest af alt af samfund, der allerede var marginaliseret og ikke oplevede fordelene ved disse systemer.

Hvad håber du, folk vil begynde at gøre anderledes?

Jeg håber, det bliver meget sværere at have disse blindgyde samtaler, hvor begreber som etik og AI for altid har været så fuldstændig denatureret af nogen egentlig betydning . Jeg håber, det trækker gardinet til side og siger, lad os faktisk se på, hvem der styrer disse systemer. Det betyder, at man skifter væk fra kun at fokusere på ting som etiske principper til at tale om magt.

Hvordan bevæger vi os væk fra denne etiske ramme?

Relateret historie

Bekymret over dit firmas AI-etik? Disse startups er her for at hjælpe. Et voksende økosystem af ansvarlige AI-foretagender lover at hjælpe organisationer med at overvåge og reparere deres AI-modeller.

Hvis der har været en reel fælde i tech-sektoren i det sidste årti, så er det, at teorien om forandring altid har centreret teknik. Det har altid været, hvis der er et problem, er der en teknisk løsning til det. Og først for nylig er vi begyndt at se, at det udvides til Åh, ja, hvis der er et problem, så regulering kan ordne det. Politikerne har en rolle.

Men jeg synes, vi skal udvide det endnu mere. Vi må også sige: Hvor er civilsamfundsgrupperne, hvor er aktivisterne, hvor er talsmændene, der behandler spørgsmål om klimaretfærdighed, arbejdstagerrettigheder, databeskyttelse? Hvordan inddrager vi dem i disse diskussioner? Hvordan inddrager vi berørte lokalsamfund?

Med andre ord, hvordan gør vi dette til en langt dybere demokratisk samtale omkring, hvordan disse systemer allerede påvirker livet for milliarder af mennesker på primært uansvarlige måder, der lever uden for regulering og demokratisk tilsyn?

I den forstand forsøger denne bog at decentrere teknologien og begynder at stille større spørgsmål omkring: Hvilken slags verden ønsker vi at leve i?

Hvilken slags verden gør du ønsker at bo i? Hvilken slags fremtid drømmer du om?

Jeg ønsker at se de grupper, der har gjort det virkelig hårde arbejde med at løse spørgsmål som klimaretfærdighed og arbejdstagerrettigheder, samles og indse, at disse tidligere ret adskilte fronter for social forandring og raceretfærdighed virkelig har delt bekymringer og en fælles grund, hvorpå at koordinere og organisere.

For vi ser på en virkelig kort tidshorisont her. Vi har at gøre med en planet, der allerede er under alvorlig belastning. Vi ser på en dyb koncentration af magt til ekstraordinært få hænder. Du skulle virkelig tilbage til jernbanernes tidlige dage for at se en anden industri, der er så koncentreret, og nu kan du endda sige, at teknologien har overhalet det.

Så vi er nødt til at kæmpe med måder, hvorpå vi kan pluralisere vores samfund og have større former for demokratisk ansvarlighed. Og det er et kollektivt handlingsproblem. Det er ikke et individuelt valgproblem. Det er ikke sådan, at vi vælger det mere etiske tech-brand fra hylden. Det er, at vi er nødt til at finde måder at arbejde sammen på om disse udfordringer på planetarisk skala.

Opdatering : Beskrivelsen af ​​AI Now-instituttet er blevet præciseret.

skjule