211service.com
Problemerne AI har i dag går århundreder tilbage
Ari Liloan
I marts 2015 brød protester ud ved University of Cape Town i Sydafrika over campusstatuen af den britiske kolonialist Cecil Rhodes. Rhodes, en minemagnat, der havde foræret den jord, som universitetet blev bygget på, havde begået folkedrab mod afrikanere og lagt grunden til apartheid. Under samlingsfanen Rhodes Must Fall krævede studerende, at statuen blev fjernet. Deres protester udløste en global bevægelse for at udrydde den koloniale arv, der består i uddannelse.
Begivenhederne provokerede også Shakir Mohamed, en sydafrikansk AI-forsker ved DeepMind, til at reflektere over, hvilke koloniale arv der også kunne eksistere i hans forskning. I 2018, ligesom AI-feltet begyndte at regne med problemer som algoritmisk diskrimination, skrev Mohamed et blogindlæg med sine første tanker. I den opfordrede han forskere til at afkolonisere kunstig intelligens - at omorientere feltets arbejde væk fra vestlige hubs som Silicon Valley og engagere nye stemmer, kulturer og ideer til at guide teknologiens udvikling.
Nu i kølvandet på fornyede råb for Rhodes Must Fall på Oxford Universitys campus, ansporet af George Floyds mord og den globale antiracismebevægelse, har Mohamed udgivet et nyt papir sammen med sin kollega William Isaac og Oxford PhD-kandidat Marie-Therese Png. Den udfylder Mohameds originale ideer med specifikke eksempler på, hvordan AI-udfordringer er forankret i kolonialismen, og præsenterer strategier til at adressere dem ved at genkende denne historie.
Hvordan kolonialitet manifesterer sig i AI
Selvom historisk kolonialisme kan være forbi, eksisterer dens virkninger stadig i dag. Dette er, hvad forskere betegner kolonialitet: ideen om, at nutidens magtubalancer mellem racer, lande, rige og fattige og andre grupper er forlængelser af magtubalancerne mellem kolonisator og koloniseret.
Tag strukturel racisme som eksempel. Europæerne opfandt oprindeligt begrebet racer og forskellene mellem dem for at retfærdiggøre den afrikanske slavehandel og derefter koloniseringen af afrikanske lande. I USA kan virkningerne af den ideologi nu spores gennem landets egen historie med slaveri, Jim Crow, og politibrutalitet.
På samme måde, hævder avisens forfattere, forklarer denne kolonihistorie nogle af de mest bekymrende karakteristika og virkninger af AI. De identificerer fem manifestationer af kolonialitet i feltet:
Algoritmisk diskrimination og undertrykkelse. Forbindelserne mellem algoritmisk diskrimination og kolonial racisme er måske de mest åbenlyse: Algoritmer bygget til at automatisere procedurer og trænet på data i et racemæssigt uretfærdigt samfund ender med at kopiere disse racistiske resultater i deres resultater. Men meget af stipendiet på denne type skade fra AI fokuserer på eksempler i USA. At undersøge det i sammenhæng med kolonialitet giver mulighed for et globalt perspektiv: Amerika er ikke det eneste sted med sociale uligheder. Der er altid grupper, der bliver identificeret og udsat, siger Isaac.
Spøgelsesarbejde. Fænomenet spøgelsesarbejde , det usynlige dataarbejde, der kræves for at understøtte AI-innovation, udvider pænt det historiske økonomiske forhold mellem kolonisator og koloniseret. Mange tidligere amerikanske og britiske kolonier – Filippinerne, Kenya og Indien – er blevet spøgelsesarbejdende knudepunkter for amerikanske og britiske virksomheder. Landenes billige, engelsktalende arbejdsstyrker, som gør dem til en naturlig egnethed til dataarbejde, eksisterer på grund af deres kolonihistorie.
Beta test. AI-systemer bliver nogle gange afprøvet på mere sårbare grupper, før de implementeres for rigtige brugere. Cambridge Analytica, for eksempel, betatestede sine algoritmer ved de nigerianske valg i 2015 og 2017 i Kenya, før de brugte dem i USA og Storbritannien. Undersøgelser fandt senere ud af, at disse eksperimenter aktivt forstyrret den kenyanske valgproces og udhulet den sociale samhørighed. Denne form for test gentager det britiske imperiums historiske behandling af dets kolonier som laboratorier for ny medicin og teknologier.
AI-styring. De geopolitiske magtubalancer, som kolonitiden efterlod, former også aktivt AI-styring. Dette har udspillet sig i det nylige hastværk med at danne globale AI-etiske retningslinjer: udviklingslande i Afrika, Latinamerika og Centralasien er stort set blevet udeladt af diskussionerne, hvilket har ført til, at nogle nægte at deltage i internationale datastrømsaftaler . Resultatet: udviklede lande fortsætter med at drage uforholdsmæssig stor fordel af globale normer, der er formet til deres fordel, mens udviklingslandene fortsætter med at sakke yderligere bagud.
International social udvikling. Endelig påvirker de samme geopolitiske magtubalancer den måde, AI bruges til at hjælpe udviklingslande. AI for good eller AI for bæredygtig udviklingsinitiativer er ofte paternalistiske. De tvinger udviklingslandene til at være afhængige af eksisterende AI-systemer i stedet for at deltage i at skabe nye designet til deres egen kontekst.
Forskerne bemærker, at disse eksempler ikke er udtømmende, men de viser, hvor vidtrækkende koloniale arv er i den globale AI-udvikling. De binder også sammen, hvad der synes at være forskellige problemer under én samlende afhandling. Det giver os en ny grammatik og et nyt ordforråd til at tale om, hvorfor disse spørgsmål betyder noget, og hvad vi vil gøre for at tænke over og løse disse problemer på lang sigt, siger Isaac.
Hvordan man bygger dekolonial AI
Fordelen ved at undersøge skadelige virkninger af AI gennem denne linse, hævder forskerne, er den ramme, den giver til at forudsige og afbøde fremtidige skader. Png mener, at der i virkeligheden ikke er noget, der hedder utilsigtede konsekvenser - kun konsekvenserne af de blinde vinkler, organisationer og forskningsinstitutioner har, når de mangler forskelligartet repræsentation.
På denne måde foreslår forskerne tre teknikker til at opnå dekolonial, eller mere inkluderende og gavnlig, AI:
Kontekstbevidst teknisk udvikling. For det første bør AI-forskere, der bygger et nyt system, overveje, hvor og hvordan det vil blive brugt. Deres arbejde bør heller ikke ende med at skrive koden, men bør omfatte afprøvning af den, understøttelse af politikker, der letter dens korrekte brug, og tilrettelæggelse af handling mod upassende.
Omvendt vejledning. For det andet bør de lytte til marginaliserede grupper. Et eksempel på, hvordan man gør dette, er den spirende praksis deltagende maskinlæring , som søger at involvere de mennesker, der er mest berørt af maskinlæringssystemer, i deres design. Dette giver forsøgspersonerne en chance for at udfordre og diktere, hvordan maskinlæringsproblemer udformes, hvilke data der indsamles og hvordan, og hvor de endelige modeller bruges.
Solidaritet. Marginaliserede grupper bør også have støtte og ressourcer til at igangsætte deres eget AI-arbejde. Der eksisterer allerede flere fællesskaber af marginaliserede AI-udøvere, bl.a Deep Learning Indaba , Sort i AI , og Queer i AI , og deres arbejde bør forstærkes.
Siden udgivelsen af deres papir, siger forskerne, har de oplevet en overvældende interesse og entusiasme. Det signalerer i hvert fald for mig, at der er en modtagelighed for det her arbejde, siger Isaac. Det føles som om, at dette er en samtale, som samfundet ønsker at begynde at engagere sig i.