AI-etiske grupper gentager en af ​​samfundets klassiske fejltagelser

Getty

Internationale organisationer og selskaber er kapløb om at udvikle globale retningslinjer for etisk brug af kunstig intelligens. Erklæringer, manifester og anbefalinger oversvømmer internettet. Men disse bestræbelser vil være forgæves, hvis de ikke tager højde for de kulturelle og regionale sammenhænge, ​​som AI opererer i.

AI-systemer har gentagne gange vist sig at forårsage problemer, der uforholdsmæssigt påvirker marginaliserede grupper, mens de gavner nogle få privilegerede. Den globale AI-etiske indsats, der er i gang i dag - som der er snesevis af - har til formål at hjælpe alle med at drage fordel af denne teknologi og forhindre, at den forårsager skade. Generelt gør de dette ved at skabe retningslinjer og principper, som udviklere, finansiører og regulatorer kan følge. De kan for eksempel anbefale rutinemæssige interne revisioner eller kræve beskyttelse af brugernes personligt identificerbare oplysninger.

Vi mener, at disse grupper er velmenende og gør et værdifuldt arbejde. AI-samfundet bør faktisk blive enige om et sæt internationale definitioner og begreber for etisk AI. Men uden mere geografisk repræsentation vil de producere en global vision for AI-etik, der afspejler perspektiverne hos mennesker i kun få regioner i verden, især Nordamerika og Nordvesteuropa.

Dette arbejde er ikke let eller ligetil. Retfærdighed, privatliv og bias betyder forskellige ting (pdf) forskellige steder. Folk har også forskellige forventninger til disse begreber afhængigt af deres egne politiske, sociale og økonomiske realiteter. Udfordringerne og risiciene ved AI varierer også afhængigt af ens lokalitet.

Hvis organisationer, der arbejder med global AI-etik, undlader at anerkende dette, risikerer de at udvikle standarder, der i bedste fald er meningsløse og ineffektive på tværs af alle verdens regioner. I værste fald vil disse fejlbehæftede standarder føre til flere AI-systemer og værktøjer, der fastholder eksisterende skævheder og er ufølsomme over for lokale kulturer.

I 2018 var Facebook for eksempel langsom til at handle på misinformation breder sig i Myanmar som i sidste ende førte til menneskerettighedskrænkelser. En vurdering (pdf) betalt af virksomheden fandt ud af, at dette tilsyn delvist skyldtes Facebooks retningslinjer for fællesskabet og politikker for indholdsmoderering, som ikke var i stand til at adressere landets politiske og sociale realiteter.

Der er en klar mangel på regional diversitet i mange AI-advisory boards, ekspertpaneler og råd.

For at forhindre sådanne misbrug skal virksomheder, der arbejder på etiske retningslinjer for AI-drevne systemer og værktøjer, engagere brugere fra hele verden for at hjælpe med at skabe passende standarder til at styre disse systemer. De skal også være opmærksomme på, hvordan deres politikker gælder i forskellige sammenhænge.

På trods af risiciene er der en klar mangel på regional diversitet i mange AI-advisory boards, ekspertpaneler og råd, der er udpeget af førende internationale organisationer. Det ekspertrådgivningsgruppe for Unicefs AI for Children-projekt har for eksempel ingen repræsentanter fra regioner med højeste koncentration af børn og unge voksne, herunder Mellemøsten, Afrika og Asien.

Desværre, som det ser ud i dag, er hele området inden for AI-etik i alvorlig risiko for at begrænse sig til sprog, ideer, teorier og udfordringer fra en håndfuld regioner – primært Nordamerika, Vesteuropa og Østasien.

Denne mangel på regional mangfoldighed afspejler nutiden koncentration af AI-forskning (pdf) : 86 % af artiklerne udgivet på AI-konferencer i 2018 blev tilskrevet forfattere i Østasien, Nordamerika eller Europa. Og færre end 10 % af referencerne i AI-artikler udgivet i disse regioner er til artikler fra en anden region. Patenter er også meget koncentrerede: 51% af AI-patenter offentliggjort i 2018 blev tilskrevet Nordamerika.

De af os, der arbejder med AI-etik, vil gøre mere skade end gavn, hvis vi lader feltets mangel på geografisk diversitet definere vores egen indsats. Hvis vi ikke er forsigtige, kan vi ende med at kodificere AI's historiske skævheder til retningslinjer, der fordrejer teknologien for kommende generationer. Vi skal begynde at prioritere stemmer fra lav- og mellemindkomstlande ( især t slange i Global Syd ) og dem fra historisk marginaliserede samfund.

Fremskridt inden for teknologi har ofte været til gavn for Vesten, samtidig med at den har forværret økonomisk ulighed, politisk undertrykkelse og miljøødelæggelse andre steder. At inkludere ikke-vestlige lande i AI-etik er den bedste måde at undgå at gentage dette mønster.

Relateret historie

Deltagelsesvask kan være den næste farlige mode inden for maskinlæring Mange mennesker deltager allerede i feltets arbejde uden anerkendelse eller løn.

Den gode nyhed er, at der er mange eksperter og ledere fra underrepræsenterede regioner at inkludere i sådanne rådgivende grupper. Imidlertid ser det ud til, at mange internationale organisationer ikke prøver meget hårdt på at anmode om deltagelse fra disse mennesker. Den nydannede Global AI Ethics Consortium har for eksempel ingen stiftende medlemmer, der repræsenterer akademiske institutioner eller forskningscentre fra Mellemøsten, Afrika eller Latinamerika. Denne udeladelse er et skarpt eksempel på koloniale mønstre (pdf) gentager sig selv.

Hvis vi skal bygge etiske, sikre og inkluderende AI-systemer i stedet for at engagere os i etisk vask , skal vi først opbygge tillid til dem, der historisk set er blevet skadet af de samme systemer. Det starter med meningsfuldt engagement.

Ved Montreal AI Ethics Institute , hvor vi begge arbejder, forsøger vi at tage en anden tilgang. Vi afholder digitale AI-etikmøder, som er åbne diskussioner, som alle med en internetforbindelse eller telefon kan deltage i. Under disse begivenheder har vi haft forbindelse til en forskelligartet gruppe af individer, fra en professor, der bor i Macau, til en universitetsstuderende, der studerer i Mumbai.

I mellemtiden har grupper som Partnership on AI, der anerkender manglen på geografisk diversitet i AI mere bredt, anbefalede ændringer til visumlove og foreslåede politikker, der gør det lettere for forskere at rejse og dele deres arbejde. Maskhane , en græsrodsorganisation, samler forskere fra Afrika, der behandler naturlige sprog, for at styrke maskinoversættelsesarbejde, der har forsømt ikke-dominerende sprog.

Det er opmuntrende at se internationale organisationer forsøge at inddrage flere forskellige perspektiver i deres diskussioner om kunstig intelligens. Det er vigtigt for os alle at huske, at regional og kulturel mangfoldighed er nøglen til enhver samtale om AI-etik. At gøre ansvarlig AI til normen snarere end undtagelsen er umuligt uden stemmerne fra mennesker, der ikke allerede har magt og indflydelse.

TIL bhishek Gupta er grundlæggeren af Montreal AI Ethics Institute og en maskinlæringsingeniør hos Microsoft, hvor han sidder i CSE Responsible AI Board. Victoria Heath er forsker ved Montreal AI Ethics Institute og seniorforsker ved NATO Association of Canada .

skjule