At etablere et etisk kodeks for kunstig intelligens vil være sværere, end folk tror

Varoon Mathur / AI Now Institute

I løbet af de sidste seks år har New Yorks politiafdeling udarbejdet en massiv database indeholdende navne og personlige oplysninger på mindst 17.500 personer, som den mener er involveret i kriminelle bander. Indsatsen er allerede blevet kritiseret af borgerrettighedsaktivister, som siger, at den er unøjagtig og racediskriminerende.

'Forestil dig nu at gifte ansigtsgenkendelsesteknologi med udviklingen af ​​en database, der teoretisk antager, at du er i en bande,' sagde Sherrilyn Ifill, præsident og direktør for NAACP Legal Defense Fund, på AI Now Symposium i New York sidste tirsdag.

Advokater, aktivister og forskere understreger behovet for etik og ansvarlighed i design og implementering af AI-systemer. Men dette ignorerer ofte et par vanskelige spørgsmål: hvem skal definere denne etik, og hvem skal håndhæve dem?

Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) og Nicole Ozer (ACLU) i samtale ved AI Now 2018 Symposium. Andrew Federman for AI Now Institute

Ikke alene er ansigtsgenkendelse ufuldkommen, undersøgelser har vist, at den førende software er mindre præcis for personer med mørk hud og kvinder. Efter Ifills vurdering er politiets database mellem 95 og 99 procent afroamerikaner, latino og asiatisk amerikaner. 'Vi taler om at skabe en klasse af […] mennesker, der er mærket med en slags kriminelt tag,' sagde Ifill.

I mellemtiden er politiafdelinger i hele USA, Storbritannien og Kina begyndt at bruge ansigtsgenkendelse som et værktøj til at finde kendte kriminelle. I juni, det sydlige Wales politi frigivet en erklæring, der begrunder deres brug af teknologien på grund af den 'offentlige gavn', som den giver.

Faktisk fremhæver teknologi ofte folks forskellige etiske standarder – uanset om det er det censurere hadefulde ytringer eller bruge risikovurderingsværktøjer til forbedre den offentlige sikkerhed .

I et forsøg på at fremhæve, hvor divergerende folks principper kan være, skabte forskere ved MIT en platform kaldet Moralsk maskine at crowd-source menneskelig mening om de moralske beslutninger, der bør følges af selvkørende biler. De bad millioner af mennesker fra hele verden om at veje ind i variationer af klassikeren ' vogn problem ' ved at vælge, hvem en bil skal forsøge at prioritere i en ulykke. Resultaterne viser stor variation på tværs af forskellige kulturer.

Etablering af etiske standarder ændrer heller ikke nødvendigvis adfærd. I juni for eksempel efter Google aftalt for at afbryde sit arbejde på Project Maven med Pentagon, etablerede det et nyt sæt af etiske principper at vejlede dets involvering i fremtidige AI-projekter. Kun måneder senere føler mange Google-medarbejdere, at disse principper er blevet lagt i vejen med et bud på en $ 10 milliarder Department of Defense kontrakt . TIL nyere undersøgelse fra North Carolina State University fandt også ud af, at det at bede softwareingeniører om at læse et etisk kodeks ikke ændrer deres adfærd.

Philip Alston, en international juridisk forsker ved NYU's School of Law, foreslår en løsning på etikkens tvetydige og uansvarlige karakter: omformulering af AI-drevne konsekvenser i form af menneskerettigheder. '[Menneskerettigheder er] i forfatningen,' sagde Alston på samme konference. 'De er i rettighedserklæringen; de er blevet fortolket af domstolene,' sagde han. Hvis et AI-system fjerner folks grundlæggende rettigheder, så burde det ikke være acceptabelt, sagde han.

Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) og Vincent Southerland (Center on Race, Inequality, and the Law at NYU) på scenen ved symposiet. Andrew Federman for AI Now Institute

Alston er ikke den eneste, der har fundet på denne løsning. Mindre end en uge før symposiet offentliggjorde Data & Society Research Institute en forslag for at bruge internationale menneskerettigheder til at styre AI. Rapporten indeholder anbefalinger til teknologivirksomheder om at engagere sig med borgerrettighedsgrupper og forskere og udføre menneskerettighedskonsekvensvurderinger af deres AI-systemers livscyklusser.

'Indtil vi begynder at bringe [menneskerettigheder] ind i AI-diskussionen,' tilføjede Alston, 'der er ikke noget hårdt anker.'

skjule