AI kan gøres juridisk ansvarlig for sine beslutninger

Kunstig intelligens kommer til at spille en væsentligt større rolle i samfundet. Og det rejser spørgsmålet om ansvarlighed. Hvis vi er afhængige af maskiner til at træffe stadig vigtigere beslutninger, bliver vi nødt til at have klagemekanismer, hvis resultaterne skulle vise sig at være uacceptable eller svære at forstå.

Men at få AI-systemer til at forklare deres beslutninger er ikke helt ligetil. Et problem er, at forklaringer ikke er gratis; de kræver betydelige ressourcer både i udviklingen af ​​AI-systemet og i den måde, det afhøres på i praksis.

En anden bekymring er, at forklaringer kan afsløre forretningshemmeligheder ved at tvinge udviklere til at offentliggøre AI-systemets indre funktioner. Desuden er en fordel ved disse systemer, at de kan give mening til komplekse data på måder, der ikke er tilgængelige for mennesker. Så at gøre deres forklaringer forståelige for mennesker kan kræve en reduktion i ydeevnen.

Forklaringssystemer skal være adskilt fra AI-systemer, siger Harvard-teamet

Hvordan skal vi så gøre AI ansvarlig for sine beslutninger uden at kvæle innovation?

I dag får vi et slags svar takket være Finale Doshi-Velez, Mason Kortz og andres arbejde ved Harvard University i Cambridge, Massachusetts. Disse folk er dataloger, kognitive videnskabsmænd og juridiske forskere, der sammen har udforsket de juridiske problemer, som AI-systemer rejser, identificeret nøgleproblemer og foreslået potentielle løsninger. Sammen er vi eksperter i forklaring i loven, om oprettelse af AI-systemer og på muligheder og begrænsninger af menneskelig ræsonnement, siger de.

De begynder med at definere forklaring. Når vi taler om en forklaring på en beslutning, mener vi generelt årsagerne eller begrundelserne for netop det resultat, frem for en beskrivelse af beslutningsprocessen generelt, siger de.

Sondringen er vigtig. Doshi-Velez og co påpeger, at det er muligt at forklare, hvordan et AI-system træffer beslutninger på samme måde, som det er muligt at forklare, hvordan tyngdekraften virker, eller hvordan man bager en kage. Dette gøres ved at udstikke de regler systemet følger, uden at henvise til nogen specifik faldende genstand eller kage.

Dette er frygten for industrifolk, der ønsker at holde deres AI-systemer hemmelige for at beskytte deres kommercielle fordele.

Men denne form for gennemsigtighed er ikke nødvendig i mange tilfælde. At forklare, hvorfor en genstand faldt i en arbejdsulykke, kræver normalt ikke en forklaring på tyngdekraften. I stedet kræves der normalt forklaringer for at besvare spørgsmål som disse: Hvad var hovedfaktorerne i en beslutning? Ville ændring af en bestemt faktor have ændret beslutningen? Hvorfor førte to sager, der ligner hinanden, til forskellige afgørelser?

At besvare disse spørgsmål kræver ikke nødvendigvis en detaljeret forklaring af et AI-systems funktion.

Så hvornår skal der gives forklaringer? I bund og grund, når fordelen opvejer omkostningerne. Vi finder, at der er tre forhold, der karakteriserer situationer, hvor samfundet mener, at en beslutningstager er forpligtet – moralsk, socialt eller juridisk – til at give en forklaring, siger Doshi-Velez og co.

Teamet siger, at beslutningen skal have indflydelse på en anden person end beslutningstageren. Der skal være værdi i at vide, hvis beslutningen er truffet fejlagtigt. Og der skal være en eller anden grund til at tro, at der er sket (eller vil ske) en fejl i beslutningsprocessen.

For eksempel kan observatører mistænke, at en beslutning var påvirket af en eller anden irrelevant faktor, såsom en kirurg, der nægter at udføre en operation på grund af månens fase. Eller de kan have mistillid til et system, hvis det traf den samme beslutning under to helt forskellige sæt omstændigheder. I så fald kan de have mistanke om, at det ikke har taget højde for en vigtig faktor. En anden bekymring opstår med beslutninger, der ser ud til at gavne én gruppe uretfærdigt, som når virksomhedsdirektører træffer beslutninger, der gavner dem selv på bekostning af deres aktionærer.

Der skal med andre ord være god grund til at mene, at en beslutning er ukorrekt, før der kræves en forklaring. Men der kan også være andre grunde til at give forklaringer, såsom at forsøge at øge tilliden til forbrugerne.

Så Doshi-Velez og co kigger på konkrete juridiske situationer, hvor der kræves forklaringer. De påpeger, at fornuftige sind kan og gør er forskellige om, hvorvidt det er moralsk forsvarligt eller socialt ønskeligt at kræve en forklaring. Love på den anden side er kodificeret, og selvom man kan diskutere, om en lov er korrekt, ved vi i det mindste, hvad loven er, siger de.

I henhold til amerikansk lovgivning kræves forklaringer i en lang række situationer og i varierende detaljeringsniveauer. For eksempel kræves forklaringer i tilfælde af objektivt ansvar, skilsmisse eller diskrimination; til administrative beslutninger; og for dommere og juryer. Men detaljeringsgraden varierer enormt.

Alt det har vigtige konsekvenser for AI-systemer. Doshi-Velez og co konkluderer, at juridisk gennemførlige forklaringer er mulige for AI-systemer. Dette skyldes, at forklaringen på en beslutning kan tages adskilt fra en beskrivelse af dens indre funktion. Hvad mere er, siger holdet, at et forklaringssystem bør betragtes som adskilt fra AI-systemet.

Det er et markant resultat. Det betyder ikke, at tilfredsstillende forklaringer altid vil være nemme at generere. Hvordan kan vi for eksempel vise, at et sikkerhedssystem, der bruger billeder af et ansigt som input, ikke diskriminerer på grundlag af køn? Det er kun muligt ved at bruge et alternativt ansigt, der ligner hinanden på alle måder bortset fra køn, siger holdet.

Men forklaringer på de beslutninger, AI-systemer træffer, er generelt mulige. Og det fører holdet til en klar konklusion. Vi anbefaler, at AI-systemer i øjeblikket kan og bør holdes til en lignende forklaringsstandard, som mennesker er i øjeblikket, siger de.

Men vores brug og forståelse af kunstig intelligens vil sandsynligvis ændre sig på måder, vi endnu ikke forstår (og måske aldrig vil). Af den grund skal denne tilgang tages op til revision. I fremtiden ønsker vi måske at holde en AI til en anden standard, siger Doshi-Velez og co.

Temmelig!

Ref: arxiv.org/abs/1711.01134 : Ansvarlighed for AI under loven: Forklaringens rolle

skjule