211service.com
Hvis AI skal hjælpe os i en krise, har vi brug for en ny form for etik
Fru Tech | Pixabay
Jess Whittlestone ved Leverhulme Center for the Future of Intelligence ved University of Cambridge og hendes kolleger udgav en kommentar stykke i Nature Machine Intelligence i denne uge argumenterer for, at hvis kunstig intelligens vil hjælpe i en krise , vi har brug for en ny, hurtigere måde at udføre AI-etik på, som de kalder etik for haster.
JESS WHITTLESTONEFor Whittlestone betyder det at forudse problemer, før de opstår, finde bedre måder at indbygge sikkerhed og pålidelighed i AI-systemer og lægge vægt på teknisk ekspertise på alle niveauer af teknologiens udvikling og brug. Kernen i disse anbefalinger er ideen om, at etik blot skal blive en del af, hvordan AI laves og bruges, snarere end en tilføjelse eller eftertanke.
I sidste ende vil AI være hurtigere at implementere, når det er nødvendigt, hvis det er lavet med etik indbygget, hævder hun. Jeg bad hende fortælle mig, hvad det betyder.
Dette interview er blevet redigeret for længde og klarhed.
Hvorfor har vi brug for en ny form for etik for kunstig intelligens?
Med denne pandemi er vi pludselig i en situation, hvor folk virkelig taler om, hvorvidt AI kunne være nyttigt, om det kunne redde liv. Men krisen har gjort det klart, at vi ikke har robuste nok etiske procedurer til, at AI kan implementeres sikkert, og bestemt ikke dem, der kan implementeres hurtigt.
Hvad er der galt med den etik, vi har?
Jeg brugte de sidste par år på at gennemgå AI-etiske initiativer, kigge på deres begrænsninger og spørge, hvad vi ellers har brug for. Sammenlignet med noget som biomedicinsk etik, er den etik, vi har for AI, ikke særlig praktisk. Den fokuserer for meget på principper på højt niveau. Vi kan alle blive enige om, at kunstig intelligens skal bruges til gode. Men hvad betyder det egentlig? Og hvad sker der, når principper på højt niveau kommer i konflikt?
For eksempel har kunstig intelligens potentialet til at redde liv, men det kan komme på bekostning af borgerlige frihedsrettigheder som privatliv. Hvordan adresserer vi disse afvejninger på måder, der er acceptable for mange forskellige mennesker? Vi har ikke fundet ud af, hvordan vi skal håndtere de uundgåelige uenigheder.
AI-etik har også en tendens til at reagere på eksisterende problemer i stedet for at forudse nye. De fleste af de spørgsmål, som folk diskuterer i dag omkring algoritmisk bias, dukkede kun op, når højt profilerede ting gik galt, såsom med politi- og prøveløsladelsesbeslutninger.
Men etikken skal være proaktiv og forberede sig på, hvad der kan gå galt, ikke hvad der allerede er gået galt. Det er klart, at vi ikke kan forudsige fremtiden. Men efterhånden som disse systemer bliver mere kraftfulde og bliver brugt i flere højindsatte domæner, vil risiciene blive større.
Hvilke muligheder har vi forpasset ved ikke at have disse procedurer på plads?
Det er nemt at overhype, hvad der er muligt, og kunstig intelligens kom nok aldrig til at spille en stor rolle i denne krise. Maskinlæringssystemer er ikke modne nok.
Men der er en håndfuld tilfælde, hvor AI bliver testet til medicinsk diagnose eller til ressourceallokering på tværs af hospitaler. Vi kunne have været i stand til at bruge den slags systemer mere udbredt og reducere noget af belastningen på sundhedsvæsenet, hvis de var blevet designet fra starten med etik i tankerne.
Særligt med ressourceallokering bestemmer du, hvilke patienter der er højest prioriteret. Du skal have en etisk ramme indbygget, før du bruger kunstig intelligens til at hjælpe med den slags beslutninger.
Så er etik for uopsættelighed blot en opfordring til at gøre eksisterende AI-etik bedre?
Det er en del af det. Det faktum, at vi ikke har robuste, praktiske processer for AI-etik, gør tingene sværere i et krisescenarie. Men i tider som denne har man også større behov for gennemsigtighed. Folk taler meget om manglen på gennemsigtighed med maskinlæringssystemer som sorte bokse. Men der er en anden form for gennemsigtighed, hvad angår hvordan systemerne bruges.
Dette er især vigtigt i en krise, hvor regeringer og organisationer træffer hastebeslutninger, der involverer afvejninger. Hvis sundhed prioriterer du? Hvordan redder man liv uden at ødelægge økonomien? Hvis en AI bliver brugt i offentlig beslutningstagning, er gennemsigtighed vigtigere end nogensinde.
Hvad skal ændres?
Vi skal tænke etik anderledes. Det bør ikke være noget, der sker på siden eller bagefter - noget, der bremser dig. Det burde simpelthen være en del af, hvordan vi bygger disse systemer i første omgang: ethics by design.
Jeg føler nogle gange, at etik er det forkerte ord. Det, vi siger, er, at maskinlærende forskere og ingeniører skal uddannes til at gennemtænke implikationerne af det, de bygger, uanset om de laver grundlæggende forskning som at designe en ny forstærkningsindlæringsalgoritme eller noget mere praktisk som at udvikle en sundhedsansøgning. Hvis deres arbejde finder vej til produkter og tjenester i den virkelige verden, hvordan kan det så se ud? Hvilken slags problemer kan det rejse?
Noget af dette er allerede begyndt. Vi arbejder med nogle AI-forskere i den tidlige karriere og taler med dem om, hvordan de kan bringe denne tankegang til deres arbejde. Det er lidt af et eksperiment, at se hvad der sker. Men selv NeurIPS [en førende AI-konference] beder nu forskere om at inkludere en erklæring i slutningen af deres artikler, der beskriver potentielle samfundsmæssige konsekvenser af deres arbejde.
Du har sagt, at vi har brug for folk med teknisk ekspertise på alle niveauer af AI-design og brug. Hvorfor det?
Jeg siger ikke, at teknisk ekspertise er essensen af etik, men det er et perspektiv, der skal repræsenteres. Og jeg vil ikke lyde, som om jeg siger, at alt ansvaret ligger hos forskere, fordi mange af de vigtige beslutninger om, hvordan AI bliver brugt, bliver taget længere oppe i kæden, af industrien eller af regeringer.
Men jeg er bekymret for, at de mennesker, der træffer disse beslutninger, ikke altid helt forstår, hvordan det kan gå galt. Så du skal involvere folk med teknisk ekspertise. Vores intuitioner om, hvad AI kan og ikke kan, er ikke særlig pålidelige.
Hvad du har brug for på alle niveauer af AI-udvikling er folk, der virkelig forstår detaljerne i maskinlæring for at arbejde med mennesker, der virkelig forstår etik. Tværfagligt samarbejde er dog svært. Folk med forskellige ekspertiseområder taler ofte om tingene på forskellige måder. Hvad en maskinlærende forsker mener med privatliv kan være meget anderledes end hvad en advokat mener med privatliv, og man kan ende med, at folk taler forbi hinanden. Derfor er det vigtigt for disse forskellige grupper at vænne sig til at arbejde sammen.
Du presser på for en ret stor institutionel og kulturel overhaling. Hvad får dig til at tro, at folk vil gøre det her i stedet for at oprette etiske nævn eller tilsynsudvalg – hvilket altid får mig til at sukke lidt, fordi de har tendens til at være tandløse?
Ja, jeg sukker også. Men jeg tror, at denne krise tvinger folk til at se vigtigheden af praktiske løsninger. Måske i stedet for at sige: Åh, lad os have det her tilsynsorgan og det tilsynsorgan, vil folk sige, at vi skal få det gjort, og vi skal få det gjort ordentligt.