'Trustworthy AI' er en ramme, der hjælper med at håndtere unikke risici

'Trustworthy AI' er en ramme, der hjælper med at håndtere unikke risici

Leveret af Deloitte AI Institute

Kunstig intelligens (AI)-teknologi fortsætter med at udvikle sig med stormskridt og er hurtigt ved at blive en potentiel disrupter og essentiel muliggører for næsten enhver virksomhed i enhver branche. På dette stadium er en af ​​barriererne for udbredt AI-implementering ikke længere selve teknologien; snarere er det et sæt udfordringer, som ironisk nok er langt mere menneskelige: etik, styring og menneskelige værdier.

Irfan Saif er rektor hos Deloitte Risk and Financial Advisory. Beena Ammanath er administrerende direktør hos Deloitte Consulting LLP.

Efterhånden som AI udvider sig til næsten alle aspekter af det moderne liv, øges risikoen for at opføre sig forkert AI eksponentielt - til et punkt, hvor disse risici bogstaveligt talt kan blive et spørgsmål om liv og død. Eksempler fra den virkelige verden på AI, der er gået skævt, inkluderer systemer, der diskriminerer mennesker baseret på deres race, alder eller køn, og sociale mediesystemer, der utilsigtet spreder rygter og desinformation og mere.

Endnu værre, disse eksempler er kun toppen af ​​isbjerget. Efterhånden som AI implementeres i større skala, vil de tilknyttede risici sandsynligvis kun stige - potentielt have alvorlige konsekvenser for samfundet som helhed og endnu større konsekvenser for de ansvarlige virksomheder. Fra et forretningsperspektiv omfatter disse potentielle konsekvenser alt fra retssager, reguleringsbøder og vrede kunder til pinlighed, skade på omdømme og ødelæggelse af aktionærværdi.

Men med AI nu ved at blive en påkrævet forretningskapacitet - ikke bare en god at have - har virksomheder ikke længere mulighed for at undgå AI's unikke risici blot ved at undgå AI helt. I stedet skal de lære at identificere og håndtere AI-risici effektivt. For at opnå potentialet for samarbejde mellem mennesker og maskiner skal organisationer kommunikere en plan for kunstig intelligens, som er vedtaget og talt fra postrummet til bestyrelseslokalet. Ved at have en etisk ramme på plads skaber organisationer et fælles sprog, hvormed de kan formulere tillid og hjælpe med at sikre integriteten af ​​data blandt alle deres interne og eksterne interessenter. At have en fælles ramme og linse til at anvende styring og styring af risici forbundet med AI konsekvent på tværs af virksomheden kan muliggøre hurtigere og mere konsekvent adoption af AI.

Den pålidelige AI-ramme

For bedre at kunne løse udfordringerne relateret til AI-etik og -styring – hjælper det med at udnytte en ramme. Deloittes Trustworthy AI-ramme introducerer seks nøgledimensioner, der, når de betragtes samlet i design-, udviklings-, implementerings- og driftsfaserne af AI-systemimplementering, kan hjælpe med at sikre etik og opbygge en troværdig AI-strategi.

Trustworthy AI-rammen er designet til at hjælpe virksomheder med at identificere og afbøde potentielle risici relateret til AI-etik på alle stadier af AI-livscyklussen. Her er et nærmere kig på hver af rammens seks dimensioner.

Den pålidelige AI-ramme

1. Fair, ikke forudindtaget

Troværdig AI skal designes og trænes til at følge en retfærdig, konsistent proces og træffe retfærdige beslutninger. Den skal også omfatte intern og ekstern kontrol for at mindske diskriminerende skævhed.

Bias er en vedvarende udfordring for mennesker og samfund, ikke kun AI. Udfordringen er dog endnu større for AI, fordi den mangler en nuanceret forståelse af sociale standarder - for ikke at nævne den ekstraordinære generelle intelligens, der kræves for at opnå sund fornuft - hvilket potentielt kan føre til beslutninger, der er teknisk korrekte, men socialt uacceptable. AI lærer af de datasæt, der bruges til at træne det, og hvis disse datasæt indeholder bias fra den virkelige verden, kan AI-systemer lære, forstærke og udbrede denne bias med digital hastighed og skala.

For eksempel kan et kunstig intelligens-system, der afgør, hvor online jobannoncer skal placeres, uretfærdigt målrette annoncer for højere betalende job mod et websteds mandlige besøgende, fordi de virkelige data viser, at mænd typisk tjener mere end kvinder. På samme måde kan en finansiel virksomhed, der bruger kunstig intelligens til at screene låneansøgninger, finde ud af, at dens algoritme uretfærdigt diskriminerer mennesker baseret på faktorer, der ikke er socialt acceptable, såsom race, køn eller alder. I begge tilfælde kan virksomheden, der er ansvarlig for AI'en, stå over for betydelige konsekvenser, herunder reguleringsbøder og skade på omdømme.

For at undgå problemer relateret til retfærdighed og bias skal virksomheder først afgøre, hvad der er fair. Dette kan være meget sværere, end det lyder, da der for et givet emne generelt ikke er nogen enkelt definition af fair, som alle mennesker er enige om. Virksomheder skal også aktivt lede efter bias inden for deres algoritmer og data, foretage de nødvendige justeringer og implementere kontroller for at sikre, at yderligere bias ikke dukker op uventet. Når bias opdages, skal det forstås og derefter afbødes gennem etablerede processer til at løse problemet og genopbygge kundernes tillid.

AI kan ikke længere behandles som en sort boks, der modtager input og genererer output uden en klar forståelse af, hvad der foregår indeni.

2. Gennemsigtig og forklarlig

For at AI skal være troværdig, har alle deltagere ret til at forstå, hvordan deres data bliver brugt, og hvordan AI'en træffer beslutninger. AI's algoritmer, attributter og korrelationer skal være åbne for inspektion, og dens beslutninger skal kunne forklares fuldt ud.

Da beslutninger og processer, der er afhængige af AI, øges både i antal og betydning, kan AI ikke længere behandles som en sort boks, der modtager input og genererer output uden en klar forståelse af, hvad der foregår indeni.

For eksempel er online-forhandlere, der bruger kunstig intelligens til at komme med produktanbefalinger til kunder, under pres for at forklare deres algoritmer, og hvordan anbefalingsbeslutninger træffes. Tilsvarende står det amerikanske domstolssystem over for en løbende kontrovers om brugen af ​​uigennemsigtige AI-systemer til at informere om straffedomme.

Vigtige spørgsmål at overveje på dette område omfatter identifikation af AI-brugssager, for hvilke gennemsigtighed og forklaring er særligt vigtige, og derefter forståelse af, hvilke data der bruges, og hvordan beslutninger træffes for disse use cases. Også med hensyn til gennemsigtighed er der et stigende pres på eksplicit informere folk når de interagerer med AI, i stedet for at have AI maskeraden som en rigtig person.

3. Ansvarlig og ansvarlig

Pålidelige AI-systemer skal inkludere politikker, der klart fastslår, hvem der er ansvarlig og ansvarlig for deres output. At give selve teknologien skylden for dårlige beslutninger og fejlberegninger er bare ikke godt nok - ikke for de mennesker, der kommer til skade, og bestemt ikke for offentlige regulatorer. Dette er et nøglespørgsmål, som sandsynligvis kun bliver vigtigere, efterhånden som kunstig intelligens bruges til et voksende udvalg af stadig mere kritiske applikationer såsom sygdomsdiagnose, formueforvaltning og autonom kørsel.

For eksempel, hvis et førerløst køretøj forårsager en kollision, hvem er så ansvarlig og ansvarlig for skaden? Føreren? Bilejeren? Producenten? AI-programmørerne? Den administrerende direktør?

På samme måde kan du overveje eksemplet med et investeringsselskab, der bruger en automatiseret platform drevet af AI til at handle på vegne af sine kunder. Hvis en klient investerer sin livsopsparing gennem virksomheden og derefter mister alt på grund af dårlige algoritmer, bør der være en mekanisme på plads til at identificere, hvem der er ansvarlig for problemet, og hvem der er ansvarlig for at gøre tingene rigtige.

Nøglefaktorer, der skal tages i betragtning, omfatter, hvilke love og regler der kan bestemme juridisk ansvar, og hvorvidt AI-systemer kan revideres og dækkes af eksisterende whistleblowerlove. Også hvordan vil problemer blive kommunikeret til offentligheden og tilsynsmyndigheder, og hvilke konsekvenser vil de ansvarlige parter stå over for?

4. Robust og pålidelig

For at AI kan opnå udbredt anvendelse, skal den være mindst lige så robust og pålidelig som de traditionelle systemer, processer og mennesker, den udvider eller erstatter.

For at AI kan anses for at være troværdig, skal den være tilgængelig, når den formodes at være tilgængelig, og den skal generere konsistente og pålidelige output – udføre opgaver korrekt under mindre end ideelle forhold, og når du støder på uventede situationer og data. Pålidelig kunstig intelligens skal opskaleres godt og forblive robust og pålidelig, efterhånden som dens effekt udvides og vokser. Og hvis det fejler, skal det fejle på en forudsigelig, forventet måde.

Overvej eksemplet med en sundhedsvirksomhed, der bruger kunstig intelligens til at identificere abnormiteter i hjernescanninger og ordinere passende behandling. For at være troværdig er det helt afgørende for Al-algoritmerne at producere konsistente og pålidelige resultater, da liv kan være på spil.

Virksomheder skal overveje og håndtere alle former for risici – eksterne, fysiske, digitale – og derefter kommunikere disse risici til brugerne.

For at opnå AI, der er robust og pålidelig, skal virksomheder sikre, at deres AI-algoritmer producerer de rigtige resultater for hvert nyt datasæt. De har også brug for etablerede processer til at håndtere problemer og uoverensstemmelser, hvis og når de opstår. Den menneskelige faktor er et kritisk element her: forståelse af, hvordan menneskelige input påvirker pålidelighed; at bestemme, hvem de rigtige personer er til at give input; og at sikre, at disse mennesker er ordentligt udstyret og uddannet – især med hensyn til bias og etik.

5. Respekt for privatlivets fred

Privatliv er et kritisk spørgsmål for alle typer datasystemer, men det er især kritisk for AI, da den sofistikerede indsigt, der genereres af AI-systemer, ofte stammer fra data, der er mere detaljerede og personlige. Pålidelig AI skal overholde datareglerne og kun bruge data til de angivne og aftalte formål.

Spørgsmålet om AI-privatliv strækker sig ofte ud over en virksomheds egne vægge. For eksempel har privatlivets fred for lyddata, som er optaget af AI-assistenter, skabt overskrifter for nylig, hvor der er opstået kontroverser om, i hvilket omfang en virksomheds leverandører og partnere får adgang til dataene, og om dataene skal deles med retshåndhævende myndigheder.

Virksomheder skal vide, hvilke kundedata der indsamles og hvorfor, og om dataene bliver brugt på den måde, kunderne har forstået og aftalt. Kunder bør også have det nødvendige niveau af kontrol over deres data, herunder evnen til at Tilmeld eller fravælge at få deres data delt. Og hvis kunder har bekymringer om databeskyttelse, har de brug for en mulighed for at give udtryk for disse bekymringer.

6. Trygt og sikkert

For at være troværdig skal AI være beskyttet mod cybersikkerhedsrisici, der kan føre til fysisk og/eller digital skade. Selvom sikkerhed og sikkerhed klart er vigtige for alle computersystemer, er de især afgørende for AI på grund af AI's store og stigende rolle og indflydelse på aktiviteter i den virkelige verden.

For eksempel, hvis et AI-baseret finanssystem bliver hacket, kan resultatet være skade på omdømme og tabte penge eller data. Det er selvfølgelig alvorlige konsekvenser. De er dog ikke nær så alvorlige som de potentielle konsekvenser af, at et AI-drevet køretøj bliver hacket, hvilket kan sætte folks liv på spil.

Et andet eksempel på AI-cybersikkerhedsrisiko er et nyligt databrud, der involverer millioner af fingeraftryk og ansigtsgenkendelse . Dette brud var særligt alvorligt, fordi det involverede folks biometriske data, som er permanente og ikke kan ændres (i modsætning til en stjålet adgangskode eller anden standardtype data, der hurtigt og nemt kan ændres for at begrænse skaden).

For at hjælpe med at sikre sikkerheden og sikkerheden af ​​deres AI-systemer skal virksomheder grundigt overveje og adressere alle former for risici – eksterne, fysiske og digitale blandt mange andre – og derefter kommunikere disse risici til brugerne. Selvom eksterne risici har en tendens til at få mest opmærksomhed, kan interne risici såsom svindel være lige så alvorlige. For hver AI-brugstilfælde skal virksomheder vurdere, om de potentielle fordele i tilstrækkelig grad opvejer de tilknyttede risici.

AI du kan stole på

AI-etik dukker op som den største enkeltstående udfordring for fortsatte AI-fremskridt og udbredt udbredelse - og det er en udfordring, virksomheder ikke længere kan ignorere, nu hvor AI er ved at blive en væsentlig forretningskapacitet. Trustworthy AI-rammen tilbyder en struktureret og omfattende måde at tænke på AI-etik på, og hjælper virksomheder med at designe, udvikle, implementere og drive AI-systemer, de kan stole på.

For mere information, besøg www.deloitte.com/us/trustai .

skjule