211service.com
Den finansielle verden vil åbne AI's sorte bokse
Kraftfulde maskinlæringsmetoder har taget teknologiverdenen med storm i de senere år, og de har forbedret stemme- og billedgenkendelse, maskinoversættelse og mange andre ting markant.
Nu er disse teknikker klar til at rykke utallige andre industrier, herunder finansverdenen. Men fremskridt kan hindres af et betydeligt problem: det er ofte umuligt at forklare, hvordan disse dybe læringsalgoritmer når frem til en beslutning (se The Dark Secret at the Heart of AI).
Adam Wenchel, vicepræsident for maskinlæring og datainnovation hos Capital One, siger, at virksomheden gerne vil bruge deep learning til alle mulige funktioner, herunder at beslutte, hvem der får tildelt et kreditkort. Men det kan den ikke gøre, fordi loven pålægger virksomheder at forklare årsagen til en sådan beslutning til en potentiel kunde. I slutningen af sidste år oprettede Capital One et forskerhold, ledet af Wenchel, dedikeret til at finde måder at gøre disse computerteknikker mere forklarlige.
Vores forskning skal sikre, at vi kan fastholde den høje bar for forklaring, mens vi skubber ind i disse meget mere avancerede og i sagens natur mere uigennemsigtige modeller, siger han.
Dyb læring dukkede op i de sidste fem år som en kraftfuld måde at efterligne menneskelige perceptuelle evner. Tilgangen involverer træning af et meget stort neuralt netværk til at genkende mønstre i data. Den er løst inspireret af en teori om, hvordan neuroner og synapser letter læring. Selvom hver simuleret neuron blot er en matematisk funktion, gør kompleksiteten af disse indbyrdes forbundne funktioner, at ræsonnementet i et dybt netværk er ekstremt vanskeligt at udrede.
Nogle andre maskinlæringsteknikker, inklusive dem, der udkonkurrerer dyb læring i visse scenarier, er meget mere gennemsigtige. Men deep learning, som giver mulighed for sofistikerede analyser, der er nyttige for finansindustrien, kan være meget vanskelige at udspørge.
Nogle startups sigter mod at udnytte bekymringer over uigennemsigtigheden af eksisterende algoritmer ved at love at bruge mere gennemsigtige tilgange (se En AI-drevet kreditformel kan hjælpe dig med at få et lån).
Dette problem kan blive mere betydningsfuldt i løbet af de næste par år, efterhånden som deep learning bliver mere almindeligt anvendt, og efterhånden som regulatorer retter deres opmærksomhed mod algoritmisk ansvarlighed. Fra næste år kan EU i henhold til sin generelle databeskyttelsesforordning kræve, at enhver virksomhed skal kunne forklare en beslutning truffet af en af dens algoritmer.
Problemet har også fanget opmærksomheden hos Defence Advanced Research Projects Agency, som forsker for det amerikanske forsvarsministerium. Sidste år lancerede DARPA en indsats for at finansiere tilgange til at gøre maskinlæring mindre uigennemsigtig (se Det amerikanske militær vil have autonome maskiner til at forklare sig). De 13 projekter, der er udvalgt til finansiering, viser en række forskellige tilgange til at gøre algoritmer mere gennemsigtige.
Håbet er, at dyb læring kan bruges til at gå ud over blot at matche menneskelige perceptuelle evner. Et kreditkortselskab kan f.eks. føre kredithistorik og andre økonomiske data ind i et dybt netværk og træne det til at genkende folk, der muligvis misligholder deres kreditkortbetalinger.
Capital One ser også på deep learning som en måde til automatisk at opdage svigagtige afgifter mere pålideligt, siger Wenchel, selvom virksomheden er forsigtig med at stole på et sådant system, når dets begrundelse ikke kan undersøges. Vi opererer i en stærkt reguleret branche, siger han. Vi skal kunne forklare både internt og til folk, hvorfor vi træffer beslutninger. Og sørg for, at vi træffer beslutninger af de rigtige grunde.
Deep learning er et meget stort buzzword lige nu, og der er sket store fremskridt inden for computersyn og naturlig sprogbehandling, siger Trevor Darrell , en professor ved UC Berkeley, som leder et af de projekter, der er udvalgt til finansiering fra DARPA. Men [deep-learning-systemer] bliver kritiseret, fordi det nogle gange er svært at finde ud af, hvad der foregår indeni dem.
Til DARPA-projektet udvikler Darrells gruppe flere nye deep-learning-tilgange, herunder mere komplekse dybe netværk, der er i stand til at lære flere ting samtidigt. Der er også tilgange, der inkluderer en forklaring i træningsdataene: i tilfælde af billedtekstning, for eksempel, vil et billede, der er klassificeret som en kat, blive parret med en forklaring på, hvorfor det blev klassificeret som sådan. Den samme tilgang kunne bruges til at klassificere kreditkortgebyrer som svigagtige. Alle disse ting får os til mere fortolkelige dybe netværk, siger Darrell.