211service.com
Nvidia giver dig mulighed for at kigge ind i den sorte boks af dens selvkørende AI
Nvidia har udviklede sig en selvkørende AI, der viser dig, hvordan den fungerer.
Som vi forklarede i vores seneste forsidehistorie, The Dark Secret at the Heart of AI, resulterer nogle af de mest kraftfulde maskinlæringsteknikker, der er tilgængelige, i software, der er næsten fuldstændig uigennemsigtig, selv for ingeniørerne, der bygger den. Tilgange, der giver nogle fingerpeg om, hvordan en AI fungerer, vil derfor være enormt vigtige for at opbygge tillid til en teknologi, der ser ud til at revolutionere alt fra medicin til fremstilling.
Nvidia leverer chips, der er ideelle til deep learning, en særlig kraftfuld maskinlæringsteknik (se 10 Breakthrough Technologies 2013: Deep Learning).
Nvidias neurale netværkssoftware fremhæver de områder, den fokuserer på, mens den træffer drivende beslutninger.
Chipproducenten har også været i gang med at udvikle systemer der viser, hvordan en bilproducent kan anvende deep learning til autonom kørsel. Dette inkluderer en bil, der styres udelukkende af en deep-learning-algoritme. Utroligt nok er køretøjets computer ikke givet nogen regler at følge - den matcher simpelthen input fra flere videokameraer til en menneskelig førers adfærd og finder ud af selv, hvordan den skal køre. Den eneste fangst er, at systemet er så komplekst, at det er svært at udrede, hvordan det rent faktisk fungerer.
Men Nvidia arbejder på at åbne denne sorte boks. Det har udviklet en måde at visuelt fremhæve, hvad systemet er opmærksom på. Som forklaret i en nylig offentliggjort papir , er den neurale netværksarkitektur udviklet af Nvidias forskere designet, så den kan fremhæve de områder af et videobillede, der bidrager stærkest til opførselen af bilens dybe neurale netværk. Bemærkelsesværdigt viser resultaterne, at netværket fokuserer på kanterne af veje, vognbanemarkeringer og parkerede biler - lige den slags ting, som en god menneskelig chauffør gerne vil være opmærksom på.
Det, der er revolutionerende ved dette, er, at vi aldrig direkte fortalte netværket at bekymre sig om disse ting, skrev Urs Muller, Nvidias chefarkitekt for selvkørende biler, i en blogindlæg .
Det er ikke en fuldstændig forklaring på, hvordan det neurale netværk begrunder, men det er en god start. Som Muller siger: Jeg kan ikke forklare alt, hvad jeg har brug for, at bilen skal gøre, men jeg kan vise den, og nu kan den vise mig, hvad den har lært.
Denne form for tilgang kan blive stadig vigtigere, efterhånden som deep learning anvendes på stort set ethvert problem, der involverer store mængder data, herunder kritiske områder som medicin, finans og militær efterretning.
En håndfuld akademiske forskere undersøger også spørgsmålet. For eksempel, Jeff Clune ved University of Wyoming og Charles Guestrin ved University of Washington (og Apple) har fundet måder at fremhæve de dele af billeder, som klassifikationssystemer opfanger. Og Tommi Jaakola og Regina Barzilay på MIT er ved at udvikle måder, hvorpå man kan levere tekstuddrag, der hjælper med at forklare en konklusion draget ud fra store mængder skriftlige data.
Defense Advanced Projects Research Agency (DARPA), som laver langsigtet forskning for det amerikanske militær, finansierer flere lignende forskningsindsatser gennem et program, det kalder Forklarlig kunstig intelligens (XAI) .
Ud over de tekniske detaljer er det dog fascinerende at overveje, hvordan dette kan sammenlignes med menneskelig intelligens. Vi gør alle mulige ting, vi ikke kan forklare fuldt ud, og de forklaringer, vi opdigter, er ofte kun tilnærmelser eller historier om, hvad der foregår. I betragtning af uigennemsigtigheden af nutidens stadig mere komplekse maskinlæringsmetoder, kan vi en dag også blive tvunget til at acceptere sådanne forklaringer fra AI.
(Kilder: Nvidia , Den mørke hemmelighed i hjertet af AI, det amerikanske militær ønsker, at dets autonome maskiner forklarer sig selv)