211service.com
Det amerikanske militær ønsker at lære AI noget grundlæggende sund fornuft
HAMMER: DAVID; TELEFON: ANDRIWIDODO; BANAN: BEN DAVIS | Navneordsprojektet
Uanset hvor kunstig intelligens er indsat, vil du opdage, at den er fejlet på en underholdende måde. Tag den mærkelige fejl lavet af oversættelsesalgoritmer, der forveksler at have nogen til middag med, ja, have nogen til middag.
Men da kunstig intelligens bruges i stadig mere kritiske situationer, såsom at køre selvkørende biler, stille medicinske diagnoser eller drage konklusioner på liv eller død ud fra efterretningsoplysninger, vil disse fejl ikke længere være til grin. Derfor DARPA , det amerikanske militærs forskningsarm, adresserer AI's mest grundlæggende fejl: den har ingen sund fornuft.
Sund fornuft er det mørke spørgsmål om kunstig intelligens, siger Oren Etzioni, administrerende direktør for the Allen Institute for AI , en forsknings-nonprofit med base i Seattle, der udforsker teknologiens grænser. Det er en lille smule ubeskriveligt, men du kan se dets virkninger på alt.
DARPAs nye Machine Common Sense (MCS) program vil køre en konkurrence, der beder AI-algoritmer om at give mening i spørgsmål som dette:
En elev sætter to ens planter i samme type og mængde jord. Hun giver dem den samme mængde vand. Hun sætter en af disse planter nær et vindue og den anden i et mørkt rum. Anlægget nær vinduet vil producere mere (A) ilt (B) kuldioxid (C) vand.
Et computerprogram har brug for en vis forståelse af, hvordan fotosyntese fungerer, for at kunne løse spørgsmålet. Blot at fodre en maskine med masser af tidligere spørgsmål vil ikke løse problemet pålideligt.
Disse benchmarks vil fokusere på sproget, fordi det så let kan slå maskiner i stykker, og fordi det gør test relativt ligetil. Etzioni siger, at spørgsmålene tilbyder en måde at måle fremskridt hen imod sund fornuft, hvilket vil være afgørende.
Teknikvirksomheder har travlt med at kommercialisere maskinlæringsteknikker, der er kraftfulde, men fundamentalt begrænsede. Deep learning, for eksempel, gør det muligt at genkende ord i tale eller objekter i billeder, ofte med en utrolig nøjagtighed. Men tilgangen er typisk afhængig af at føre store mængder mærkede data - et råt lydsignal eller pixels i et billede - ind i et stort neuralt netværk. Systemet kan lære at udvælge vigtige mønstre, men det kan nemt lave fejl, fordi det ikke har noget begreb om den bredere verden.
I modsætning hertil udvikler menneskelige babyer hurtigt en intuitiv forståelse af verden, der tjener som grundlag for deres intelligens.
Det er dog langt fra indlysende, hvordan man løser problemet med sund fornuft. Tidligere forsøg på at hjælpe maskiner med at forstå verden har fokuseret på at bygge store videndatabaser i hånden. Dette er en uhåndterlig og i det væsentlige uendelig opgave. Den mest berømte sådan indsats er Cyc , et projekt der har været undervejs i årtier.
Problemet kan vise sig at være enormt vigtigt. Mangel på sund fornuft er trods alt katastrofal i visse kritiske situationer, og det kan i sidste ende holde kunstig intelligens tilbage. DARPA har en historie med at investere i grundlæggende AI-forskning. Tidligere projekter hjalp med at skabe nutidens selvkørende biler såvel som den mest berømte stemmestyrede personlige assistent, Siri.
Fraværet af sund fornuft forhindrer et intelligent system i at forstå sin verden, kommunikere naturligt med mennesker, opføre sig rimeligt i uforudsete situationer og lære af nye erfaringer, sagde Dave Gunning, en programleder hos DARPA, i en erklæring udsendt i morges. Dette fravær er måske den væsentligste barriere mellem de snævert fokuserede AI-applikationer, vi har i dag, og de mere generelle AI-applikationer, vi gerne vil skabe i fremtiden.