En af AI's fædre er bekymret for fremtiden

Foto af Yoshua Bengio Polyteknisk Skole | Flickr

Yoshua Bengio er en stormester i moderne kunstig intelligens.

Langs med Geoff Hinton og Yann LeCun , Bengio er berømt for at forsvare en teknik kendt som deep learning, der i de senere år er gået fra en akademisk nysgerrighed til en af ​​de mest kraftfulde teknologier på planeten.

Dyb læring involverer at føre data til store neurale netværk, der groft simulerer den menneskelige hjerne, og det har vist sig utrolig kraftfuldt og effektivt til alle mulige praktiske opgaver, fra stemmegenkendelse og billedklassificering til styring af selvkørende biler og automatisering af forretningsbeslutninger.

Bengio har modstået lokket fra enhver stor teknologivirksomhed. Mens Hinton og LeCun sluttede sig til henholdsvis Google og Facebook, forbliver han fuldtidsprofessor ved University of Montreal. (Han var dog med til at grundlægge Element AI i 2016, og det har bygget en meget succesfuld forretning, der hjælper store virksomheder med at udforske de kommercielle anvendelser af AI-forskning.)

Bengio mødtes med MIT Technology Reviews seniorredaktør for AI, Will Knight, ved en MIT-begivenhed for nylig.

Hvad synes du om tanken om, at der er et AI-kapløb mellem forskellige lande?

Jeg kan ikke lide det. Jeg synes ikke, det er den rigtige måde at gøre det på.

Vi kunne deltage kollektivt i et løb, men som videnskabsmand og en, der ønsker at tænke på det fælles bedste, tror jeg, vi er bedre stillet til at tænke på, hvordan man både bygger smartere maskiner og sikrer, at AI bliver brugt til velvære for så mange mennesker som muligt.

Er der måder at fremme mere samarbejde mellem landene?

Vi kunne gøre det lettere for mennesker fra udviklingslande at komme hertil. Det er et stort problem lige nu. I Europa eller USA eller Canada er det meget svært for en afrikansk forsker at få visum. Det er et lotteri, og meget ofte vil de bruge enhver undskyldning for at nægte adgang. Dette er fuldstændig uretfærdigt. Det er allerede svært for dem at forske med få ressourcer, men derudover, hvis de ikke kan få adgang til fællesskabet, synes jeg, det er virkelig uretfærdigt. Som en måde at imødegå noget af det på, vil vi have ICLR-konferencen [en stor AI-konference] i 2020 i Afrika.

Inklusivitet skal være mere end et ord, vi siger for at se godt ud. Potentialet for AI til at være nyttigt i udviklingslandene er endnu større. De skal forbedre teknologien endnu mere, end vi gør, og de har andre behov.

Er du bekymret for blot nogle få AI-virksomheder, i Vesten og måske Kina, der dominerer AI-området?

Ja, det er endnu en grund til, at vi skal have mere demokrati i AI-forskning. Det er, at AI-forskning i sig selv vil have en tendens til at føre til koncentrationer af magt, penge og forskere. De bedste studerende vil gerne til de bedste virksomheder. De har meget flere penge, de har meget mere data. Og det er ikke sundt. Selv i et demokrati er det farligt at have for meget magt koncentreret på få hænder.

Der har været megen kontrovers om militær anvendelse af kunstig intelligens. Hvor står du til det?

Jeg står meget fast imod.

Selv ikke-dødelig brug af kunstig intelligens?

Nå, det vil jeg ikke forhindre. Jeg tror, ​​vi skal gøre det umoralsk at have dræberrobotter. Vi skal ændre kulturen, og det inkluderer ændring af love og traktater. Det kan gå langt.

Selvfølgelig vil du aldrig helt forhindre det, og folk siger: Et eller andet slyngelland vil udvikle disse ting. Mit svar er, at en, vi ønsker at få dem til at føle sig skyldige for at gøre det, og to, der er intet, der forhindrer os i at bygge defensiv teknologi. Der er en stor forskel mellem defensive våben, der vil dræbe droner, og offensive våben, der er rettet mod mennesker. Begge kan bruge AI.

Bør AI-eksperter ikke arbejde sammen med militæret for at sikre, at dette sker?

Hvis de havde de rigtige moralske værdier, fint. Men jeg stoler ikke helt på militære organisationer, fordi de har en tendens til at sætte pligt før moral. Jeg ville ønske, det var anderledes.

Hvad er du mest begejstret for med hensyn til ny AI-forskning?

Jeg tror, ​​vi skal overveje de hårde udfordringer ved AI og ikke være tilfredse med kortsigtede, trinvise fremskridt. Jeg siger ikke, at jeg vil glemme dyb læring. Tværtimod vil jeg bygge videre på det. Men vi skal være i stand til at udvide det til at gøre ting som at ræsonnere, lære kausalitet og udforske verden for at lære og erhverve information.

Hvis vi virkelig ønsker at nærme os AI på menneskeligt niveau, er det et andet boldspil. Vi har brug for langsigtede investeringer, og jeg tror, ​​at den akademiske verden er det bedste sted at bære den fakkel.

Du nævner kausalitet - med andre ord at forstå ikke kun mønstre i data, men hvorfor Noget sker. Hvorfor er det vigtigt, og hvorfor er det så svært?

Hvis du har en god kausal model af den verden, du har med at gøre, kan du generalisere selv i ukendte situationer. Det er afgørende. Vi mennesker er i stand til at projicere os selv ind i situationer, der er meget forskellige fra vores daglige oplevelse. Det er maskiner ikke, fordi de ikke har disse kausale modeller.

Vi kan håndlave dem, men det er ikke nok. Vi har brug for maskiner, der kan opdage årsagsmodeller. Til en vis grad bliver det aldrig perfekt. Vi har ikke en perfekt kausal model af virkeligheden; det er derfor, vi laver mange fejl. Men vi er meget bedre stillet til at gøre dette end andre dyr.

Lige nu har vi ikke rigtig gode algoritmer til dette, men jeg tror, ​​at hvis nok mennesker arbejder på det og anser det for vigtigt, vil vi gøre fremskridt.

skjule