211service.com
Apples AI-direktør: Sådan supercharger Deep Learning
Apples direktør for kunstig intelligens, Ruslan Salakhutdinov, mener, at de dybe neurale netværk, der har produceret spektakulære resultater i de seneste år, kan blive overladet i de kommende år ved at tilføje hukommelse, opmærksomhed og generel viden.
Taler kl MIT Technology Review På EmTech Digital-konferencen i San Francisco tirsdag sagde Salakhutdinov, at disse egenskaber kunne hjælpe med at løse nogle af de udestående problemer inden for kunstig intelligens.
Salakhutdinov, der beholder en post som en lektor ved Carnegie Mellon University i Pittsburgh, pegede i sin tale på begrænsninger med dybt indlæringsdrevet maskinsyn og naturlig sprogforståelse.
Dyb læring - en teknik, der involverer brug af et stort antal groft simulerede neuroner arrangeret i mange indbyrdes forbundne lag - har produceret dramatiske fremskridt i maskinopfattelse i de senere år, men der er mange måder, hvorpå disse netværk er begrænsede.
Salakhutdinov viste for eksempel, hvordan billedtekstsystemer baseret på teknologien kan mærke billeder forkert, fordi de har en tendens til at fokusere på alt i billedet. Derefter pegede han på en løsning i form af såkaldte opmærksomhedsmekanismer, en tweak til dyb læring, som er blevet udviklet i de sidste par år. Tilgangen kan afhjælpe disse fejl ved at have systemfokus på bestemte dele af et billede, når man anvender forskellige ord i en billedtekst. Den samme tilgang kan også hjælpe med at forbedre forståelsen af det naturlige sprog ved at gøre det muligt for en maskine at fokusere på den relevante del af en sætning for at udlede dens betydning.
En teknik kaldet hukommelsesnetværk , udviklet af forskere på Facebook, kan forbedre, hvordan maskiner taler med mennesker. Som navnet antyder, tilføjer tilgangen en komponent af langtidshukommelse til neurale netværk, så de husker historien om en chat.
Hukommelsesnetværk har også vist sig at forbedre en anden form for kunstig intelligens, kendt som forstærkningsindlæring. For eksempel viste to forskere ved CMU for nylig, hvordan dette kunne skabe en smartere spil-algoritme . Forskere hos DeepMind, et AI-fokuseret datterselskab af Alphabet, har også demonstreret måder for deep learning-systemer at bygge og få adgang til en form for hukommelse.
Forstærkningslæring dukker hurtigt op som en værdifuld måde at løse vanskelige programmerbare problemer inden for robotteknologi og automatiseret kørsel. Det var en af MIT Technology Review 10 banebrydende teknologier i 2017.
Et andet spændende område for fremtidig forskning, sagde Salakhutdinov, ville være at finde måder at kombinere håndbyggede kilder til viden med dyb læring. Han pegede på generelle vidensdatabaser som Freebase og ordbetydende arkiver som WordNet .
Ligesom mennesker er stærkt afhængige af generel viden, når de analyserer sprog eller fortolker en visuel scene, kan dette hjælpe med at gøre AI-systemer smartere, sagde Salakhutdinov. Hvordan kan vi inkorporere al den forudgående viden i dyb læring? sagde han under sin tale. Det er en stor udfordring.
Salakhutdinov talte under en session, der samlede forskere fra flere forskellige AI-skoler. Et fælles tema blandt talerne var behovet for forskellige tilgange for at tage AI til næste niveau.
Under sessionen Peter søndage , en professor ved University of Washington, der studerer forskellige maskinlæringsmetoder, sagde, at der også er behov for at blive ved med at søge efter helt nye tilgange til kunstig intelligens. Der er en tankegang inden for maskinlæring, at vi ikke har brug for fancy nye algoritmer, vi har bare brug for flere data, sagde han. Jeg tror, der er virkelig dybe, grundlæggende ideer, der skal opdages, før vi virkelig kan løse AI.