211service.com
Er Google et hjørne af markedet på dyb læring?
Hvor meget er et dusin dybdelærende forskere værd? Tilsyneladende mere end 400 millioner dollars.
I 'Plex : Google bruger hundredvis af millioner på at bygge software, der kan lære af de oplysninger, der er lagret i dets datacentre.
Denne uge, Google efter sigende betalt så meget At anskaffe DeepMind Technologies , en startup baseret i London, der havde en af de største koncentrationer af forskere nogen steder, der arbejdede med dyb læring, et relativt nyt felt inden for kunstig intelligensforskning, der har til formål at opnå opgaver som at genkende ansigter i video eller ord i menneskelig tale (se Deep Learning).
Opkøbet, der har til formål at tilføje dygtige eksperter frem for specifikke produkter, markerer en acceleration i bestræbelserne fra Google, Facebook og andre internetfirmaer på at monopolisere de største hjerner inden for kunstig intelligens-forskning.
I et interview i sidste måned, før DeepMind-opkøbet, Peter Norvig , en forskningsdirektør hos Google, vurderede, at hans virksomhed allerede beskæftigede mindre end 50 procent, men helt sikkert mere end 5 procent af verdens førende eksperter i maskinlæring, hvis bredere disciplin deep learning er forkant.
Virksomheder som Google forventer, at deep learning hjælper dem med at skabe nye typer produkter, der kan forstå og lære af billeder, tekst og video, der tilstopper internettet. Og i betydelig grad har førende akademiske forskere taget Silicon Valley til sig, hvor de kan kommandere teams af ingeniører i stedet for studerende og har adgang til de største og mest interessante datasæt. Det er en kombination af de computerressourcer, vi har, og de ansatte, vi kan tilbyde, sagde Norvig. Hos Google, hvis du vil have en kopi af internettet, så har vi bare tilfældigvis en siddende.
Yoshua Bengio , en AI-forsker ved University of Montreal, anslår, at der kun er omkring 50 eksperter på verdensplan i deep learning, hvoraf mange stadig er kandidatstuderende. Han anslåede, at DeepMind beskæftigede omkring et dusin af dem på sit personale på omkring 50. Jeg tror, det er hovedårsagen til, at Google købte DeepMind. Det har en af de største koncentrationer af deep learning-eksperter, siger Bengio.
Kæmper med Google om talent er virksomheder, herunder Amazon, Microsoft og også Facebook, som i september oprettede sin egen deep learning-gruppe (se Facebook lancerer avanceret AI-indsats for at finde mening i dine indlæg). Det rekrutterede måske verdens mest kendte deep learning-forsker, Yann LeCun fra New York University, for at køre det. Hans NYU kollega, Rob Fergus , tog også imod et job på det sociale netværk.
Krigsspil : Software fra DeepMind lærte på egen hånd, hvordan man spiller Space Invaders.
Efterhånden som avanceret maskinlæring går fra en primært videnskabelig udøvelse til en med høj industriel betydning, er Googles bænk nok dybeste. Navne det har lokket fra den akademiske verden til fuldtids- eller deltidsroller omfatter Sebastian Thrun (der har arbejdet på virksomhedens selvkørende bilprojekt); Fernando Pereira, en tidligere computerforsker ved University of Pennsylvania; Stanfords Andrew Ng; og Singularity University-chef Ray Kurzweil.
Sidste år fik Google også fat i den anerkendte University of Torontos dybdelæringsforsker Geoff Hinton og et par af hans studerende, da det købte Hintons virksomhed, DNNresearch. Hinton arbejder nu på deltid hos Google. Vi sagde til Geoff: 'Vi kan lide dine ting. Kunne du tænke dig at køre modeller, der er 100 gange større end nogen andres?’ Det var attraktivt for ham, sagde Norvig.
Ikke alle er glade for ankomsten af den velkendte Google Bus til et af akademiernes sjældne områder. I december, under et videnskabeligt møde i Lake Tahoe, gjorde Mark Zuckerberg, grundlægger og administrerende direktør for Facebook, en overraskende optræden ledsaget af uniformerede vagter, ifølge Alex Rubinsteyn, en bioinformatikforsker ved Mount Sinai Medical Center, som klagede i et blogindlæg at en kulturel grænse mellem den akademiske verden og Silicon Valley var blevet overskredet.
I den akademiske verden er status forskningsmæssig fortjeneste, det er det, du ved, siger Rubinsteyn. I Silicon Valley er det fordi du driver et firma eller er rig. Og så tænker folk omkring de mennesker også på at blive rige.
Peter Lee, leder af Microsoft Research, fortalte Bloomberg Businessweek at deep learning-eksperter var så efterspurgte, at de beordrede de samme typer syvcifrede lønninger som nogle førsteårs NFL-quarterbacks.
Nogle har modsat industriens opfordring. Af de tre dataloger, der anses for at være ophavsmændene til dyb læring - Hinton, LeCun og Bengio - er kun Bengio indtil videre blevet siddende i elfenbenstårnet. Jeg troede bare ikke, at det ville gøre mig gladere, hvis jeg tjener 10 gange mere, siger han. Som akademiker kan jeg vælge, hvad jeg vil arbejde med og overveje meget langsigtede mål. Plus, siger han, er industritilskud begyndt at flyde hans vej, efterhånden som virksomheder indser, at de snart vil løbe tør for rekrutter. I år planlægger han at øge antallet af kandidatstuderende, han uddanner, fra fire til 15.
DeepMind blev medstiftet for to år siden af Demis Hassibis, en 37-årig beskrevet af Tiderne af London som spildesigner, neurovidenskabsmand og engang skakvidunderbarn. DeepMind-forskerne var velkendte i det videnskabelige samfund, deltog i møder og udgav artikler på ret højt niveau inden for maskinlæring, selvom de endnu ikke havde udgivet et produkt, siger Bengio.
DeepMinds ekspertise er inden for et område kaldet forstærkningslæring, som involverer at få computere til at lære om verden selv fra meget begrænset feedback. Tænk, hvis jeg kun fortalte dig, hvilke karakterer du fik i en test, men ikke fortalte dig hvorfor, eller hvad svarene var, siger Bengio. Det er et svært problem at vide, hvordan du kan gøre det bedre.
Men i december udgav DeepMind et papir, der viser, at dets software kunne gøre det ved at lære at spille syv Atari2600-spil bruger som input kun den information, der er synlig på en videoskærm, såsom partituret. For tre af spillene, klassikerne Breakout, Enduro og Pong, endte computeren med at spille bedre end et ekspertmenneske. Det fungerede mindre godt på Q*bert og Space Invaders, spil hvor den bedste strategi er mindre indlysende.
Sådanne dygtige computerprogrammer kunne have vigtige kommercielle applikationer, herunder forbedring af søgemaskiner (se Hvordan en database over verdens viden former Googles fremtid), og kan være særligt nyttige til at hjælpe robotter med at lære at navigere i den menneskelige verden. Google købte sidste år adskillige førende robotvirksomheder, herunder producenterne af forskellige typer humanoide robotter (se Googles seneste robotopkøb er den smarteste endnu.)
Store virksomheder ville bestemt ikke bruge så meget på at monopolisere talent inden for kunstig intelligens, medmindre de troede på, at disse computerhjerner vil give dem en stærk kant. Det lyder måske som et filmplot, men måske er det endda på tide at spekulere på, hvad det første firma i besiddelse af en ægte AI ville gøre med den kraft, den gav.
Bengio siger ikke at bekymre sig om det. Industrien er interesseret i at anvende machine learning, og især deep learning, til de opgaver, som de ønsker at løse, siger han. Disse [bestræbelser] er på vej mod AI, men stadig langt fra.