Denne supercomputer vil forsøge at finde intelligens på Reddit

Er det muligt, at hemmeligheden bag opbygning af maskinintelligens ligger i at bruge endeløse timer på at læse Reddit?

Det er et spørgsmål, et team af forskere på OpenAI , en nonprofit støttet af flere Silicon Valley-armaturer, håber at svare med en ny slags supercomputer udviklet af chipproducenten Nvidia. Forskerne træner også robotter i at vaske op gennem eksperimenter, og de bygger algoritmer, der er i stand til at lære at spille en lang række forskellige computerspil.

Den nye maskine, kaldet en DGX-1, er optimeret til den form for maskinlæring kendt som deep learning, som involverer feeding af data til et stort netværk af groft simulerede neuroner og har resulteret i store fremskridt inden for kunstig intelligens i de senere år. DGX-1 vil lade AI-forskere træne deep-learning-systemer hurtigere ved at bruge flere data. Som en grov sammenligning tager beregninger, der ville tage 250 timer på en konventionel computer, omkring 10 timer på DGX-1.

Nvidias administrerende direktør, Jen-Hsun Huang, leverer den første DGX-1 til Elon Musks OpenAI.

Hos OpenAI kan det præstationsboost, der opnås med den nye hardware, ses mest umiddelbart i sprogforståelsen. OpenAI-forskerne fodrer beskedtråde fra det populære websted Reddit til algoritmer, der opbygger en sandsynlighedsforståelse af samtalen. Hvis den fodres med nok eksempler, vil den underliggende sprogmodel være god nok til selv at føre en samtale, håber forskerne. Og hardwaren vil gøre det muligt at føre mange flere tekststykker ind i modellen og at anvende mere computerkraft på problemet.

Andrej Karpathy , en forsker ved OpenAI, siger, at moderne maskinlæringsteknikker har tendens til at blive smartere, efterhånden som de bliver større. Deep learning er en meget speciel klasse af modeller, fordi efterhånden som du skalerer modellerne op, fungerer de altid bedre, siger Karpathy i en video udgivet af Nvidia i dag.

Sproget er fortsat et meget vanskeligt problem for kunstig intelligens, men i de senere år har forskere gjort fremskridt med at anvende deep learning til problemet (se AI's Language Problem). Forskere hos Google har f.eks. fodret filmdialog til et dybt læringssystem, der oprindeligt var designet til at udføre oversættelse og derefter viste at det kunne besvare nogle spørgsmål bemærkelsesværdigt godt.

OpenAIs forskere planlægger også at undersøge, om en robot kan lære at bruge sprog ved at interagere med mennesker og den virkelige verden. Denne forskning er dog på et tidligt stadie, og det vil være lettere at opskalere arbejdet med Reddit. Karpathy siger, at modellerne, der er trænet på Reddit-data, kan gå fra at forbruge måneders samtale til år takket være den nye hardware.

Nvidia, der laver grafikbehandlingsenheder til spil, har nydt godt af den dybe læringsboom, fordi dens hardware er velegnet til de parallelle beregninger, der kræves. I de senere år har virksomheden forsøgt at udnytte denne fordel, og DGX-1, der er udviklet til en pris på omkring 2 milliarder dollars, er i det væsentlige en bank af grafikchips optimeret til dyb læring. Chipsene kan behandle data meget hurtigt (ved et højdepunkt på omkring 170 teraflops, eller milliarder aritmetiske beregninger i sekundet) og kan lettere dele data.

Andrew Ng, chefforsker hos det kinesiske internetfirma Baidu, har set nærmere på DGX-1, som Baidu planlægger at bruge. De muligheder, det giver, vil give os mulighed for at prøve nye måder at skalere vores træningsproces på, siger Ng. Dette vil give os mulighed for at træne modeller på større datasæt, som vi har fundet fører til fremskridt inden for AI.

OpenAI er involveret i en række avanceret AI-forskning. Udover dyb læring er dets forskere fokuseret på at udvikle algoritmer, der er i stand til at lære gennem omfattende trial and error, et forskningsfelt kendt som forstærkningslæring.

OpenAI håber at bruge forstærkende læring til at bygge robotter, der er i stand til at udføre nyttige gøremål i hjemmet, selvom dette kan vise sig at være en tidskrævende udfordring (se This Is the Robot Maid Elon Musk Is Funding og The Robot You Want Most Is Far from Reality ).

Forskerne ved OpenAI udforsker også måder, hvorpå AI-algoritmer kan lære langt mere effektivt ved at generere deres egne modeller eller teorier om, hvad et datasæt betyder. En algoritme kan lære at spille en række computerspil, for eksempel ved at fastslå, at indsamling af mønter normalt hjælper med at presse scoren op.

Ilya Sutskever , forskningsdirektør hos OpenAI og en fremtrædende figur inden for AI, siger, at arbejde på dette område i sidste ende kan føre til bedre algoritmer, der kan lære mere effektivt. Når alle disse forbedringer er lavet, burde det være muligt at bygge agenter, der kan nå mere sofistikerede mål ved at bruge meget mindre erfaring, siger han.

OpenAI blev grundlagt i 2015 med 1 milliard dollars i finansiering fra VIP'er i teknologiindustrien, herunder Elon Musk, CEO for Tesla og SpaceX, og Sam Altman, formand for Y Combinator. Målet med nonprofitorganisationen er at lave åben AI-forskning og hjælpe med at sikre, at AI gavner menneskeheden.

Jen-Hsun Huang, administrerende direktør for Nvidia, siger, at beslutningen om at give den første DGX-1 til OpenAI afspejler en tro på OpenAIs mål. Nvidias strategi er at demokratisere AI, sagde Huang i et interview. Vi ser gerne, at denne teknologi, lige så kraftfuld som den er, bevæger sig i en retning, der er god for samfundet.

skjule