Denne chip blev demonstreret på Jeff Bezos' hemmelighedsfulde teknologikonference. Det kan være nøglen til fremtiden for AI.

Fotografier af Tony Luong

For nylig, på en blændende morgen i Palm Springs, Californien, Vivienne Sze tog til en lille scene for at levere den måske mest nervepirrende præsentation af hendes karriere.

Hun kendte emnet ud og ind. Hun skulle fortælle publikum om de chips, der udvikles i hendes laboratorium på MIT, og som lover at bringe kraftfuld kunstig intelligens til en lang række enheder, hvor strømmen er begrænset, uden for rækkevidde af de enorme datacentre, hvor de fleste AI-beregninger finder sted. Begivenheden - og publikum - gav imidlertid Sze pause.

Tony Luong

Rammerne var MARS, en elitekonference, kun for inviterede, hvor robotter slentrer (eller flyver) gennem et luksusresort og blander sig med berømte videnskabsmænd og sci-fi-forfattere. Kun få forskere inviteres til at holde tekniske foredrag, og sessionerne skal være både ærefrygtindgydende og oplysende. Publikum bestod i mellemtiden af ​​omkring 100 af verdens vigtigste forskere, administrerende direktører og iværksættere. MARS er vært hos ingen ringere end Amazons grundlægger og formand, Jeff Bezos, som sad på forreste række.

Det var, tror jeg, man ville sige, et temmelig højkaliber publikum, husker Sze med et grin.

Andre MARS-højttalere ville introducere en karate-hakkerobot, droner, der flagrer som store, uhyggeligt tavse insekter, og endda optimistiske tegninger for Mars-kolonier. Szes chips kan virke mere beskedne; med det blotte øje kan de ikke skelnes fra de chips, du finder inde i enhver elektronisk enhed. Men de er uden tvivl meget vigtigere end noget andet, der vises til arrangementet.

Nye muligheder

Nydesignede chips, som dem, der udvikles i Szes laboratorium, kan være afgørende for fremtidige fremskridt inden for kunstig intelligens – inklusive ting som dronerne og robotterne fundet på MARS. Indtil nu har AI-software stort set kørt på grafiske chips, men ny hardware kunne gøre AI-algoritmer mere kraftfulde, hvilket ville låse op for nye applikationer. Nye AI-chips kan gøre lagerrobotter mere almindelige eller lade smartphones skabe fotorealistiske augmented-reality-scenerier.

Szes chips er både ekstremt effektive og fleksible i deres design, noget der er afgørende for et felt, der udvikler sig utrolig hurtigt.

Mikrochipsene er designet til at presse mere ud af de dybdelærende AI-algoritmer, der allerede har vendt op og ned på verden. Og i processen kan de inspirere disse algoritmer til selv at udvikle sig. Vi har brug for ny hardware, fordi Moores lov er blevet langsommere, siger Sze med henvisning til det aksiom, som blev opfundet af Intels medstifter Gordon Moore, der forudsagde, at antallet af transistorer på en chip vil fordobles omtrent hver 18. måned - hvilket fører til et tilsvarende løft af ydeevnen i computerkraft. .

Tony Luong

Denne lov løber nu i stigende grad ind i de fysiske grænser, der følger med tekniske komponenter på atomær skala. Og det ansporer ny interesse for alternative arkitekturer og tilgange til databehandling.

De høje indsatser, der er knyttet til at investere i næste generations AI-chips – og fastholde Amerikas dominans i chipfremstilling generelt – går ikke tabt for den amerikanske regering. Szes mikrochips udvikles med finansiering fra et Defense Advanced Research Projects Agency (DARPA)-program, der er beregnet til at hjælpe med at udvikle nye AI-chipdesigns (se De udestående AI-ideer designet til at holde USA foran Kina).

Men innovation inden for chipfremstilling er for det meste blevet ansporet af fremkomsten af ​​deep learning, en meget kraftfuld måde for maskiner at lære at udføre nyttige opgaver. I stedet for at give en computer et sæt regler at følge, programmerer en maskine sig selv. Træningsdata føres ind i et stort, simuleret kunstigt neuralt netværk, som derefter justeres, så det giver det ønskede resultat. Med tilstrækkelig træning kan et dybt læringssystem finde subtile og abstrakte mønstre i data. Teknikken anvendes til et stadigt voksende udvalg af praktiske opgaver, fra ansigtsgenkendelse på smartphones til forudsigelse af sygdom ud fra medicinske billeder.

Det nye chiprace

Dyb læring er ikke så afhængig af Moores lov. Neurale net kører mange matematiske beregninger parallelt, så de kører langt mere effektivt på de specialiserede videospils grafikchips, der udfører parallelle beregninger til gengivelse af 3D-billeder. Men mikrochips designet specifikt til de beregninger, der understøtter dyb læring, burde være endnu mere kraftfulde.

Potentialet for nye chiparkitekturer til at forbedre AI har sat gang i et niveau af iværksætteraktivitet, som chipindustrien ikke har set i årtier (se The Race to Power AI's Silicon Brains og Kina har aldrig haft en rigtig chipindustri. At lave AI-chips kunne ændre det).

Tony Luong

Store teknologivirksomheder, der håber på at udnytte og kommercialisere AI – inklusive Google, Microsoft og (ja) Amazon – arbejder alle på deres egne deep-learning-chips. Mange mindre virksomheder udvikler også nye chips. Det er umuligt at holde styr på alle virksomheder, der hopper ind i AI-chip-området, siger Mike Delmer, en mikrochipanalytiker ved Linley Group , et analytikerfirma. Jeg spøger ikke med, at vi lærer om en ny næsten hver uge.

Den reelle mulighed, siger Sze, er ikke at bygge de mest kraftfulde deep-learning chips muligt. Strømeffektivitet er vigtig, fordi AI også skal køre uden for rækkevidde af store datacentre, hvilket betyder, at man kun er afhængig af den strøm, der er tilgængelig på selve enheden, for at køre. Dette er kendt som at operere på kanten.

AI vil være overalt - og det vil være ekstremt vigtigt at finde ud af måder at gøre tingene mere energieffektive på, siger Naveen Rao, vicepræsident for kunstig intelligens-produktgruppen hos Intel.

For eksempel er Szes hardware mere effektiv, dels fordi den fysisk reducerer flaskehalsen mellem hvor data gemmes, og hvor de analyseres, men også fordi den bruger smarte skemaer til at genbruge data. Før han kom til MIT, var Sze banebrydende for denne tilgang til at forbedre effektiviteten af ​​videokomprimering, mens han var hos Texas Instruments.

For et felt i hurtig bevægelse som deep learning er udfordringen for dem, der arbejder på AI-chips, at sikre, at de er fleksible nok til at blive tilpasset til at fungere til enhver applikation. Det er nemt at designe en supereffektiv chip, der kun kan gøre én ting, men sådan et produkt vil hurtigt blive forældet.

Szes chip hedder Eyeriss. Udviklet i samarbejde med joel emer , en forsker ved Nvidia og professor ved MIT, blev den testet sammen med en række standardprocessorer for at se, hvordan den håndterer en række forskellige dyb-læringsalgoritmer. Ved at balancere effektivitet med fleksibilitet opnår den nye chip ydeevne 10 eller endda 1.000 gange mere effektiv, end eksisterende hardware gør ifølge et papir lagt online sidste år.

MIT's Sertac Karaman og Vivienne Sze udviklede den nye chip Tony Luong

Enklere AI-chips har allerede en stor indflydelse. Avancerede smartphones inkluderer allerede chips, der er optimeret til at køre deep-learning-algoritmer til billed- og stemmegenkendelse. Mere effektive chips kunne lade disse enheder køre mere kraftfuld AI-kode med bedre muligheder. Selvkørende biler har også brug for kraftige AI-computerchips, da de fleste prototyper i øjeblikket er afhængige af en bagagerumsbelastning af computere.

Rao siger, at MIT-chippene er lovende, men mange faktorer vil afgøre, om en ny hardwarearkitektur lykkes. En af de vigtigste faktorer, siger han, er at udvikle software, der lader programmører køre kode på det. At gøre noget brugbart fra et compiler-synspunkt er nok den største enkeltstående hindring for adoption, siger han.

Szes laboratorium udforsker faktisk også måder at designe software på, så det bedre udnytter egenskaberne ved eksisterende computerchips. Og dette arbejde strækker sig ud over blot dyb læring.

Sammen med Sertac Karaman , fra MIT's Department of Aeronautics and Astronautics, udviklede Sze en laveffekt-chip kaldet Navion, der udfører 3-D kortlægning og navigation utroligt effektivt, til brug på en lille drone. Afgørende for denne indsats var at fremstille chippen til at udnytte adfærden af ​​navigationsfokuserede algoritmer – og designe algoritmen til at få mest muligt ud af en tilpasset chip. Sammen med arbejdet med deep learning afspejler Navion den måde, AI-software og -hardware nu begynder at udvikle sig i symbiose.

Szes chips er måske ikke lige så opsigtsvækkende som en blafrende drone, men det faktum, at de blev fremvist på MARS, giver en fornemmelse af, hvor vigtig hendes teknologi – og innovation i silicium mere generelt – vil være for fremtiden for kunstig intelligens. Efter hendes oplæg , siger Sze, nogle af de andre MARS-talere udtrykte interesse for at finde ud af mere. Folk fandt en masse vigtige use cases, siger hun.

Forvent med andre ord, at de iøjnefaldende robotter og droner på den næste MARS-konference kommer med noget ganske særligt gemt indeni.

skjule