Tænker i silicium

Forestil dig en person, der læser disse ord på en bærbar computer i en kaffebar. Maskinen lavet af metal, plastik og silicium bruger omkring 50 watt strøm, da den oversætter informationsbidder - en lang række af en s og 0 s – ind i et mønster af prikker på en skærm. I mellemtiden, inde i personens kranie, bruger en klæbrig klump af proteiner, salt og vand en brøkdel af den kraft, ikke kun til at genkende disse mønstre som bogstaver, ord og sætninger, men til at genkende sangen, der afspilles i radioen.

Denne computerchip, lavet af IBM i 2011, har komponenter, der fungerer som 256 neuroner og 262.144 synapser.

Computere er utroligt ineffektive til mange opgaver, der er nemme for selv de mest simple hjerner, såsom at genkende billeder og navigere i ukendte rum. Maskiner fundet i forskningslaboratorier eller store datacentre kan udføre sådanne opgaver, men de er enorme og energikrævende, og de har brug for specialiseret programmering. Google skabte for nylig overskrifter med software, der pålideligt kan genkende katte og menneskeansigter i videoklip, men denne præstation krævede ikke færre end 16.000 kraftfulde processorer.

Denne historie var en del af vores januar 2014-udgave

• Se resten af ​​problemet
• Abonner

En ny race af computerchips, der fungerer mere som hjernen, kan være ved at indsnævre kløften mellem kunstig og naturlig beregning - mellem kredsløb, der knastrer gennem logiske operationer med blærehastighed og en mekanisme, der er finpudset af evolutionen til at behandle og handle på sensoriske input fra virkelige verden. Fremskridt inden for neurovidenskab og chipteknologi har gjort det praktisk at bygge enheder, der i det mindste i lille skala behandler data, som en pattedyrs hjerne gør. Disse neuromorfe chips kan være den manglende brik i mange lovende, men ufærdige projekter inden for kunstig intelligens, såsom biler, der kører sig selv pålideligt under alle forhold, og smartphones, der fungerer som kompetente samtaleassistenter.

Moderne computere er arvet fra lommeregnere, gode til at knuse tal, siger Dharmendra Modha, seniorforsker ved IBM Research i Almaden, Californien. Hjerner udviklede sig i den virkelige verden. Modha leder en af ​​to grupper, der har bygget computerchips med en grundlæggende arkitektur kopieret fra pattedyrs hjerne under et 100 millioner dollars projekt kaldet Synapse , finansieret af Pentagon's Defense Advanced Research Projects Agency.

Prototyperne har allerede vist tidlige gnister af intelligens, behandler billeder meget effektivt og får nye færdigheder på en måde, der ligner biologisk læring. IBM har skabt værktøjer til at lade softwareingeniører programmere disse hjerne-inspirerede chips; den anden prototype, på HRL Laboratories i Malibu, Californien, vil snart blive installeret i et lille robotfly, hvorfra det vil lære at genkende sine omgivelser.

Udviklingen af ​​hjerne-inspirerede chips begyndte i begyndelsen af ​​1980'erne med Carver Mead, en professor ved California Institute of Technology og en af ​​fædre til moderne databehandling. Mead havde skabt sit navn ved at hjælpe med at udvikle en måde at designe computerchips på kaldet meget storskala integration eller VLSI, som gjorde det muligt for producenterne at skabe meget mere komplekse mikroprocessorer. Dette udløste eksplosiv vækst i regnekraft: computere så ud til at blive mainstream, endda allestedsnærværende. Men industrien så ud til at være glad for at bygge dem omkring én plan, der stammer fra 1945. von Neumann-arkitekturen, opkaldt efter den ungarskfødte matematiker John von Neumann, er designet til at udføre lineære sekvenser af instruktioner. Alle nutidens computere, fra smartphones til supercomputere, har kun to hovedkomponenter: en central processorenhed eller CPU, til at manipulere data og en blok af random access memory, eller RAM, til at gemme dataene og instruktionerne om, hvordan man manipulerer dem . CPU'en begynder med at hente sin første instruktion fra hukommelsen, efterfulgt af de nødvendige data for at udføre den; efter at instruktionen er udført, sendes resultatet tilbage til hukommelsen, og cyklussen gentages. Selv multicore-chips, der håndterer data parallelt, er begrænset til nogle få samtidige lineære processer.

Den tilgang udviklede sig naturligt fra teoretisk matematik og logik, hvor problemer løses med lineære ræsonnementskæder. Alligevel var det uegnet til behandling og læring fra store mængder data, især sensoriske input såsom billeder eller lyd. Det kom også med indbyggede begrænsninger: for at gøre computere mere kraftfulde havde industrien til opgave at bygge stadig mere komplekse chips, der kunne udføre sekventielle operationer hurtigere og hurtigere, men det satte ingeniører på kurs mod store effektivitets- og køleproblemer, fordi hurtigere spåner producerer mere spildvarme. Mead, nu 79 og professor emeritus, fornemmede allerede dengang, at der kunne være en bedre måde. Jo mere jeg tænkte over det, jo mere føltes det akavet, siger han, mens han sidder på det kontor, han beholder hos Caltech. Han begyndte at drømme om chips, der behandlede mange instruktioner - måske millioner - parallelt. En sådan chip kunne udføre nye opgaver og effektivt håndtere store mængder ustruktureret information såsom video eller lyd. Det kunne være mere kompakt og bruge strøm mere effektivt, selvom det var mere specialiseret til bestemte slags opgaver. Bevis på, at dette var muligt, kunne findes flyvning, slyngende og gå rundt. De eneste eksempler, vi havde på en massivt parallel ting, var i dyrenes hjerner, siger Mead.

Hjerner beregner parallelt, da de elektrisk aktive celler inde i dem, kaldet neuroner, fungerer samtidigt og uophørligt. Bundet ind i indviklede netværk af trådlignende vedhæng påvirker neuroner hinandens elektriske impulser via forbindelser kaldet synapser. Når information flyder gennem en hjerne, behandler den data som en sammensmeltning af spidser, der spredes gennem dens neuroner og synapser. Du genkender ordene i dette afsnit, for eksempel takket være et bestemt mønster af elektrisk aktivitet i din hjerne, udløst af input fra dine øjne. Det afgørende er, at neural hardware også er fleksibel: nyt input kan få synapser til at justere for at give nogle neuroner mere eller mindre indflydelse på andre, en proces, der understøtter læring. I computertermer er det et massivt parallelt system, der kan omprogrammere sig selv.

Ironisk nok, selvom han inspirerede de konventionelle designs, der eksisterer i dag, havde von Neumann også fornemmet potentialet i hjerne-inspireret computing. I den ufærdige bog Computeren og hjernen , udgivet et år efter hans død i 1957, undrede han sig over hjernens størrelse, effektivitet og kraft sammenlignet med computere. Dybere matematiske studier af nervesystemet … kan ændre den måde, vi ser på matematik og logik, hævdede han. Da Mead kom til den samme erkendelse mere end to årtier senere, fandt han ud af, at ingen havde prøvet at lave en computer inspireret af hjernen. Ingen tænkte på det tidspunkt, ’Hvordan bygger jeg en?’ siger Mead. Vi havde ingen anelse om, hvordan det fungerede.

Mead byggede endelig sine første neuromorfe chips, som han døbte sine hjerne-inspirerede enheder, i midten af ​​1980'erne, efter at have samarbejdet med neurovidenskabsmænd for at studere, hvordan neuroner behandler data. Ved at betjene almindelige transistorer ved usædvanlig lave spændinger kunne han arrangere dem i feedback-netværk, der så meget anderledes ud end samlinger af neuroner, men fungerede på en lignende måde. Han brugte det trick til at efterligne databehandlingskredsløbene i nethinden og cochlea og byggede chips, der udførte tricks som at opdage kanterne af objekter og funktioner i et lydsignal. Men chipsene var svære at arbejde med, og indsatsen var begrænset af chipsfremstillingsteknologi. Med neuromorfisk databehandling stadig kun en kuriosum, gik Mead videre til andre projekter. Det var sværere, end jeg troede at gå ind, reflekterer han. En flues hjerne ser ikke så kompliceret ud, men den gør ting, som vi den dag i dag ikke kan. Det siger dig noget.

Neuroner indeni

IBMs Almaden-laboratorium, nær San Jose, ligger tæt på, men bortset fra Silicon Valley - måske det ideelle sted, hvorfra man kan gentænke computerindustriens grundlag. At komme dertil involverer at køre til en magnolia-foret gade ved byens udkant og klatre op ad to miles af kurver. Laboratoriet ligger midt i 2.317 beskyttede acres af bølgende bakker. Indenfor vandrer forskerne lange, brede, stille korridorer og tænker over problemer. Her leder Modha det største af de to teams, som DARPA rekrutterede for at bryde computerindustriens von Neumann-afhængighed. Den grundlæggende tilgang ligner Meads: byg siliciumchips med elementer, der fungerer som neuroner. Men han har fordelen af ​​fremskridt inden for neurovidenskab og chipfremstilling. Timing er alt; det var ikke helt rigtigt for Carver, siger Modha, der har for vane at lukke øjnene for at tænke, trække vejret og reflektere, før han taler.

IBM laver neuromorfe chips ved at bruge samlinger af 6.000 transistorer til at efterligne en neurons elektriske spikeadfærd og derefter forbinde disse siliciumneuroner sammen. Modhas strategi for at kombinere dem til at bygge et hjernelignende system er inspireret af undersøgelser af hjernebarken, det rynkede ydre lag. Selvom forskellige dele af cortex har forskellige funktioner, såsom at kontrollere sprog eller bevægelse, består de alle af såkaldte mikrosøjler, gentagne klumper på 100 til 250 neuroner. Modha afslørede sin version af en mikrosøjle i 2011. En fnug af silicium lidt større end et knappenålshoved, det indeholdt 256 siliciumneuroner og en hukommelsesblok, der definerer egenskaberne af op til 262.000 synaptiske forbindelser mellem dem. Korrekt programmering af disse synapser kan skabe et netværk, der behandler og reagerer på information på samme måde som neuronerne i en rigtig hjerne gør.

At indstille den chip til at arbejde på et problem involverer programmering af en simulering af chippen på en konventionel computer og derefter overføre konfigurationen til den rigtige chip. I et eksperiment kunne chippen genkende håndskrevne cifre fra 0 til 9 og endda forudsige, hvilket tal nogen begyndte at spore med en digital stylus. I en anden var chippens netværk programmeret til at spille en version af videospillet Pong. I en tredje henviste den et lille ubemandet luftfartøj til at følge den dobbelte gule linje på vejen, der nærmede sig IBMs laboratorium. Ingen af ​​disse bedrifter er uden for rækkevidde af konventionel software, men de blev opnået ved at bruge en brøkdel af den kode, kraft og hardware, der normalt ville være påkrævet.

Modha tester tidlige versioner af en mere kompleks chip, lavet af et gitter af neurosynaptiske kerner flisebelagt i en slags rudimentær cortex - over en million neuroner i alt. Sidste sommer annoncerede IBM også en neuromorf programmeringsarkitektur baseret på modulære kodeblokke kaldet corelets. Hensigten er, at programmører skal kombinere og tilpasse corelets fra en allerede eksisterende menu for at redde dem fra at bryde med siliciumsynapser og neuroner. Over 150 corelets er allerede designet til opgaver lige fra at genkende mennesker i videoer til at skelne mellem Beethovens og Bachs musik.

Læringsmaskiner

På en anden californisk bjergskråning 300 miles mod syd sigter den anden del af DARPAs projekt på at lave chips, der efterligner hjerner endnu tættere. HRL, som ser ud over Malibu fra foden af ​​Santa Monica-bjergene, blev grundlagt af Hughes Aircraft og fungerer nu som et joint venture mellem General Motors og Boeing. Med en koi-dam, palmer og bananplanter ligner indgangen et hotel fra Hollywoods gyldne æra. Det kan også prale af en plakette til minde om den første fungerende laser, bygget i 1960 på det, der dengang blev kaldt Hughes Research Labs.

En mikrochip udviklet på HRL lærer som en biologisk hjerne ved at styrke eller svække synapselignende forbindelser.

På en bænk i et vinduesløst laboratorium sidder Narayan Srinivasas chip i midten af ​​et virvar af ledninger. Aktiviteten af ​​dens 576 kunstige neuroner vises på en computerskærm som en parade af pigge, et EEG for en siliciumhjerne. HRL-chippen har neuroner og synapser ligesom IBM's. Men ligesom neuronerne i din egen hjerne, justerer dem på HRLs chip deres synaptiske forbindelser, når de udsættes for nye data. Med andre ord lærer chippen gennem erfaring.

HRL-chippen efterligner to læringsfænomener i hjerner. Den ene er, at neuroner bliver mere eller mindre følsomme over for signaler fra en anden neuron, afhængigt af hvor ofte disse signaler ankommer. Den anden er mere kompleks: en proces, der menes at understøtte læring og hukommelse, kendt som spike-timing-afhængig plasticitet. Dette får neuroner til at blive mere lydhøre over for andre neuroner, der har haft en tendens til at matche deres egen signalaktivitet i fortiden. Hvis grupper af neuroner arbejder konstruktivt sammen, styrkes forbindelserne mellem dem, mens mindre nyttige forbindelser falder i dvale.

Resultater fra eksperimenter med simulerede versioner af chippen er imponerende. Chippen spillede et virtuelt spil Pong, ligesom IBMs chip gjorde. Men i modsætning til IBM's chip, var HRL's ikke programmeret til at spille spillet - kun til at bevæge sin pagaj, fornemme bolden og modtage feedback, der enten belønnede et vellykket skud eller straffede en miss. Et system med 120 neuroner startede med at flagre, men inden for omkring fem runder var det blevet en dygtig spiller. Du programmerer det ikke, siger Srinivasa. Du siger bare 'Godt arbejde', 'Dårligt arbejde', og det finder ud af, hvad det skal gøre. Hvis der tilføjes ekstra bolde, padler eller modstandere, tilpasser netværket sig hurtigt til ændringerne.

Denne tilgang vil måske i sidste ende lade ingeniører skabe en robot, der snubler gennem en slags barndom og finde ud af, hvordan man bevæger sig rundt og navigerer. Du kan ikke fange rigdommen af ​​alle de ting, der sker i det virkelige miljø, så du bør få systemet til at håndtere det direkte, siger Srinivasa. Identiske maskiner kunne så inkorporere alt, hvad den originale har lært. Men at efterlade robotter en vis evne til at lære efter det tidspunkt kunne også være nyttigt. På den måde kunne de tilpasse sig, hvis de blev beskadiget, eller tilpasse deres gang til forskellige slags terræn.

Den første rigtige test af denne vision for neuromorfisk databehandling kommer næste sommer, når HRL-chippen efter planen skal undslippe sin laboratoriebænk og flyve i et fly på størrelse med en håndflade med flagrende vinger, kaldet en Snipe. Mens et menneske fjernstyrer fartøjet gennem en række rum, vil chippen optage data fra fartøjets kamera og andre sensorer. På et tidspunkt vil chippen få et signal, der betyder Vær opmærksom her. Næste gang Snipe besøger det rum, skal chippen tænde et lys for at signalere, at den husker. At udføre denne form for genkendelse ville normalt kræve for meget elektrisk og computerkraft til et så lille fartøj.

Alien intelligens

På trods af Synapse-chippens beskedne, men betydelige succeser, er det stadig uklart, om opskalering af disse chips vil producere maskiner med mere sofistikerede hjernelignende evner. Og nogle kritikere tvivler på, at det nogensinde vil være muligt for ingeniører at kopiere biologi tæt nok til at fange disse evner.

IBM brugte denne simulering af langtrækkende neurale baner i en makakabe til at guide designet af neuromorfe chips.

Neurovidenskabsmanden Henry Markram, der opdagede spike-timing-afhængig plasticitet, har angrebet Modhas arbejde på netværk af simulerede neuroner og siger, at deres adfærd er for forsimplet. Han mener, at succesfuld efterligning af hjernens evner kræver kopiering af synapser ned til molekylær skala; neuronernes adfærd er påvirket af interaktionerne mellem snesevis af ionkanaler og tusindvis af proteiner, bemærker han, og der er adskillige typer synapser, som alle opfører sig på ikke-lineære eller kaotiske måder. Efter Markrams opfattelse ville det kræve, at videnskabsmænd indarbejdede alle disse funktioner, hvis man fangede en rigtig hjernes evner.

DARPA-holdene imødegår, at de ikke behøver at fange den fulde kompleksitet af hjerner for at få nyttige ting gjort, og at successive generationer af deres chips kan forventes at komme tættere på at repræsentere biologi. HRL håber at forbedre sine chips ved at gøre det muligt for siliciumneuronerne at regulere deres egen affyringshastighed, som dem i hjerner gør, og IBM forbinder forbindelserne mellem kerner på sin seneste neuromorfe chip på en ny måde ved hjælp af indsigt fra simuleringer af forbindelserne mellem forskellige områder af cortex af en makak.

Modha mener, at disse forbindelser kan være vigtige for hjernefunktion på højere niveau. Men selv efter sådanne forbedringer vil disse chips stadig være langt fra hjernens rodede, komplekse virkelighed. Det virker usandsynligt, at mikrochips nogensinde vil matche hjerner i at passe 10 milliarder synaptiske forbindelser ind i en enkelt kvadratcentimeter, selvom HRL eksperimenterer med en tættere form for hukommelse baseret på eksotiske enheder kendt som memristorer.

Samtidig er neuromorfe designs stadig langt væk fra de fleste computere, vi har i dag. Måske er det bedre at genkende disse chips som noget helt adskilt - en ny, fremmed form for intelligens.

Den traditionelle tilgang er at tilføje mere beregningsevne og stærkere algoritmer, men det skaleres ikke længere.

De kan være fremmede, men IBM's forskningsstrategichef, Zachary Lemnios, forudser, at vi snart nok vil lære dem at kende. Mange store virksomheder føler allerede behovet for en ny form for beregningsintelligens, siger han: Den traditionelle tilgang er at tilføje mere beregningsevne og stærkere algoritmer, men det skalerer bare ikke, og det ser vi. Som eksempler nævner han Apples Siri personlige assistent og Googles selvkørende biler. Disse teknologier er ikke særlig sofistikerede i, hvordan de forstår verden omkring dem, siger Lemnios; Googles biler er stærkt afhængige af forudindlæste kortdata for at navigere, mens Siri benytter sig af fjerne skyservere til stemmegenkendelse og sprogbehandling, hvilket forårsager mærkbare forsinkelser.

I dag er banebrydende inden for kunstig intelligens-software en disciplin kendt som deep learning, omfavnet af blandt andet Google og Facebook. Det involverer at bruge software til at simulere netværk af meget basale neuroner på normal computerarkitektur (se 10 Breakthrough Technologies: Deep Learning, maj/juni 2013). Men den tilgang, der producerede Googles kattespotting-software, er afhængig af store klynger af computere til at køre de simulerede neurale netværk og tilføre dem data. Neuromorfe maskiner bør gøre det muligt at pakke sådanne fakulteter ind i kompakte, effektive enheder til situationer, hvor det er upraktisk at oprette forbindelse til et fjerntliggende datacenter. IBM taler allerede med kunder, der er interesserede i at bruge neuromorfe systemer. Sikkerhedsvideobearbejdning og forudsigelse af økonomisk svindel er forrest i køen, da begge kræver kompleks læring og mønstergenkendelse i realtid.

Når og hvordan neuromorfe chips endeligt bruges, vil det højst sandsynligt være i samarbejde med von Neumann-maskiner. Tallene skal stadig knuses, og selv i systemer, der står over for problemer som at analysere billeder, vil det være nemmere og mere effektivt at have en konventionel computer under kommando. Neuromorfe chips kan derefter bruges til bestemte opgaver, ligesom en hjerne er afhængig af forskellige regioner, der er specialiserede til at udføre forskellige job.

Som det normalt har været tilfældet gennem computerhistorien, vil de første sådanne systemer sandsynligvis blive indsat i det amerikanske militærs tjeneste. Det er ikke mystisk eller magisk, siger Gill Pratt, der leder Synapse-projektet hos DARPA, om neuromorfisk databehandling. Det er en arkitektonisk forskel, der fører til en anden afvejning mellem energi og ydeevne. Pratt siger, at især UAV'er kunne bruge tilgangen. Neuromorfe chips kunne genkende landemærker eller mål uden de omfangsrige dataoverførsler og kraftfulde konventionelle computere, der nu er nødvendige for at behandle billeder. I stedet for at sende video af en flok fyre, ville den sige: 'Der er en person i hver af disse stillinger - det ser ud til, at de løber,' siger han.

Denne vision om en ny slags computerchip er en, som både Mead og von Neumann helt sikkert ville genkende.

skjule