Superledende neuroner kunne matche hjernens energieffektivitet

Glødende konceptuel illustration af en hjerne

Glødende konceptuel illustration af en hjerne Getty





Den menneskelige hjerne er langt den mest imponerende computerenhed kendt af videnskaben. Hjernen opererer med en clock-hastighed på blot et par hertz, snegleagtig i forhold til moderne mikroprocessorer, der kører med gigahertz-hastigheder.

Men den får sin magt ved at udføre mange beregninger på samme tid - en milliard milliard beregninger i sekundet. Denne parallelitet gør det muligt for den at løse problemer med lethed, som konventionelle computere endnu ikke har håndteret: kørsel, gang, samtale og så videre.

Endnu mere imponerende er, at den gør alt dette drevet af lidt mere end en skål grød. Derimod bruger verdens mest kraftfulde supercomputere mere strøm end store byer.



Derfor ønsker dataloger at kopiere den menneskelige hjernes computerydelse ved at bruge neurale netværk som beregningsmæssige arbejdsheste.

Det er lettere sagt end gjort. Almindelige chips kan programmeres til at opføre sig som neurale netværk, men det er beregningskrævende og energidrænende.

I stedet ønsker dataloger at bygge kunstige neuroner og forbinde dem sammen i hjernelignende netværk. Det har potentialet til at være væsentligt mere energieffektivt, men ingen har fundet på et design, der kommer tæt på hjernens effektivitet.



Indtil i dag. Indtast Emily Toomey på MIT og et par kolleger, som har designet en superledende neuron lavet af nanotråde, der på mange måder opfører sig som en rigtig. De siger, at deres enhed matcher hjernens energieffektivitet (i hvert fald i teorien) og er byggestenen i en ny generation af superledende neurale netværk, der vil være langt mere effektive end konventionelle computermaskiner.

Superledende aktionspotentialer

Først lidt baggrund. Neuroner koder for information i form af elektriske spidser eller aktionspotentialer, der bevæger sig langs nervens længde. I hjernelignende netværk er neuroner adskilt fra hinanden af ​​huller kaldet synapser.

Informationen kan springe hen over disse synapser og derved påvirke andre neuroner, få dem til at fyre eller hæmme dem på en måde, der forhindrer dem i at skyde. Dette tillader faktisk neuroner at fungere som logiske porte, der producerer et enkelt output som svar på flere input.



Biologiske neuroner har en række vigtige egenskaber, der gør dette muligt. For eksempel affyrer de ikke, medmindre inputsignalet overstiger et vist tærskelniveau, og de kan ikke fyre igen, før der er gået en vis tid, en strækning kendt som den refraktære periode. Og tidspunktet for en spids til at rejse langs en axon - kroppen af ​​en neuron - er også vigtig, da den koder for den afstand, spidsen har tilbagelagt.

En kunstig neuron skal være i stand til at reproducere så mange af disse funktioner som muligt. Det kræver normalt nogle komplekse kredsløb.

Men Toomey og co påpeger, at superledende nanotråde har en ejendommelig ikke-lineær egenskab, der tillader dem at fungere som neuroner. Denne egenskab opstår, fordi nanotrådens superledningsevne bryder sammen, når strømmen, der flyder gennem den, overstiger en tærskelværdi.



Når dette sker, øges modstanden pludselig, hvilket skaber en spændingsimpuls. Denne puls er analog med aktionspotentialet i en neuron. At bruge den til at modulere endnu en puls produceret af en anden superledende nanotråd gør simuleringen endnu mere realistisk.

Dette skaber et simpelt superledende kredsløb, der har mange af biologiske neuroners egenskaber. Toomey og co har vist, at en superledende neuron har en affyringstærskel, en refraktær periode og en rejsetid, der blandt andre egenskaber kan justeres i henhold til kredsløbsegenskaberne.

Det er afgørende, at denne superledende neuron også kan bruges til at udløse eller hæmme andre neuroner. Og denne fanout-egenskab er nøglen til at skabe netværk. Det er noget, andre superledende neurondesigns aldrig har været i stand til at opnå.

Og fordi superledende kredsløb bruger meget lidt strøm, tyder Toomey og co's beregninger på, at denne form for superledende neurale netværk kunne matche effektiviteten af ​​biologiske neurale netværk.

Merittallet er antallet af synaptiske operationer, som det neurale netværk kan udføre hvert sekund ved brug af en watt strøm. Toomey og co siger, at deres foreslåede netværk skulle være i stand til at matche den menneskelige hjerne til at håndtere omkring 1014 synaptiske operationer pr. sekund pr. watt. Nanotrådneuronen kan være en yderst konkurrencedygtig teknologi fra en potentiel og hastighedspotential, siger de.

Selvfølgelig er der begrænsninger. Måske den mest betydningsfulde er, at den superledende neuron kan forbindes til blot en håndfuld andre neuroner. I modsætning hertil forbinder hver neuron i den menneskelige hjerne sig til tusindvis af naboer. Og for øjeblikket forbliver Toomey og cos design netop det – et design.

Ikke desto mindre er simuleringerne lovende. Analysen udført her tyder på, at nanotrådneuronen er en lovende kandidat til fremme af kunstige neurale netværk med lav effekt, siger holdet.

Og potentialet er betydeligt. Toomey og co siger, at superledende neurale netværk kan være grundlaget for helt ny computerhardware i form af superledende neurale net. Disse chips kunne forbindes i netværk ved hjælp af superledende sammenkobling, hvilket ville resultere i ingen varmeafledning.

Resultatet ville være en storstilet neuromorf processor, der kunne trænes som et spiking neuralt netværk til at udføre opgaver som mønstergenkendelse eller bruges til at simulere spiking-dynamikken i et stort, biologisk realistisk netværk, siger de.

Det er interessant arbejde, selvom det kræver en proof-of-princip demonstration, før spændingen kan begynde at opbygge.

Ref: arxiv.org/abs/1907.00263 : Et krafteffektivt kunstigt neuron ved hjælp af superledende nanotråde

skjule