Enkelt kunstigt neuron lært at genkende hundredvis af mønstre

Kunstig intelligens er et felt midt i hurtige, spændende forandringer. Det er i høj grad på grund af en forbedret forståelse af, hvordan neurale netværk fungerer, og oprettelsen af ​​enorme databaser til at hjælpe med at træne dem. Resultatet er maskiner, der pludselig er blevet bedre til ting som ansigts- og objektgenkendelse, opgaver, som mennesker altid har haft overhånden i (se Teaching Machines to Understand Us).

Men der er et puslespil i hjertet af disse gennembrud. Selvom neurale netværk tilsyneladende er modelleret efter den måde, den menneskelige hjerne fungerer på, er de kunstige neuroner, de indeholder, intet som dem, der arbejder i vores eget vådtøj. Kunstige neuroner, for eksempel, har generelt kun en håndfuld synapser og mangler helt de korte, forgrenede nerveforlængelser kendt som dendritter og de tusindvis af synapser, der dannes langs dem. Faktisk ved ingen rigtig, hvorfor rigtige neuroner har så mange synapser.

I dag ændrer det sig takket være Jeff Hawkins og Subutai Ahmads arbejde hos Numenta, en Silicon Valley-startup med fokus på at forstå og udnytte principperne bag biologisk informationsbehandling. Gennembruddet, disse fyre har lavet, er at komme med en ny teori, der endelig forklarer rollen af ​​det store antal synapser i rigtige neuroner og at skabe en model baseret på denne teori, der gengiver mange af de intelligente adfærd hos rigtige neuroner.

Ægte neuroner består af en cellekrop, kendt som soma, der indeholder cellekernen, og hvorfra der strækker sig et antal nærliggende eller proksimale dendritter samt axonet, et fint kabellignende fremspring, der kan strække sig mange centimeter for at forbinde til andre neuroner. For enden af ​​axonen er der et andet sæt grene, kendt som distale dendritter på grund af deres afstand fra somaen.

Proksimale og distale dendritter danner alle tusindvis af forbindelser, kaldet synapser, til andre nervecellers axoner. Disse forbindelser har berømt indflydelse på den hastighed, hvormed nervecellen producerer elektriske signaler kendt som spidser.

Konsensus er, at neuroner lærer ved at genkende bestemte mønstre af forbindelser mellem dets synapser og ild, når de ser dette mønster.

Men selvom det er let at forstå, hvordan proksimale synapser kan påvirke cellekroppen og affyringshastigheden, er det svært at forstå, hvordan distale synapser kan gøre det samme, fordi de er så langt væk.

Hawkins og Ahmad siger nu, at de ved, hvad der foregår. Deres nye idé er, at distale og proksimale synapser spiller helt forskellige roller i læringsprocessen. Proksimale synapser spiller den konventionelle rolle at udløse cellen til at fyre, når visse mønstre af forbindelser dukker op.

Dette er den konventionelle læringsproces. Vi viser, at en neuron kan genkende hundredvis af mønstre, selv i nærvær af store mængder støj og variabilitet, så længe den generelle neurale aktivitet er sparsom, siger Hawkins og Ahmad.

Men distale synapser gør noget andet. De genkender også, når visse mønstre er til stede, men udløser ikke affyring. I stedet påvirker de cellens elektriske tilstand på en måde, der gør affyring mere sandsynlig, hvis der opstår et andet specifikt mønster. Så distale synapser forbereder cellen til ankomsten af ​​andre mønstre. Eller, som Hawkins og Ahmad udtrykte det, hjælper disse synapser cellen med at forudsige, hvad det næste mønster, der fornemmes af de proksimale synapser, vil være.

Det er enormt vigtigt. Det betyder, at udover at lære, hvornår et bestemt mønster er til stede, lærer cellen også rækkefølgen, hvori mønstre optræder. Vi viser, hvordan et netværk af neuroner med denne egenskab vil lære og genkalde sekvenser af mønstre, siger de.

Desuden viser de, at alt dette fungerer godt, selv ved tilstedeværelse af store mængder støj, som det altid er tilfældet i biologiske systemer.

Det er en væsentlig ny måde at tænke neuroner på og en, der gengiver nogle af nøglefunktionerne ved informationsbehandling i den menneskelige hjerne. For eksempel viser Hawkins og Ahmad, at dette system ikke husker alle detaljer i hvert mønster i en sekvens, men i stedet gemmer forskellen mellem det ene mønster og det næste.

Så det, der er vigtigt, er ikke den samlede mængde information i et mønster, men forskellen mellem dette mønster og det næste.

Det er en interessant egenskab, der kan hjælpe med at forklare et andet forvirrende træk ved menneskelig hukommelse kaldet chunking. Dette er den observation, at mennesker i gennemsnit kan gemme omkring syv bidder af information i deres arbejdshukommelser. Disse bidder kan være ting som cifre, bogstaver eller endda ord, men uanset hvad de er, kan mennesker kun huske omkring syv af dem (plus eller minus to!).

Men her er sagen - informationsindholdet i et enkelt ord, såsom synapse, er væsentligt større end informationsindholdet i et enkelt ciffer, såsom et 7. Puslespillet er, at ingen ved, hvordan hjernen formår at holde informationen i syv ord lige så let, som det holder informationen i syv cifre.

Men i Hawkins og Ahmads nye model forsvinder dette problem. Hjernen gemmer ikke informationen relateret til ordet eller cifferet, kun forskellen mellem dem, som kan være betydeligt mindre. Det burde føre til nogle testbare hypoteser om hukommelsens natur.

Den nye model fører også til andre testbare hypoteser. For eksempel virker modellen kun, når der er nogle få synapser mellem axonen af ​​en neuron og en dendrit af en anden. Hvis der var for mange synapser, ville det ikke være muligt at skelne et mønster fra et andet, og alle mønstre ville se ens ud.

Hvis Hawkins og Ahmads model er korrekt, kan dette ikke ske i rigtige neuroner. For at forhindre dette i at ske forudsiger vi eksistensen af ​​en mekanisme, der aktivt modvirker dannelsen af ​​flere synapser, efter at en er blevet etableret, siger de.

Det er en usædvanlig ting i biologi - en testbar hypotese. Men det er en, der helt sikkert giver neuroforskere noget at kigge efter med deres forstørrelsesglas.

En sidste pointe er, at denne nytænkning ikke kommer fra et akademisk miljø, men fra en Silicon Valley-startup. Dette firma er hjernebarn af Jeff Hawkins, en iværksætter, opfinder og neurovidenskabsmand. Hawkins opfandt Palm Pilot i 1990'erne og har siden hen vendt sin opmærksomhed mod neurovidenskab på fuld tid.

Det er en usædvanlig kombination af ekspertise, men en der gør det meget sandsynligt, at vi vil se disse nye kunstige neuroner arbejde på problemer i den virkelige verden i en ikke alt for fjern fremtid. Hawkins og Ahmad kalder i øvrigt deres nye legetøj Hierarchical Temporal Memory neuroner eller HTM neuroner. Forvent at høre meget mere om dem.

Ref: arxiv.org/abs/1511.00083 : Hvorfor neuroner har tusindvis af synapser, en teori om sekvenshukommelse i Neocortex

skjule