Et neuralt netværk kan lære at organisere den verden, det ser, i begreber – ligesom vi gør

Gabriel Santiago | unsplash





GAN'er, eller generative adversarielle netværk, er AI-algoritmernes stjerner på sociale medier. De er ansvarlige for at skabe det første kunstig intelligens-maleri, der nogensinde er solgt til en kunstauktion og for overlejrende berømthedsansigter på pornostjerners kroppe. De arbejder ved at sætte to neurale netværk op mod hinanden for at skabe realistiske output baseret på, hvad de bliver fodret med. Fodre en med masser af hundebilleder, og det kan skabe helt nye hunde; fodre den med mange ansigter, og den kan skabe nye ansigter.

Så gode som de er til at forårsage fortræd, indså forskere fra MIT-IBM Watson AI Lab, at GAN'er også er et kraftfuldt værktøj: fordi de maler, hvad de tænker, kan de give mennesker indsigt i, hvordan neurale netværk lærer og ræsonnerer. Dette har været noget, det bredere forskersamfund har søgt i lang tid - og det er blevet vigtigere med vores stigende afhængighed af algoritmer.

Der er en chance for os for at lære, hvad et netværk ved fra at forsøge at genskabe den visuelle verden, siger David Bau, en MIT-ph.d.-studerende, der arbejdede på projektet.



Så forskerne begyndte at undersøge en GANs læringsmekanik ved at fodre den med forskellige billeder af landskaber - træer, græs, bygninger og himmel. De ville se, om det ville lære at organisere pixels i fornuftige grupper uden eksplicit at få at vide hvordan.

Forbløffende nok gjorde det med tiden. Ved at tænde og slukke for forskellige neuroner og bede GAN om at male, hvad den mente, fandt forskerne forskellige neuronklynger, der havde lært at repræsentere et træ, for eksempel. Andre klynger repræsenterede græs, mens atter andre repræsenterede vægge eller døre. Det var med andre ord lykkedes at gruppere træpixel med træpixel og dørpixel med dørpixel uanset hvordan disse objekter skiftede farve fra foto til foto i træningssættet.

GAN ved ikke at male nogen døre på himlen. MIT Computer Science & Artificial Intelligence Laboratory



Disse GAN'er er lærebegreber, der minder meget om begreber, som mennesker har givet ord til, siger Bau.

Ikke kun det, men GAN så ud til at vide, hvilken slags dør der skulle males afhængigt af den type væg, der er afbildet på et billede. Det ville male en dør i georgisk stil på en murstensbygning med georgisk arkitektur eller en stendør på en gotisk bygning. Det nægtede også at male nogen døre på et stykke himmel. Uden at blive fortalt havde GAN på en eller anden måde forstået visse uudtalte sandheder om verden.

Det her var et stort åbenbaring for forskerholdet. Der er visse aspekter af sund fornuft, der dukker op, siger Bau. Det har før nu været uklart, om der var nogen måde at lære denne slags ting på [gennem dyb læring]. At det er mulig tyder på, at dyb læring kan bringe os tættere på, hvordan vores hjerner fungerer, end vi tidligere troede - selvom det stadig ikke er i nærheden af ​​nogen form for intelligens på menneskeligt niveau.



Andre forskergrupper er begyndt at finde lignende læringsadfærd i netværk, der håndterer andre typer data, ifølge Bau. I sprogforskningen har folk for eksempel fundet neuronklynger for flertalsord og kønspronominer.

At kunne identificere hvilke klynger der svarer til hvilke begreber gør det muligt at styre det neurale netværks output. Baus gruppe kan tænde kun træneuronerne, for eksempel for at få GAN til at male træer, eller tænde kun dørneuronerne for at få det til at male døre. Sprognetværk kan på samme måde manipuleres til at ændre deres output - f.eks. for at skifte køn af pronominer, mens de oversætter fra et sprog til et andet. Vi er begyndt at gøre det muligt for en person at gøre indgreb for at forårsage forskellige output, siger Bau.

Holdet har nu udgivet en app kaldet GANpaint der gør denne nyfundne evne til et kunstnerisk værktøj. Det giver dig mulighed for at tænde specifikke neuronklynger for at male scener af bygninger i græsklædte marker med mange døre. Ud over dets tåbelighed som en legende afsætningsmulighed, taler det også om det større potentiale i denne forskning.

Problemet med AI er, at når du beder den om at udføre en opgave for dig, giver du den en enorm tillid, siger Bau. Du giver det dit input, det gør det er 'genial' tankegang, og det giver dig noget output. Selvom du havde en menneskelig ekspert, der er super smart, er det heller ikke sådan, du vil arbejde med dem.

Med GANpaint begynder du at trække låget på den sorte boks tilbage og etablere en form for relation. Du kan finde ud af, hvad der sker, hvis du gør det her, eller hvad der sker, hvis du gør det, siger Hendrik Strobelt, skaberen af ​​appen. Så snart du kan lege med disse ting, får du mere tillid til dets evner og også dets grænser.

En forkortet version af denne historie dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, abonner her gratis.

skjule