GANfather: Manden, der har givet maskiner fantasiens gave

Christie Der Klok

En nat i 2014 gik Ian Goodfellow og drak for at fejre det med en meddoktorand, der netop var færdiguddannet. Hos Les 3 Brasseurs (The Three Brewers), et yndet vandhul i Montreal, bad nogle venner om hans hjælp med et vanskeligt projekt, de arbejdede på: en computer, der kunne lave billeder af sig selv.

Forskere brugte allerede neurale netværk, algoritmer løst modelleret på nettet af neuroner i den menneskelige hjerne, som generative modeller til at skabe plausible nye data af deres egne. Men resultaterne var ofte ikke særlig gode: billeder af et computergenereret ansigt havde en tendens til at være sløret eller have fejl som manglende ører. Planen, som Goodfellows venner foreslog, var at bruge en kompleks statistisk analyse af de elementer, der udgør et fotografi, for at hjælpe maskiner med at komme med billeder af sig selv. Dette ville have krævet en massiv mængde af tal-knas, og Goodfellow fortalte dem, at det simpelthen ikke ville fungere.

Denne historie var en del af vores marts 2018-udgave

• Se resten af ​​problemet
• Abonner

Men da han overvejede problemet med sin øl, fik han en idé. Hvad hvis du satte to neurale netværk op mod hinanden? Hans venner var skeptiske, så da han kom hjem, hvor hans kæreste allerede sov hurtigt, besluttede han at give det en chance. Goodfellow kodede ind i de tidlige timer og testede derefter sin software. Det virkede første gang.

Det, han opfandt den nat, kaldes nu et GAN eller generativt modstandsnetværk. Teknikken har udløst enorm begejstring inden for maskinlæring og forvandlet dens skaber til en AI-berømthed.

Christie Der Klok

I de sidste par år har AI-forskere gjort imponerende fremskridt ved at bruge en teknik kaldet deep learning. Forsyn et dybt læringssystem med nok billeder, og det lærer at f.eks. genkende en fodgænger, der er ved at krydse en vej. Denne tilgang har muliggjort ting som selvkørende biler og samtaleteknologien, der driver Alexa, Siri og andre virtuelle assistenter.

Men selvom deep-learende AI'er kan lære at genkende ting, har de ikke været gode til at skabe dem. Målet med GANs er at give maskiner noget, der ligner en fantasi.

I fremtiden vil computere blive meget bedre til at nyde rådata og finde ud af, hvad de skal lære af det.

At gøre det ville ikke blot sætte dem i stand til at tegne smukke billeder eller komponere musik; det ville gøre dem mindre afhængige af mennesker til at instruere dem om verden og den måde, den fungerer på. I dag har AI-programmører ofte brug for at fortælle en maskine præcis, hvad der er i de træningsdata, den bliver tilført – hvilke af en million billeder indeholder en fodgænger, der krydser en vej, og hvilke der ikke gør. Dette er ikke kun dyrt og arbejdskrævende; det begrænser, hvor godt systemet håndterer selv små afvigelser fra det, det blev trænet på. I fremtiden vil computere blive meget bedre til at nyde rådata og finde ud af, hvad de skal lære af dem uden at blive fortalt.

Det vil markere et stort spring fremad i det, der i AI er kendt som uovervåget læring. En selvkørende bil kunne lære sig selv om mange forskellige vejforhold uden at forlade garagen. En robot kan forudse de forhindringer, den kan støde på i et travlt lager uden at skulle tages rundt om det.

Det vil markere et stort spring fremad i det, der i AI er kendt som uovervåget læring.

Vores evne til at forestille os og reflektere over mange forskellige scenarier er en del af det, der gør os til mennesker. Og når fremtidige teknologihistorikere ser tilbage, vil de sandsynligvis se GAN'er som et stort skridt mod at skabe maskiner med en menneskelignende bevidsthed. Yann LeCun, Facebooks ledende AI-forsker, har kaldt GANs for den fedeste idé inden for deep learning i de sidste 20 år. En anden AI-belysning, Andrew Ng, den tidligere chefforsker i Kinas Baidu, siger, at GAN'er repræsenterer et betydeligt og grundlæggende fremskridt, der har inspireret et voksende globalt samfund af forskere.

GANfather, del II: AI kampklub

Goodfellow er nu forsker på Google Brain-teamet i virksomhedens hovedkvarter i Mountain View, Californien. Da jeg mødte ham der for nylig, virkede han stadig overrasket over sin superstjernestatus og kaldte det lidt surrealistisk. Måske ikke mindre overraskende er det, at han efter at have gjort sin opdagelse nu bruger meget af sin tid på at arbejde mod dem, der ønsker at bruge den til onde formål.

Magien ved GAN'er ligger i rivaliseringen mellem de to neurale net. Den efterligner frem og tilbage mellem en billedforfalsker og en kunstdetektiv, der gentagne gange forsøger at overliste hinanden. Begge netværk er trænet på det samme datasæt. Den første, kendt som generatoren, er belastet med at producere kunstige output, såsom fotos eller håndskrift, der er så realistiske som muligt. Den anden, kendt som diskriminatoren, sammenligner disse med ægte billeder fra det originale datasæt og forsøger at bestemme, hvilke der er ægte og hvilke der er falske. På grundlag af disse resultater justerer generatoren sine parametre for at skabe nye billeder. Og sådan fortsætter det, indtil diskriminatoren ikke længere kan fortælle, hvad der er ægte, og hvad der er falsk.

En GAN trænet på billeder af rigtige berømtheder fandt på sit eget sæt imaginære stjerner. I de fleste tilfælde så forfalskninger ret realistiske ud. Nvidia

I et meget omtalt eksempel sidste år trænede forskere hos Nvidia, et chipfirma, der investerede kraftigt i kunstig intelligens, en GAN til at generere billeder af imaginære berømtheder ved at studere rigtige. Ikke alle de falske stjerner, den producerede, var perfekte, men nogle var imponerende realistiske. I modsætning til andre maskinlæringsmetoder, der kræver titusindvis af træningsbilleder, kan GAN'er blive dygtige med et par hundrede.

Relateret historie

Relateret historie

Denne fantasis magt er stadig begrænset. Når den først er blevet trænet på en masse hundebilleder, kan en GAN generere et overbevisende falsk billede af en hund, der f.eks. har et andet mønster af pletter; men den kan ikke forestille sig et helt nyt dyr. Kvaliteten af ​​de originale træningsdata har også stor indflydelse på resultaterne. I et sigende eksempel begyndte en GAN at producere billeder af katte med tilfældige bogstaver integreret i billederne. Fordi træningsdataene indeholdt kattememer fra internettet, havde maskinen lært sig selv, at ord var en del af, hvad det betød at være en kat.

Det kan være vanskeligt at få GANS til at fungere godt. Hvis der er fejl, kan resultaterne være bizarre. Alec Radford

GAN'er er også temperamentsfulde, siger Pedro Domingos, en maskinlæringsforsker ved University of Washington. Hvis diskriminatoren er for nem at narre, vil generatorens output ikke se realistisk ud. Og det kan være svært at kalibrere de to duellerende neurale net, hvilket forklarer, hvorfor GAN'er nogle gange spytter bizarre ting ud, såsom dyr med to hoveder.

Alligevel har udfordringerne ikke afskrækket forskere. Siden Goodfellow og et par andre offentliggjorde den første undersøgelse af hans opdagelse, i 2014, er der skrevet hundredvis af GAN-relaterede artikler. En fan af teknologien har endda lavet en webside kaldet GAN zoo, dedikeret til at holde styr på de forskellige versioner af teknikken, der er blevet udviklet.

De mest oplagte umiddelbare applikationer er i områder, der involverer en masse billedmateriale, såsom videospil og mode: Hvordan kan en spilkarakter for eksempel se ud, der løber gennem regnen? Men når vi ser fremad, tror Goodfellow, at GAN'er vil drive flere betydelige fremskridt. Der er mange områder inden for videnskab og teknik, hvor vi skal optimere noget, siger han og nævner eksempler som medicin, der skal være mere effektiv, eller batterier, der skal blive mere effektive. Det bliver den næste store bølge.

I højenergifysik bruger forskere kraftfulde computere til at simulere den sandsynlige interaktion mellem hundredvis af subatomære partikler i maskiner som Large Hadron Collider ved CERN i Schweiz. Disse simuleringer er langsomme og kræver massiv computerkraft. Forskere ved Yale University og Lawrence Berkeley National Laboratory har udviklet et GAN, der efter træning på eksisterende simuleringsdata lærer at generere ret præcise forudsigelser af, hvordan en bestemt partikel vil opføre sig, og gør det meget hurtigere.

Goodfellows skabelse kan bruges til at forestille sig alle mulige ting, inklusive nyt interiørdesign. Ian Goodfellow

Medicinsk forskning er et andet lovende område. Bekymringer om privatlivets fred betyder, at forskere nogle gange ikke kan få nok reelle patientdata til for eksempel at analysere, hvorfor et lægemiddel ikke virkede. GAN'er kan hjælpe med at løse dette problem ved at generere falske optegnelser, der er næsten lige så gode som den ægte vare, siger Casey Greene fra University of Pennsylvania. Disse data kunne deles bredere og hjælpe med at fremme forskning, mens de virkelige optegnelser er tæt beskyttet.

GANfather, del III: Dårlige fyre

Der er dog en mørkere side. En maskine designet til at skabe realistiske forfalskninger er et perfekt våben for udbydere af falske nyheder, der ønsker at påvirke alt fra aktiekurser til valg. AI-værktøjer bliver allerede brugt til at lægge billeder af andres ansigter på pornostjerners kroppe og lægge ord i munden på politikere. GAN'er skabte ikke dette problem, men de vil gøre det værre.

Hany Farid, der studerer digital retsmedicin på Dartmouth College, arbejder på bedre måder at spotte falske videoer, såsom at opdage små ændringer i farven på ansigter forårsaget af ind- og udånding, som GAN'er har svært ved at efterligne præcist. Men han advarer om, at GAN'er vil tilpasse sig igen. Vi er grundlæggende i en svag position, siger Farid.

Dette kat-og-mus-spil vil også spille i cybersikkerhed. Forskere fremhæver allerede risikoen for black box-angreb, hvor GAN'er bruges til at finde ud af de maskinlæringsmodeller, med hvilke masser af sikkerhedsprogrammer spotter malware. Efter at have spået, hvordan en forsvarers algoritme fungerer, kan en angriber unddrage sig den og indsætte falsk kode. Den samme tilgang kunne også bruges til at undvige spamfiltre og andre forsvar.

Der er mange områder inden for videnskab og teknik, hvor vi skal optimere noget. Det bliver den næste store bølge.

Goodfellow er godt klar over farerne. Nu som leder af et team hos Google, der er fokuseret på at gøre maskinlæring mere sikker, advarer han om, at AI-fællesskabet skal lære lektien af ​​tidligere bølger af innovation, hvor teknologer behandlede sikkerhed og privatliv som en eftertanke. Da de vågnede op til risiciene, havde de onde et betydeligt forspring. Det er klart, at vi allerede er forbi starten, siger han, men forhåbentlig kan vi gøre betydelige fremskridt inden for sikkerhed, før vi er for langt inde.

Ikke desto mindre tror han ikke, at der vil være en rent teknologisk løsning på falskneri. I stedet mener han, at vi bliver nødt til at stole på samfundsmæssige, såsom at lære børn kritisk tænkning ved at få dem til at tage ting som tale- og debattimer. I tale og debat konkurrerer du mod en anden elev, siger han, og du tænker på, hvordan man laver vildledende påstande, eller hvordan man laver korrekte påstande, der er meget overbevisende. Han kan godt have ret, men hans konklusion om, at teknologien ikke kan kurere fake-news-problemet, er ikke en, mange vil høre.

skjule