Inde i AI-verdenen, der skaber smuk kunst og skræmmende deepfakes

Nvidia





I de sidste tre uger har vi fastlagt det grundlæggende i AI. For at opsummere:

  • De fleste AI-fremskridt og -applikationer er baseret på en type algoritme kendt som machine learning, der finder og genanvender mønstre i data.
  • Deep learning, en kraftfuld undergruppe af maskinlæring, bruger neurale netværk til at finde og forstærke selv de mindste mønstre.
  • Neurale netværk er lag af simple beregningsknuder, der arbejder sammen om at analysere data, ligesom neuroner i den menneskelige hjerne.

Nu kommer vi til den sjove del. Brug af ét neuralt netværk er virkelig fantastisk til at lære mønstre; at bruge to er virkelig fantastisk til at skabe dem. Velkommen til den magiske, skræmmende verden af ​​generative modstridende netværk eller GAN'er.

GAN'er har lidt af et kulturelt øjeblik. De er ansvarlige for første stykke AI-genereret kunst, der sælges hos Christie's , samt kategorien af ​​falske digitale billeder kendt som deepfakes .



Deres hemmelighed ligger i den måde, to neurale netværk arbejder sammen på - eller rettere mod hinanden. Du starter med at tilføre begge neurale netværk en hel masse træningsdata og giver hver enkelt en separat opgave. Det første netværk, kendt som generatoren, skal producere kunstige output, såsom håndskrift, videoer eller stemmer, ved at se på træningseksemplerne og forsøge at efterligne dem. Den anden, kendt som diskriminatoren, afgør derefter, om outputtene er reelle ved at sammenligne hver enkelt med de samme træningseksempler.

Relateret historie

Relateret historie Ved at sætte neurale netværk op mod hinanden har Ian Goodfellow skabt et kraftfuldt AI-værktøj. Nu må han, og vi andre, se konsekvenserne i øjnene.

Hver gang diskriminatoren afviser generatorens output, går generatoren tilbage for at prøve igen. For at låne en metafor fra min kollega Martin Giles, så efterligner processen frem og tilbage mellem en billedforfalsker og en kunstdetektiv, der gentagne gange forsøger at overliste hinanden. Til sidst kan diskriminatoren ikke kende forskel på output- og træningseksempler. Med andre ord, mimik er ikke til at skelne fra virkeligheden.

Du kan se, hvorfor en verden med GAN'er er ens måler smuk og grim. På den ene side kan evnen til at syntetisere medier og efterligne andre datamønstre være nyttig i fotoredigering, animation og medicin (såsom at forbedre kvaliteten af ​​medicinske billeder og at overvinde knapheden på patientdata). Det bringer os også glædelige kreationer som dette:



Og dette:

På den anden side kan GAN'er også bruges på etisk forkastelige og farlige måder: til overlejre berømthedsansigter på pornostjerners kroppe , for at få Barack Obama til at sige, hvad du vil, eller for at forfalske nogens fingeraftryk og andre biometriske data, en evneforsker ved NYU og Michigan State for nylig viste i en papir .



Heldigvis har GAN'er stadig begrænsninger, der sætter nogle rækværker på plads. De har brug for en hel del regnekraft og snævert data for at producere noget virkelig troværdigt. For at producere et realistisk billede af en frø, for eksempel, har et sådant system brug for hundredvis af billeder af frøer fra en bestemt art, fortrinsvis med en lignende retning. Uden disse specifikationer får du virkelig nogle skøre resultater , som dette væsen fra dine mørkeste mareridt:

(Du skal takke mig for ikke at vise dig edderkopperne.)



Men eksperter bekymrer sig om, at vi kun har set toppen af ​​isbjerget. Efterhånden som algoritmerne bliver mere og mere raffinerede, vil glitchy videoer og Picasso-dyr blive en saga blot. Som Hany Farid, en digital billedforensisk ekspert, engang fortalte mig, er vi dårligt forberedt til at løse dette problem.

Dette dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, abonner her gratis.

skjule