Podcast: I beskuerens AI

Ideer om, hvad skønhed er, er komplekse, subjektive og på ingen måde begrænset til fysiske fremtoninger. Selvom det er undvigende, vil alle have mere af det. Det betyder store virksomheder og i stigende grad, at folk udnytter algoritmer til at skabe deres ideelle jeg i den digitale og nogle gange fysiske verdener. I denne episode udforsker vi populariteten af ​​skønhedsfiltre, og sætter os ned med en, der er overbevist om, at hans software vil vise dig, hvordan du kan nappe og gemme dig til et bedre liv.

Vi møder:

• Shafee Hassan, grundlægger af Qoves Studio
• Lauren Rhue, assisterende professor i informationssystemer ved Robert H. Smith School of Business

Credits

Denne episode blev rapporteret af Tate Ryan-Mosley og produceret af Jennifer Strong, Emma Cillekens, Karen Hao og Anthony Green. Vi er redigeret af Michael Reilly og Bobbie Johnson.

Afskrift

[TR ID]

[Montage af sange om skønhed]

Stærk: Skønhed har altid været en af ​​samfundets største besættelser. Og så længe vi har tilbedt det... har vi også fundet måder at ændre og forbedre det på. Fra makeup og tøj... til airbrushing-billeder... eller en kirurgisk nip and tuck. Og nu? AI.

[Montage af nyhedsdækning om skønhedsfiltre]

[Lyd fra en Apple-keynote med billedforstørrelse, hvor kvinder får til at smile mere. Publikum jubler]

Stærk: Du er måske ikke klar over det ... men denne teknologi er lige ved hånden. I skønhedsfiltrene på din telefon og sociale medier. Teknikken er blevet så god til at opdage, hvor dine øjne, næse og kæbelinje er, at det er nemmere end nogensinde før at justere disse funktioner. Med et simpelt swipe kan du finjustere buen på dit øjenbryn eller justere kurven på dine læber og konstruere dit 'ideelle billede'.

Det er muligt, at der vil være 45 milliarder kameraer i verden til næste år... sammen med stadig flere måder at bruge AI til at parse, tagge, redigere og prioritere disse billeder. Virksomheder som Microsoft, NVIDIA og Face++... har alle offentligt udgivne produkter beregnet til at måle skønhed på en eller anden måde. Der er endda AI-drevne systemer, der lover at se på billeder af dit ansigt for at fortælle dig, hvor smuk du er – (eller ikke er) – og hvad du kan gøre ved det.

Hassan: Så vi viser dig, hvad algoritmen leder efter. Og hvis du ønsker at ændre det, kan du, du ved, bruge disse operationer.

Stærk: Men kan nogen, eller nogen ting , være virkelig objektiv om skønhed?

Rhue: Lad os bare sige, at jeg aldrig har set en kulturelt følsom skønheds-AI.

Stærk: Og vil denne nye bølge af skønhedsforbedring efterlade vores næste generation med mere usikkerhed end nogensinde før?

Veronica: Der er en måde, hvorpå filtrene på en måde er skadelige for folks mentale sundhed og kan være virkelig lammende for nogle mennesker, fordi de sammenligner sig selv med det.

Stærk: Jeg er Jennifer Strong, og denne episode ser vi på maskinernes rolle i at forme vores skønhedsstandarder, og hvordan disse standarder former os.

[VIS ID]

Veronica: Når jeg skal bruge et ansigtsfilter, er det, fordi der er visse ting, som jeg gerne vil se anderledes ud. Så hvis jeg ikke har makeup på, eller hvis jeg synes, jeg ikke nødvendigvis ser bedst ud, ændrer skønhedsfiltret på en måde visse ting ved dit udseende.

Veronica: Hej, jeg hedder Veronica. Jeg er 19 år gammel, og jeg er fra Minnesota.

Sophia: Jeg er Sophia, jeg er 15. Og jeg er også fra Minnesota.

Stærk: De er søstre ... og ivrige brugere af sociale medier. De bruger skønhedsfiltre til at forbedre, hvordan de ser ud på billeder. De viser min producer Tate Ryan-Mosley nogle af deres favoritter.

Sophia: Ser jeg sådan ud? Nej. Ikke en smule.

Tate: Beskriv, hvad der får dig til at se anderledes ud på det billede?

Sophia: Den har disse massive vipper, der får mine øjne til at se smukke ud. Mine læber tredobler størrelsen og min næse mindre.

Veronica: Mit ideelle filter. Det kaldes Naomi-filteret på Snapchat. Det renser din hud og gør derefter dine øjne enorme.

Tate: Hvornår begyndte du at bruge dem? Kan du huske?

Veronica: Femte klasse? Det ved jeg ikke. Det var mere sjovt i starten. Som om det var lidt som en joke, som om folk ikke prøvede at se godt ud, når de brugte filtrene

Sophia: Det var jeg bestemt. Som 12-årige piger, som at have adgang til noget, der gør, at du ikke ser ud som om du er 12. Som om det er det fedeste nogensinde.

Stærk: Filtre er eksplosivt populære. Nogle er sjove... som den, der satte hvalpeører og en falsk næse på dit ansigt. Andre er mærkevarer, geotagget, og der er også kunstneriske. Men den mest almindelige type er skønhedsfiltre, som ændrer udseendet af en person på et billede i et forsøg på at gøre dem mere attraktive - ofte ved at omforme og omfarve deres funktioner.

Og de største fans er unge piger.

I årevis har disse søstre brugt filtre næsten hver dag... Men de er stadig ikke sikre på, hvordan de har det med dem.

Veronica: Med sociale medier generelt. Det er umuligt ikke at sammenligne sig med mennesker. Men jeg tror, ​​at når folk bruger sådanne filtre, og de ikke afslører det. Jeg føler, at det kan få folk til at blive mere usikre eller mere påvirkede af det, end de ville gøre på bare et almindeligt billede, fordi du sætter mindre pris på deres naturlige skønhed sammenlignet med den skønhed, der ligesom var formuleret til at gøre dem se perfekt ud.

Sophia: Det er ikke normalt. Det er ikke en normal krop. // Vi føler os så smukke i dem. Og det er ligesom, hvorfor..

Veronica: Er der noget af en validering, når du opfylder den standard? Selvom det kun er for at like et billede...

[Lyd fra TEDx talk: Epidemic of Beauty Sickness]

Engeln: For omkring 15 år siden var jeg en ivrig ung kandidatstuderende. Og jeg brugte meget tid på at undervise.

Stærk: Dette er Renee Engeln, professor i psykologi ved Northwestern University, der holder en TEDx-tale.

Engeln: Og jo mere jeg lyttede til mine kvindelige studerende, jo mere fangede jeg noget bekymrende. Disse dygtige, talentfulde unge kvinder brugte alarmerende mængder af tid på at tænke på at tale om at forsøge at ændre deres fysiske udseende.

Nu er vores opfattelse af skønhed kompliceret. De har dybe evolutionære rødder. Fra et videnskabeligt perspektiv er skønhed ikke bare ønskværdig, men også sjælden.

Stærk: Hun fortsatte med at studere dette problem og interviewede kvinder om, hvordan de blev påvirket af konstant at se billeder af urealistiske skønhedsstandarder... og hvad hun fandt var... uventet.

Engeln: Kvinder ved, at de kvinder, de ser på disse billeder, ikke er repræsentative for den generelle befolkning af kvinder. De er meget bevidste om, at i den virkelige verden, ingen, ingen, der rent faktisk ser sådan ud... Det ser ud til at være ligegyldigt. At vide bedre er ikke nok. Den samme kvinde, der sagde dette, for eksempel, denne kropstype er urealistisk tynd, og hendes ribben viser sig, og du er ligesom, ja, lige på. Hun fulgte det op med, jeg føler, at jeg gerne vil være sådan.

Stærk: Engeln holdt sit foredrag i 2013 ... længe før AI skønhedsfiltre. Og i disse dage ser vi ikke kun Photoshoppede modeller i magasiner ... men billeder af os selv og vores venner, der er blevet retoucheret af algoritmer.

Og ... det giver næring til en helt ny industri ...

Hassan: Vi indså, at der er et behov for at lære, hvordan man korrekt redigerer ansigter. Og ud fra det indså vi, at der også er et behov for at vurdere ansigter for at forstå, hvad der gør et ansigt attraktivt, eller for bedre at forstå, hvilke ændringer der i bund og grund får et ansigt til at se bedre ud.

Stærk: Shafee Hassan er grundlæggeren af ​​Qoves Studio. Det er blot en af ​​en række nye virksomheder, der bruger neurale netværk til at genkende ting i folks ansigter, som kunne anses for at være uattraktive. Han er en bygningsingeniør af uddannelse ... hvilket han siger, informerer hans arbejde.

Hassan: Og disse fejl dukker op igen og igen. Og de er meget almindelige i visse etniciteter og mindre almindelige i andre, og en computer kan registrere det virkelig præcist, fordi pixelværdierne, farveværdierne er meget ens, uanset hvor du ser på det, eller hvilken del af ansigtet det er fra. .

Stærk: Forskere mener, at sociale mediegiganter som Facebook, Instagram og Tik Tok alle bruger algoritmer, der måler et ansigts tiltrækningskraft.

Hassan: ...bestemme eller forudbestemme, om et stykke indhold vil blive succesfuldt eller ej, og derefter skubbe indholdet yderligere til en større population af brugere.

Stærk: Til dato har ingen bekræftet dette. Hvad vi ved (fra rapportering fra The Intercept) er, at TikTok bad sine indholdsmoderatorer om at undertrykke videoer med folk, som de anså for uattraktive, fattige eller at have et handicap. En TikTok-talsmand sagde, at disse regler var et tidligt, direkte forsøg på at forhindre mobning og ikke længere på plads.

Og det er her, virksomheder som Hassans kommer ind i billedet. Fra hans perspektiv er skænderier om, hvorvidt det er rigtigt eller forkert at promovere og undertrykke billeder af mennesker baseret på deres udseende?... noget ved siden af. Han siger, at dette system er virkeligheden, og ansigtstræk påvirker social status, faglige udsigter og indkomst. Men han mener, at hans virksomhed kan gøre den proces mere gennemsigtig.

Hassan: Så vi viser dig, hvad algoritmen leder efter. Og hvis du ønsker at ændre det, kan du, du ved, bruge disse operationer. Og det er også noget, vi tilbyder. Vi leverer måder, løsninger, og det behøver ikke engang at være kosmetisk. Søvn kan forbedre dine konturer under øjnene, hvilket en skønhedsalgoritme kan straffe dig med 0,5 af et mærke.

Stærk: Uh huh. Du hørte det rigtigt. Operationer for at hjælpe folk med at legemliggøre det, de tror, ​​maskiner leder efter. Hans YouTube-kanal fokuserer på netop det – med videoer, der får mere end en million visninger. Som denne:

[Lyd fra YouTube-video med Hassan]

Hassan: Velkommen til den første episode af definere skønhed... Hvor jeg forsøger at udforske, hvad der gør et ansigt attraktivt på den mest objektive måde.

Stærk: Og de tilbyder detaljerede rapporter om disse opfattede fejl.

Hassan: Ideelt set burde menneskelige øjne være en øjenbredde fra hinanden... her er en artikel skrevet om et eksperiment fra 2008 om specifikt interpupillær afstand mellem øjnene og hvordan de påvirker tiltrækningskraften.

Stærk: Han ser operation som en større del af vores fremtid, især efterhånden som vigtigheden af ​​vores online image vokser.

Hassan: Hele pointen er, at vi ønsker at afklare, hvordan folk ser kirurgi som et mere positivt værktøj til social mobilitet, fordi dit udseende påvirker den måde, du bliver behandlet på, mængden af ​​penge, du tjener, hvordan din socioøkonomiske status kan bevæge sig op eller ned. Hvis du har en deformeret kæbe, vil jeg ikke fortælle dig, at du er smuk, bare som du er. Og det synes jeg, du skal få rettet på, fordi forskning har vist, at en cervikal vinkeldeformitet på f.eks. 130 grader eller mere er meget strengt vurderet som meget uattraktiv af ligesom flertallet af lægmandsbedømmere. Så ligesom ideen om denne politisk korrekte måde at skønhed på, er skønhed noget, jeg gerne vil tage på, selvom det er kontroversielt. Jeg føler, at mange mennesker er enige i det, jeg siger. Og det er åbenbart derfor, jeg har en platform.

Stærk: Jeg spurgte Hassan, om han har modtaget meget kritik for dette arbejde.

Hassan: Sjovt nok var den mest hårde kritik, jeg fik, fra mine venner og familie, da jeg startede, og aldrig kritik fra nogen steder på internettet, øh, folk var meget nysgerrige efter teknologien. Det rejser nogle bekymringer om privatlivets fred, men vi gør naturligvis vores bedste for at holde alt så sikkert som muligt. Det rejser nogle bekymringer om, øh, jeg formoder, en overordnet følelse af kontrol, du ved, at fortælle folk, at det er galt med dit ansigt, bla, bla, bla.

Stærk: Men skønhedsalgoritmer har komme under hård kritik for at fastholde racisme og alderisme. For eksempel var Microsoft og NVIDIA i 2016 vært for en skønhedskonkurrence med en AI-dommer. Og ud af 6.000 bidrag var næsten alle de 44 vindere hvide.

Hassan: Nå, et af de store problemer med skønhedsalgoritmer er, at de typisk trender med kaukasiske ansigter. Og så straffer de, øh, ansigter med ikke-eurocentriske træk meget hårdt, fordi de ikke er trænet med den slags træk. En af tingene, da vi udviklede vores algoritme, er at træne den med så mange forskellige ansigter som muligt. Jeg har altid troet, at attraktive mennesker er deres egen race. Så deres attraktive træk overskrider en slags eurocentrisk eller kaukasisk eller afrocentrisk eller hvilken som helst centrisk du vil se på. Skarpe kæber, skarpe kindben, magert ansigtsfedt, som dette er ikke en eurocentrisk ting. Det er bare en biologi ting.

Stærk: Og Hassan henter sin, 'inspiration', fra den dybt dystopiske 90'er-film Gattaca .

[Lyde fra den teatralske trailer til Gattaca]

Hassan: Så Gattaca er meget virkningsfuldt, fordi mange mennesker ikke er født som de mest genetisk begavede. Og dette går tilbage til ideen om, at berømthederne på toppen, de flotte, attraktive mennesker på toppen er der, bare fordi de er genetisk begavede. Jeg tror ikke helt på, at det er sådan, de er kommet dertil. Jeg tror, ​​at meget af det har at gøre med lidt hjælp fra operationen, lidt hjælp fra kosten, lidt hjælp fra verdensklassetrænere. Det er ting, som de aldrig vil tale om, men det er, det er en del af illusionen om at være uopnåelig og blive ophøjet fra det daglige menneske. Så Gattaca er det bedste indbegreb, den bedste repræsentation af dybest set, hvad vores virksomhed handler om.

Stærk: Mens jeg rapporterede denne historie... besluttede min producer Tate at prøve sit ansigtsvurderingsværktøj. Og at se, hvad der nu udspiller sig, gør mig ekstremt utilpas.

Jeg havde denne oplevelse på en messe for et par år siden... og selvom jeg vidste, at det var en gimmick... plantede det stadig frygt i mit hoved. Og nu på denne zoomskærm? Det går ud over skræmmetaktik og overpris ansigtscreme... dette værktøj anbefaler nåle og knive...

Hassan: Så vi er på hjemmesiden Og så langt så godt, vi scroller ned. Så dette er dit billede. Vi kan uploade det. Jeg er ikke en robot... Her. Her. Ok, og det er de fejl, som computeren opdager.

Hassan: Uddybede nasolabiale folder. Det er disse linjer her, og det er fordi du smiler...Under øjenkonturdepression, som helt sikkert er her...regionen synker bare øjeblikkeligt. Og så går den op igen, når den kommer mod kindbenene. Så generelt for attraktive ansigter er konturen inline. Det flugter med øjnene, så lette, lette mørke rande. hævet nedre øjenlåg, hvilket jeg er enig i. Dette øjenlåg er bestemt virkelig hævet uanset årsagen, men dette er ikke. Så det er det, den opfanger i stedet for 0,5 eller 0,58, hvilket er anstændigt stærkt. en nasal Jugal fedtpude, øh, det er denne pude her, den er meget lille. Og så ved denne 0,3, hvilket er, tror jeg nøjagtigt, er det ikke noget, jeg bekymrer mig meget om, at computeren tror, ​​at du har en epikantisk fold, som er et asiatisk monolid, som de kalder det ... og det er sandsynligvis fordi dit øvre øjenlågsfedt dækker over meget af dit øvre øjenlåg. Så det ser det dybest set som det hele, at være ét øjenlåg.

Stærk: Lad os trykke på pauseknappen her for en eller anden sammenhæng ... hvor mærkeligt det end er for mig at beskrive min ven og kollega på denne måde ... du kan ikke se Tate. Så, med hendes tilladelse … her går vi: hun er høj, blond, har disse store blå øjne, stærke kindben og et kæmpe smil … hun er også ung, som tocifret yngre end jeg er … og hvad disse genetik angår? Hun er datter af en professionel atlet.

Men vi hører anbefalinger om, hvad hun kan gøre for at rette op på sine formodede fejl... inklusive forskellige typer plastikkirurgi... og jeg kan ikke lade være med at tænke på, hvor hårdt dette værktøj kan dømme resten af ​​os... især en, der ikke er ung og hvid.

Stærk: Vi tager en kort pause, men først... Vores venner på Financial Times har relanceret deres podcast, Tech Tonic. Find ud af, hvordan en enhed som din fitbit kan være den første til at vide, at du har covid... eller hvad antitrustlovgivningen betyder for en røget fisk-specialist... innovationsredaktør John Thornhill tager os med ind på skadestuer, krydstogtskibe og klasseværelser for at udforske, hvordan teknologien har omformet vores verden... og hvad det betyder for os.

Alle fem episoder er tilgængelige nu, uanset hvor du får dine podcasts... bare søg tech tonic.

Vi kommer tilbage ... lige efter dette.

[MIDROLL]

Stærk: Hvad vil det sige at tage allerede mangelfulde skønhedsstandarder... stort set pålagt os af os selv... og i stedet? Giv dette rod videre til algoritmer, der er endnu mere fejlbehæftede, fyldt med bias, og som yderligere forstærker eurocentriske funktioner som det definition af hvad der er smukt...

Uanset om det er et Instagram-filter, der gør øjnene større... hud glattere og kæbelinjer skarpere... Eller software, der påpeger, hvordan dine funktioner savner det standardiserede mærke...

...og så ringede vi til en forsker, der undersøger, hvordan teknologien påvirker de valg, vi træffer.

Rhue: Og jeg kiggede på de ansigtsgenkendelsesværktøjer, der var derude for at prøve at forstå billederne bedre. Og det var da jeg indså, at der var scoringsalgoritmer for skønhed.

Stærk: Lauren Rhue er professor ved University of Maryland School of Business.

Rhue: Og jeg syntes, det virker umuligt. Skønhed er helt i beskuerens øje. Der er alle disse forskellige kulturelle standarder, der har med skønhed at gøre. Hvordan kan du træne en algoritme til at afgøre, om nogen er smuk eller ej?

Stærk: Denne type scoring er forskellig fra hvad Hassan gør... men begge anvender den samme teknologi.

Rhue: Nå, du uploader et billede, og de, med en score på nul til 100, vil fortælle dig, hvor smuk denne person er. De faktisk, det papir, jeg skriver, det ser på Face Plus Plus, og de deler det op i et mandligt partitur og et kvindeligt partitur. Så kvinder synes, at denne person er smuk, 85 ud af hundrede, mens mænd tror, ​​at hun måske er 90 ud af hundrede.

Stærk: Det er for det meste uklart, hvilke virksomheder der bruger skønhedsscoringsalgoritmer ... men for dem, der ønsker det, er de let til salg. For eksempel er en af ​​de største spillere i dette - Face Plus Plus, ejet af den kinesiske teknologiske enhjørning, Megvii - Deres skønhedsscoringsfunktion er tilgængelig som en del af deres ansigtsgenkendelsessystem. Instagram og Facebook har nægtet at bruge sådanne algoritmer. TikTok og Snapchat afviste at kommentere ... men Rhue siger, at bare anbefalingsalgoritmerne i sig selv ofte ender med at måle tiltrækningskraft ... uanset om de er beregnet til det.

Rhue: Nå, hvis du ser på, hvad Instagram vil have, vil det i det væsentlige være modeller, ikke? Du kommer ikke til at se mange forskellige typer ansigtstræk og udtryk. Og, og det kommer til at fastholde denne idé om skønhed på grund af manglen på mangfoldighed i det, du ser på Instagram, og hvad der er ekstremt populært på Instagram

Stærk: Med andre ord, de billeder, der vurderes at være smukkest af brugere, får flest likes... og det er det, der bliver anbefalet til andre...

Rhue: Vi indsnævrer typen af ​​billeder, der er tilgængelige for alle.

Stærk: Når du kombinerer det med, at folk i vid udstrækning anvender disse skønhedsfiltre på deres billeder... det har ført til noget, der kaldes instagram-ansigtet... som er en særlig æstetik, der er prioriteret og belønnet på sociale medier. Og det har skabt et nyt idealiseret look, der dominerer platformen.

Rhue: Jeg forstår, at det mere er en underholdningsværdi, hvorfor vi har skønhedsfiltre, men vores valg af skønhedsfiltre er bestemt af kulturen, ikke? Informeret om hvad skønhedsstandarderne er. Og mange gange er der eurocentriske skønhedsstandarder, og det kan du se med nogle af de ansigtsgenkendelsesproblemer, der er blevet ved med at dukke op. Så det faktum, at på zoom kan folk med meget mørk hud, bogstaveligt talt, deres hud gå tabt. For asiatiske ansigter, at deres øjne ikke oprindeligt blev set af kameraer. Ret? Og altså på det faktum, at mange af skønhedsfiltrene er der for at få dine øjne til at se større ud. Og en del af det er, at det er det, folk vil have. Og det er her, jeg tror, ​​hønen og ægget kommer ind. Er det, hvordan vil du udvide dette, ideen om skønhed væk fra blot eurocentriske skønhedsstandarder, hvis vi ser disse skønhedsfiltre, der fastholder visse egenskaber som mere attraktive end andre .

Stærk: Sociale medier er velkendte for at være ekskluderende, ligesom skønhedsindustrien. Men det er AI også.

Rhue: Jeg blev selvfølgelig interesseret i at se, om du kunne se disse kulturelle skævheder i algoritmerne. Og selvfølgelig kan du det. Lad os bare sige, at jeg aldrig har set en kulturfølsom skønheds-AI.

Stærk: Rhues forskning viste, at kvinder med lysere hud og hår konsekvent blev vurderet som mere attraktive end kvinder med mørkere hud og hår. Og også filtre, som bruger ansigtsgenkendelse, vil sandsynligvis have nogle racemæssige bias indbygget. Og konsekvenserne rækker langt ud over den digitale verden.

Rhue: Jeg synes, vi skal være meget forsigtige, når vi tænker på valg i det digitale rum. Jeg mener, der har været omfattende undersøgelser, der har vist, i hvilken rækkefølge du anbefaler noget til nogen, ændrer deres faktiske præferencer. Så da vi har alle disse, øh, anbefalingsalgoritmer og disse beslutningsstøtteværktøjer, der hjælper os med at finde ud af, hvad vi skal købe, eller hvordan vi positionerer os på sociale medier, ændrer det, hvad vi tror, ​​vi ønsker.

Stærk: Og hun mener, at anvendelserne af A-I i skønhed stort set bliver overset af teknologisamfundet.

Rhue: Det er bare ikke noget, vi egentlig taler om. Og jeg synes, det taler om vigtigheden af ​​mangfoldighed i dette rum. Mange mennesker siger: Åh, godt, skønhed er bare ikke vigtigt, fordi vi er teknologiske mennesker, og vi er objektive. Men selvfølgelig mener jeg, skønhed er denne enorme industri... den har sådan en indflydelse på mennesker. Og tanken om, at der ikke er mere forskning, er virkelig interessant for mig.

Stærk: Næste afsnit... vi ser på fremtiden for digitale betalinger.

Omar Farooq: Vi tror på, at der er en vej frem, hvor penge selv kan blive klogere. Så du kan faktisk programmere mønten, og den kan styre, hvem den går til. Så det er ikke rigtig muligt i nutidens centraliserede systemer. Det kan kun gøres i et decentraliseret, smart pengeaktiveret system.

Stærk: Denne episode blev rapporteret af Tate Ryan-Mosley og produceret af mig, Emma Cillekens, Karen Hao og Anthony Green. Vi er redigeret af Michael Reilly og Bobbie Johnson.

Tak fordi du lyttede, jeg er Jennifer Strong.

[TR ID]

skjule