Jeg bad en AI om at fortælle mig, hvor smuk jeg er

Computere rangerer, hvordan folk ser ud - og resultaterne påvirker de ting, vi gør, de opslag, vi ser, og den måde, vi tænker på.

Joan Wong

ved

• Tate Ryan-Mosley arkiv side

5. marts 2021

Jeg stødte først på Qoves Studio gennem dens populære YouTube-kanal, som tilbyder polerede videoer som Gør frisuren et smukt ansigt?, Hvad gør Timothée Chalamet attraktiv? , og Hvordan kæbejustering påvirker sociale opfattelser til millioner af seere.

Qoves startede som et studie, der ville airbrush billeder for modelbureauer; nu er det et ansigtsæstetisk konsulentfirma, der lover svar på det ældgamle spørgsmål om, hvad der gør et ansigt attraktivt. Dens internet side , som viser kridtagtige skitser af parisisk udseende kvinder iført læbestift og farverige hatte, tilbyder en række tjenester relateret til sin plastikkirurgiske konsulentvirksomhed: rådgivning om skønhedsprodukter, for eksempel, og tips til, hvordan du forbedrer billeder ved hjælp af din computer. Men dens mest overbevisende funktion er ansigtsvurderingsværktøjet: et AI-drevet system, der lover at se på billeder af dit ansigt for at fortælle dig, hvor smuk du er – eller ikke er – og derefter fortælle dig, hvad du kan gøre ved det.

I sidste uge besluttede jeg at prøve det. Efter webstedets instruktioner vaskede jeg den lille makeup af, jeg havde på, og fandt en neutral væg oplyst af et lille vindue. Jeg bad min kæreste om at tage nogle nærbilleder af mit ansigt i øjenhøjde. Jeg prøvede hårdt på ikke at smile. Det var det modsatte af glamourøst.

Jeg uploadede det mest tålelige billede, og inden for millisekunder returnerede Qoves et rapport med de 10 forudsagte fejl i mit ansigt. Øverst på listen var en 0,7 sandsynlighed for nasolabiale folder, efterfulgt af en 0,69 sandsynlighed for konturforsænkning under øjnene og en 0,66 sandsynlighed for periokulær misfarvning. Med andre ord mistænkte den (korrekt) at jeg har mørke poser under øjnene og smilerynker, som begge registreres som problematiske med AI'en.

Mine resultater fra Qoves ansigtsvurderingsværktøj

Rapporten returnerede hjælpsomt anbefalinger, som jeg kunne tage for at løse mine mangler. Først informerede en foreslået artikel om smilelinjer mig, at de muligvis har brug for injicerbar eller kirurgisk indgreb. Hvis jeg ville, kunne jeg opgradere til en mere fyldestgørende rapport med kirurgiske anbefalinger, skrevet af læger, på niveauer på $75, $150 og $250. Det foreslog også fem sera, jeg kunne prøve først, hver med en anden hudplejeingrediens – retinol, neuropeptider, hyaluronsyre, EGF og TNS. Jeg havde kun hørt om retinol. Før sengetid den aften kiggede jeg ingredienserne i min ansigtscreme igennem for at se, hvad den indeholdt.

Jeg var fascineret. Værktøjet havde brudt mit udseende op i en liste over små problemer - en laser trænet i, hvad den troede var galt med mit udseende.

Qoves er dog kun en lille startup med 20 ansatte i et hav af ansigtsanalysevirksomheder og -tjenester. Der er en voksende industri af ansigtsanalyseværktøjer drevet af AI, som hver hævder at analysere et billede for egenskaber såsom følelser, alder eller tiltrækningskraft. Virksomheder, der arbejder på sådanne teknologier, er en darling af venturekapital, og sådanne algoritmer bruges i alt fra online kosmetiksalg til dating-apps. Disse skønhedsscoringsværktøjer, der er let tilgængelige til køb online, bruger ansigtsanalyse og computersyn til at evaluere ting som symmetri, øjenstørrelse og næseform for at sortere igennem og rangere millioner af visuelt indhold og vise de mest attraktive mennesker.

Disse algoritmer træner en slags maskinblik på fotografier og videoer og spytter numeriske værdier ud, der ligner kreditvurderinger, hvor de højeste score kan låse op for de bedste online muligheder for likes, visninger og kampe. Hvis denne udsigt ikke er bekymrende nok, forværrer teknologien også andre problemer, siger eksperter. De fleste skønhedsscoringsalgoritmer er fyldt med unøjagtigheder, alderisme og racisme - og den proprietære karakter af mange af disse systemer betyder, at det er umuligt at få indsigt i, hvordan de virkelig fungerer, hvor meget de bliver brugt, eller hvordan de påvirker brugerne.

Qoves anbefalede visse handlinger for at rette mine 'forudsagte fejl'

Spejl, spejl på væggen...

Tests som dem, der er tilgængelige fra Qoves, findes overalt på internettet. Den ene drives af verdens største åbne ansigtsgenkendelsesplatform, Ansigt++ . Dens skønhedsscoringssystem er udviklet af det kinesiske billedbehandlingsfirma Megvii og bruger ligesom Qoves kunstig intelligens til at undersøge dit ansigt. Men i stedet for at detaljere, hvad det ser i klinisk sprog, koger det sine resultater ned i en procentvis grad af sandsynlig attraktivitet. Faktisk giver det to resultater: en score, der forudsiger, hvordan mænd kan reagere på et billede, og den anden, der repræsenterer et kvindeligt perspektiv. Ved at bruge tjenestens gratis demo og det samme uglamorøse billede fik jeg hurtigt mine resultater. Mænd synes generelt, at denne person er smukkere end 69,62 % af personerne, og kvinder synes generelt, at denne person er smukkere end 73,877 %.

Det var antiklimaktisk, men bedre end jeg havde forventet. Et år inde i pandemien kan jeg se virkningen af ​​stress, vægt og lukkede frisørsaloner på mit udseende. Jeg testede værktøjet igen med to andre billeder af mig selv fra Før, som jeg begge kunne lide. Mine resultater blev forbedret, og skubbede mig nær den øverste 25. percentil.

Skønhed er ofte subjektiv og personlig: vores kære virker attraktive for os, når de er sunde og glade, og selv når de er triste. Andre gange er det en kollektiv dom: Rangordninger som skønhedskonkurrencer eller magasinlister over de smukkeste mennesker viser, hvor meget vi behandler attraktivitet som en præmie. Denne vurdering kan også være grim og ubehagelig: Da jeg var teenager, råbte drengene i min gymnasieskole tal fra et til 10 til piger, der gik forbi på gangen. Men der er noget uhyggeligt ved en maskine, der vurderer skønheden i nogens ansigt – den er lige så ubehagelig som råb i skolen, men matematikken i den føles foruroligende umenneskelig.

Min skønhedsscore er resultatet af Face++

Under kølerhjelmen

Selvom konceptet med at rangere folks tiltrækningskraft ikke er nyt, er den måde, disse særlige systemer fungerer på, en relativt frisk udvikling: Face++ udgav sin skønhedsscoringsfunktion i 2017.

Da man blev spurgt om detaljer om, hvordan algoritmen fungerer, ville en talsmand for Megvii kun sige, at den blev udviklet for omkring tre år siden som svar på det lokale markedsinteresse for underholdningsrelaterede apps. Virksomhedens hjemmeside indikerer, at kinesiske og sydøstasiatiske ansigter blev brugt til at træne systemet, som tiltrak 300.000 udviklere kort efter det blev lanceret, men der er lidt anden information.

En talsmand for Megvii siger, at Face++ er en open source-platform, og den kan ikke kontrollere, hvordan udviklere kan bruge den, men hjemmesiden foreslår kosmetisk salg og matchmaking som to potentielle applikationer.

Virksomhedens kendte kunder er bl.a den kinesiske regerings overvågningssystem , som dækker landet med CCTV-kameraer, samt Alibaba og Lenovo. Megvii ansøgte for nylig om en børsnotering og er i øjeblikket vurderet til $4 milliarder. Ifølge rapportering i New York Times er det et af tre ansigtsgenkendelsesfirmaer, der har hjulpet den kinesiske regering i at identificere borgere, der kan tilhøre den uighurske etniske minoritet.

Hvordan konvolutionelle neurale netværk fungerer

• Konvolutionelle neurale netværk ser på billeder og videoer for at analysere og kategorisere de objekter, de skildrer på flere niveauer af analyse. Et lag af netværket kan f.eks. identificere kanterne på en menneskelig hånd; en anden kan finde fingre, en anden hænder, en anden arme og et andet folk.

• Yderligere lag reagerer på højere abstraktionsniveauer: hvis dette er et træ, hvad har netværket så lært om træer? Hvis det er en gade, hvad er de ting på en gade, den skal forvente at se? For eksempel kan et foldet neuralt netværk vurdere et billede af et ansigt med en skarp kæbelinje som meget sandsynligt at være attraktivt, fordi det bestemte, at kæbeskarphed var en særlig stærk indikator for den menneskelige skønhedsscore, det var trænet til at replikere.

Qoves var i mellemtiden mere åben om, hvordan dets ansigtsanalyse fungerer. Virksomheden, som er baseret i Australien, blev grundlagt som et fotoretoucheringsfirma i 2019, men skiftede til en kombination af AI-drevet analyse og plastikkirurgi i 2020. Dets system bruger en almindelig dyb-læringsteknik kendt som en konvolutionerende neurale netværk eller CNN. De CNN'er, der plejede at vurdere attraktivitet, træner typisk på et datasæt med hundredtusindvis af billeder, som allerede er blevet manuelt scoret for tiltrækningskraft af folk. Ved at se på billederne og de eksisterende vurderinger udleder systemet, hvilke faktorer folk anser for attraktive, så det kan komme med forudsigelser, når der vises nye billeder.

Andre store virksomheder har investeret i skønheds-AI'er i de seneste år. De omfatter den amerikanske kosmetikforhandler Ulta Beauty til en værdi af 18 milliarder dollars, som udviklede en værktøj til hudanalyse . Nvidia og Microsoft støttede en robot skønhedskonkurrence i 2016, hvilket udfordrede deltagere til at udvikle den bedste AI for at bestemme tiltrækningskraft.

Ifølge Evan Nisselson, en partner hos LDV Capital, er visionsteknologi stadig i de tidlige stadier, hvilket skaber 'betydelige investeringsmuligheder og upside'. LDV anslår, at der vil være 45 milliarder kameraer i verden til næste år, ikke inklusive dem, der bruges til fremstilling eller logistik, og hævder, at visuelle data vil være nøgledatainput for AI-systemer i den nærmeste fremtid. Nisselson siger, at ansigtsanalyse er 'et enormt marked', der i løbet af tiden vil involvere 'genopfindelse af teknologistakken for at komme til det samme eller tættere på eller endda bedre end et menneskes øje.'

Qoves grundlægger Shafee Hassan hævder, at skønhedsscoring kan være endnu mere udbredt. Han siger, at sociale medier apps og platforme ofte bruger systemer, der scanner folks ansigter, scorer dem for attraktive og giver mere opmærksomhed til dem, der rangerer højere. Det, vi gør, er at gøre noget, der ligner Snapchat, Instagram og TikTok, siger han. men vi gør det mere gennemsigtigt.

Han tilføjer: De bruger det samme neurale netværk, og de bruger de samme teknikker, men de fortæller dig ikke, at [de har] identificeret, at dit ansigt har disse nasolabiale folder, det har en tynd vermilion, det har alle disse ting, derfor [vil de] straffe dig som værende et mindre attraktivt individ.

Jeg kontaktede en række virksomheder – inklusive datingtjenester og sociale medieplatforme – og spurgte, om skønhedsscoring er en del af deres anbefalingsalgoritmer. Instagram og Facebook har nægtet at bruge sådanne algoritmer. TikTok og Snapchat afviste at kommentere rekorden.

JOAN WONG

Store sorte kasser

Nylige fremskridt inden for deep learning har dramatisk ændret nøjagtigheden af ​​skønheds-AI'er. Før dyb læring, var ansigtsanalyse afhængig af funktionsteknologi, hvor en videnskabelig forståelse af ansigtstræk ville guide AI. Formlen for et attraktivt ansigt kan for eksempel være indstillet til at belønne store øjne og en skarp kæbe. Forestil dig at se på et menneskeligt ansigt og se en Leonardo da Vinci-stil afbildning af alle proportionerne og afstanden mellem øjnene og den slags ting, siger Serge Belongie, professor i computersyn ved Cornell University. Med fremkomsten af ​​deep learning handlede det hele om big data og store sorte bokse med neurale netberegninger, der bare knasede på enorme mængder mærkede data, siger han. Og i sidste ende fungerer det bedre end alle de andre ting, som vi har arbejdet med i årtier.

Men der er en hage. Vi er stadig ikke helt sikre på, hvordan det fungerer, siger Belongie. Industrien er glad, men den akademiske verden er lidt forundret. Fordi skønhed er yderst subjektivt, er det bedste, en dyb-lærende skønhed AI kan gøre, nøjagtigt at genskabe præferencerne for de træningsdata, der bruges til at lære det. Selvom nogle AI-systemer nu vurderer attraktivitet lige så præcist som mennesker i et træningssæt, betyder det, at systemerne også udviser en lige så stor bias. Og vigtigst af alt, fordi systemet er uudgrundeligt, er det en vanskelig og beregningsmæssigt dyr opgave at placere autoværn på algoritmen, der kan minimere skævheden.

Belongie siger, at der er applikationer af denne slags teknologi, der er mere anodyne og mindre problematiske end at score et ansigt for tiltrækningskraft - et værktøj, der for eksempel kan anbefale det smukkeste fotografi af en solnedgang på din telefon. Men skønhedsscoring er anderledes. Det er for mig en meget skræmmende indsats, siger han.

Selvom træningsdata og kommerciel brug er så upartisk og sikker som muligt, har computersyn tekniske begrænsninger, når det kommer til menneskelige hudtoner. Billedchips, der findes i kameraer, er forudindstillet til at behandle en bestemt række af dem. Historisk set blev nogle hudtoner simpelthen udeladt af bordet, ifølge Belongie, hvilket betyder, at selve billederne måske ikke engang er blevet udviklet med bestemte hudtoner i tankerne. Selv de ædleste ambitioner med hensyn til at fange alle former for menneskelig skønhed har måske ikke en chance, fordi lysstyrkeværdierne ikke engang er repræsenteret nøjagtigt.

Og disse tekniske skævheder viser sig som racisme i kommercielle applikationer. I 2018 var Lauren Rhue, en økonom, som er assisterende professor i informationssystemer ved University of Maryland, College Park, på udkig efter ansigtsgenkendelsesværktøjer, der kunne hjælpe hende med at studere digitale platforme, da hun faldt over dette sæt usædvanlige produkter.

Jeg indså, at der var scoringsalgoritmer for skønhed, siger hun. Og jeg tænkte, det virker umuligt. Jeg mener, skønhed er helt i beskuerens øje. Hvordan kan du træne en algoritme til at afgøre, om nogen er smuk eller ej? At studere disse algoritmer blev hurtigt et nyt fokus for hendes forskning.

Ved at se på, hvordan Face++ vurderede skønhed, fandt hun ud af, at systemet konsekvent rangerede kvinder med mørkere hud som mindre attraktive end hvide kvinder, og at ansigter med europæisk-lignende træk såsom lysere hår og mindre næser scorede højere end dem med andre træk, uanset hvor mørk deres hud var. Den eurocentriske skævhed i AI afspejler skævheden hos de mennesker, der scorede de billeder, der blev brugt til at træne systemet, kodificere og forstærke det – uanset hvem der ser på billederne. Kinesiske skønhedsstandarder prioriterer for eksempel lysere hud, brede øjne og små næser.

En sammenligning af to billeder af Beyonce Knowles fra Lauren Rhues forskning ved hjælp af Face++. Dens AI forudsagde, at billedet til venstre ville vurderes til 74,776% for mænd og 77,914% for kvinder. Billedet til højre scorede i mellemtiden 87,468% for mænd og 91,14% for kvinder i sin model .

Skønhedsresultater, siger hun, er en del af en foruroligende dynamik mellem en i forvejen usund skønhedskultur og de anbefalingsalgoritmer, vi støder på hver dag online. Når scores bruges til at afgøre, hvis indlæg dukker op på sociale medieplatforme, for eksempel, forstærker det definitionen af, hvad der anses for attraktivt, og fjerner opmærksomheden fra dem, der ikke passer til maskinens strenge ideal. Vi indsnævrer de typer billeder, der er tilgængelige for alle, siger Rhue.

Det er en ond cirkel: Med flere øjne på indholdet med attraktive mennesker, er disse billeder i stand til at samle større engagement, så de vises til stadig flere mennesker. Til sidst, selv når en høj skønhedsscore ikke er en direkte årsag til, at et indlæg vises til dig, er det en indirekte faktor.

I en undersøgelse udgivet i 2019, så hun på, hvordan to algoritmer, en for skønhedsscore og en for aldersforudsigelser, påvirkede folks meninger. Deltagerne blev vist billeder af mennesker og bedt om at vurdere forsøgspersonernes skønhed og alder. Nogle af deltagerne fik vist scoren genereret af en AI, før de gav deres svar, mens andre slet ikke fik vist AI-score. Hun fandt ud af, at deltagere uden viden om AI's vurdering ikke udviste yderligere bias; Men at vide, hvordan AI rangerede folks attraktivitet, fik folk til at give scores tættere på det algoritmisk genererede resultat. Rhue kalder dette forankringseffekten.

Anbefalingsalgoritmer ændrer faktisk, hvad vores præferencer er, siger hun. Og udfordringen set fra et teknologisk perspektiv er selvfølgelig ikke at indsnævre dem for meget. Når det kommer til skønhed, ser vi meget mere en indsnævring, end jeg havde forventet.

'Jeg så ingen grund til ikke at vurdere dine fejl, for der er måder, du kan rette det på.'

Shafee Hassan, Qoves Studio

Hos Qoves siger Hassan, at han har forsøgt at tackle spørgsmålet om race på hovedet. Når han udfører en detaljeret ansigtsanalyserapport – den slags som kunder betaler for – forsøger hans studie at bruge data til at kategorisere ansigtet efter etnicitet, så alle ikke blot bliver vurderet i forhold til et europæisk ideal. Du kan undslippe denne eurocentriske skævhed bare ved at blive den flotteste version af dig selv, den flotteste version af din etnicitet, den flotteste version af din race, siger han.

Men Rhue siger, at hun bekymrer sig om, at denne form for etnisk kategorisering bliver indlejret dybere i vores teknologiske infrastruktur. Problemet er, at folk gør det, uanset hvordan vi ser på det, og der er ingen form for regulering eller tilsyn, siger hun. Hvis der er nogen form for stridigheder, vil folk forsøge at finde ud af, hvem der hører til i hvilken kategori.

Lad os bare sige, at jeg aldrig har set en kulturelt følsom skønheds-AI, siger hun.

Anbefalingssystemer behøver ikke at være designet til at evaluere for attraktivitet for at ende med at gøre det alligevel. I sidste uge rapporterede den tyske tv-station BR, at en kunstig intelligens, der blev brugt til at evaluere potentielle medarbejdere, viste skævheder baseret på udseende. Og i marts 2020 kom TikToks moderselskab, ByteDance, under kritik for et notat, der instruerede indholdsmoderatorer at undertrykke videoer, der viste grimme ansigtsudseende, folk, der var buttede, dem med et misformateret ansigt eller mangel på fortænder, ældre mennesker med for mange rynker og meget mere. Twitter udgav for nylig et autobeskæringsværktøj til fotografier, der syntes at prioritere hvide mennesker . Da den blev testet på billeder af Barack Obama og Mitch McConnell, beskærede auto-cropping AI konsekvent den tidligere præsident.

Hvem er den smukkeste af dem alle?

Da jeg første gang talte med Qoves-grundlæggeren Hassan via videoopkald i januar, fortalte han mig, at jeg altid har troet, at attraktive mennesker er deres egen race.

Da han startede i 2019, siger han, var hans venner og familie meget kritiske over for hans forretningsforetagende. Men Hassan mener, at han hjælper folk med at blive den bedst mulige udgave af sig selv. Han henter sin inspiration fra filmen fra 1997 Gattaca , som finder sted i en ikke alt for fjern fremtid, hvor genteknologi er standardmidlet til undfangelse. Genetisk diskrimination segmenterer samfundet, og Ethan Hawkes karakter, som blev undfanget naturligt, er nødt til at stjæle identiteten af ​​en genetisk perfektioneret person for at komme rundt i systemet.

Den betragtes normalt som en dybt dystopisk film, men Hassan siger, at den efterlod et uventet spor.

Relateret historie

Aktivisten afmonterer racistiske politialgoritmer Hamid Khan vinder sin kamp for afskaffelsen af ​​overvågningsteknologi, der bruges af LAPD

Det var meget interessant for mig, for hele ideen var, at en person kan bestemme sin skæbne. Den måde, de vil se ud, er en del af deres skæbne, siger han. Med hvor langt moderne medicin er nået, så jeg ingen grund til ikke at vurdere dine fejl, for der er måder, du kan løse det på.

Hans klienter synes at være enige. Han hævder, at mange af dem er skuespillere og skuespillerinder, og at virksomheden modtager alt fra 50 til 100 ordrer på detaljerede lægerapporter hver dag - så mange, at det har svært ved at følge med efterspørgslen. For Hassan er det kernen i hans mission at bekæmpe den kommende klassisme mellem dem, der anses for smukke og dem, samfundet synes er grimme. Det, vi forsøger at gøre, er at hjælpe den gennemsnitlige person, fortalte han mig.

Der er dog andre måder at hjælpe den gennemsnitlige person på. Hver ekspert, jeg talte med, sagde, at åbenhed og gennemsigtighed fra virksomheder, der bruger skønhedsscoring, er altafgørende. Belongie mener, at at presse virksomheder til at afsløre, hvordan deres anbefalingsalgoritmer fungerer, vil hjælpe med at holde brugerne sikre. Virksomheden burde eje det og sige ja, vi bruger forudsigelse af ansigtsskønhed, og her er modellen. Og her er et repræsentativt galleri af ansigter, som vi mener, baseret på din browseradfærd, du finder attraktive. Og det synes jeg, at brugeren skal være opmærksom på og kunne interagere med. Han siger, at funktioner som Facebooks værktøj til annoncegennemsigtighed er en god start, men hvis virksomhederne ikke gør det, og de laver noget som Face++, hvor de bare tilfældigt antager, at vi alle er enige om skønhed ... der kan være magtmæglere, der tog bare den beslutning.

Selvfølgelig skal industrien først indrømme, at den bruger disse scoringsmodeller i første omgang, og offentligheden skal være opmærksom på problemet. Og selvom det seneste år har bragt opmærksomhed og kritik af ansigtsgenkendelsesteknologi , sagde flere forskere, jeg talte med, at de var overraskede over den manglende bevidsthed om denne brug af det. Rhue siger, at det mest overraskende ved skønhedsscoring har været, hvor få mennesker, der undersøger det som et emne. Hun er ikke overbevist om, at teknologien overhovedet skal udvikles.

Da Hassan gennemgik mine egne fejl med mig, forsikrede han mig om, at en god fugtighedscreme og noget vægttab burde gøre det trick. Og selvom mit ansigts æstetik ikke bestemmer min karriere, opfordrede han mig til at tage mine resultater alvorligt.

Skønhed, mindede han mig om, er en valuta.