Emotion AI-forskere siger, at overdrevne påstande giver deres arbejde et dårligt navn

En illustration. Til venstre spredte udskæringer af ansigtsdele som øjne og mund indeholdt i en æske. Mellem: et komplet ansigt, lukkede øjne. Til højre: et netværk i form af et hoved. Franziska Barczyk

Måske har du hørt om AI, der udfører interviews. Eller måske er du selv blevet interviewet af en. Virksomheder som HireVue hævder, at deres software kan analysere videointerviews for at finde ud af en kandidats beskæftigelsesegnethedsscore . Algoritmerne vurderer ikke kun ansigts- og kropsholdning for udseende; de fortæller også arbejdsgiverne, om den interviewede er ihærdig eller god til at arbejde i et team . Disse vurderinger kan have en stor effekt på en kandidats fremtid. I den OS og Sydkorea , hvor AI-assisteret ansættelse er blevet stadig mere populær, uddanner karrierekonsulenter nu nye kandidater og jobsøgende i, hvordan man interviewer med en algoritme. Denne teknologi bliver også implementeret på børn i klasseværelser og er blevet brugt i undersøgelser til at opdage bedrag i retssalsvideoer .

Men mange af disse løfter er ikke understøttet af videnskabelig konsensus. Der er ingen stærke, peer-reviewede undersøgelser, der beviser, at analyse af kropsholdning eller ansigtsudtryk kan hjælpe med at vælge de bedste arbejdere eller studerende (til dels fordi virksomheder er hemmelighedsfulde omkring deres metoder). Som et resultat, hypen omkring følelsesgenkendelse, som er s forventes at være et 25 milliarder dollars marked i 2023 , har skabt et rygstød fra tech-etikere og aktivister, der frygter, at teknologien kan rejse de samme former for diskriminationsproblemer som forudsigende strafudmåling eller boligalgoritmer for udlejere, der bestemmer, hvem de skal leje ud til.

Hypen bekymrer også forskerne. Mange er enige om, at deres arbejde - som bruger forskellige metoder (som at analysere mikroudtryk eller stemme) til at skelne og fortolke menneskelige udtryk - bliver co-opteret og brugt i kommercielle applikationer, der har et vaklende grundlag i videnskaben. De siger, at mangel på regeringsregulering ikke kun er dårligt for forbrugerne. Det er også dårligt for dem.

Det gode og det onde

Følelsesgenkendelse, en delmængde af affektiv databehandling, er stadig en ny teknologi. Efterhånden som AI-forskere har testet grænserne for, hvad vi kan og ikke kan kvantificere om menneskelig adfærd, er den underliggende videnskab om følelser fortsat med at udvikle sig. Der er stadig flere teorier, for eksempel om, hvorvidt følelser kan skelnes diskret eller falde på et kontinuum. I mellemtiden kan de samme udtryk betyde forskellige ting i forskellige kulturer. I juli, en meta-studie konkluderede, at det ikke er muligt at bedømme følelser ved blot at se på en persons ansigt. Undersøgelsen blev bredt dækket (inklusive i denne publikation), ofte med overskrifter, der tydede på det følelsesgenkendelse kan man ikke stole på .

Forskere i følelsesgenkendelse er allerede klar over denne begrænsning. Dem, vi talte med, var forsigtige med at komme med påstande om, hvad deres arbejde kan og ikke kan. Mange understregede, at følelsesgenkendelse faktisk ikke kan vurdere et individs indre følelser og oplevelse. Det kan kun vurdere, hvordan det pågældende individs følelser kan blive opfattet af andre, eller foreslå brede, befolkningsbaserede tendenser (såsom en film, der i gennemsnit fremkalder en mere positiv reaktion end en anden). Ingen seriøs forsker vil påstå, at man kan analysere handlingsenheder i ansigtet, og så ved man faktisk, hvad folk tænker, siger Elisabeth André, affektiv computerekspert ved Universitetet i Augsburg.

Forskere bemærker også, at følelsesgenkendelse involverer langt mere end blot at se på nogens ansigt. Det kan også involvere at observere kropsholdning, gang og andre karakteristika, samt at bruge biometriske sensorer og lyd til at indsamle mere holistiske data.

Sådanne sondringer er fine, men vigtige: de diskvalificerer applikationer som HireVue, der hævder at vurdere en persons iboende kompetence, men understøtter andre, såsom teknologier, der sigter mod at gøre maskiner til mere intelligente samarbejdspartnere og ledsagere for mennesker. (HireVue svarede ikke på en anmodning om kommentar.) En menneskelig robot kunne smile, når du smilede – en spejlingshandling, som mennesker ofte bruger for at få interaktioner til at føles mere naturlige. En bærbar enhed kunne minde dig om at hvile, hvis den opdagede højere niveauer end baseline niveauer af cortisol, kroppens stresshormon. Ingen af ​​disse applikationer kræver en algoritme til at vurdere dine private tanker og følelser; de kræver kun en vurdering af en passende reaktion på kortisolniveauer eller kropssprog. De træffer heller ikke store beslutninger om en persons liv - i modsætning til ubeviste ansættelsesalgoritmer. Hvis vi vil have computere og computersystemer til at hjælpe os, ville det være positivt, hvis de havde en fornemmelse af, hvordan vi har det, siger Nuria Oliver, chefdataforsker hos nonprofitorganisationen DataPop Alliance.

Men meget af denne nuance går tabt, når forskning i følelsesgenkendelse bruges til at lave lukrative kommercielle applikationer. De samme stress-overvågningsalgoritmer i en wearable kan bruges af en virksomhed, der forsøger at sikre, at du arbejder hårdt nok. Selv for virksomheder som Affectiva, grundlagt af forskere, der taler om vigtigheden af ​​privatliv og etik, er grænserne svære at definere. Det har solgt sin teknologi til HireVue . (Affectiva afviste at kommentere specifikke virksomheder.)

En opfordring til regulering

I december opfordrede forskningsinstituttet AI Now til et forbud mod teknologier til følelsesgenkendelse i vigtige beslutninger, der påvirker menneskers liv . Det er en af ​​de første opfordringer til at forbyde en teknologi, der har fået mindre lovgivningsmæssig opmærksomhed end andre former for kunstig intelligens, selvom dens brug i jobscreening og klasseværelser kan have alvorlige konsekvenser.

I modsætning hertil holdt kongressen bare sit tredje høring om ansigtsgenkendelse på mindre end et år , og det har den blive et emne ved valget i 2020 . Aktivister arbejder på at boykotte ansigtsgenkendelsesteknologier, og flere repræsentanter anerkender behovet for regulering i både den private og offentlige sektor. For affective computing har der ikke været så mange dedikerede kampagner og arbejdsgrupper, og forsøg på regulering har været begrænsede. En Illinois-lov regulering af AI-analyse af jobsamtalevideoer trådte i kraft i januar, og Federal Trade Commission er blevet bedt om at undersøge H ireVue (selvom der ikke er noget ord om, hvorvidt den har til hensigt at gøre det).

Selvom mange forskere mener, at et forbud er for bredt, er de enige om, at et lovgivningsmæssigt vakuum også er skadeligt. Vi har klart definerede processer for at certificere, at visse produkter, vi indtager – det være sig mad, vi spiser, hvad enten det er medicin, vi tager – de er sikre for os at tage dem, og de gør faktisk, hvad de hævder, at de gør, siger Oliver . Vi har ikke de samme processer for teknologi. Hun mener, at virksomheder, hvis teknologier kan påvirke menneskers liv markant, skal bevise, at de opfylder en vis sikkerhedsstandard.

Rosalind Picard, en professor ved MIT Media Lab, der var medstifter af Affectiva og en anden affektiv computerstartup, Empatica, gentager denne følelse. For en eksisterende model for regulering peger hun på Lov om beskyttelse af medarbejderpolygrafer begrænsning af brugen af ​​løgnedetektorer, som hun siger i bund og grund er en affektiv computerteknologi. For eksempel forbyder loven de fleste private arbejdsgivere at bruge polygrafer og lader ikke arbejdsgivere spørge om resultaterne af løgnedetektortest.

Hun foreslår, at al brug af sådanne teknologier bør være opt-in, og at virksomheder skal være forpligtet til at oplyse, hvordan deres teknologier blev testet, og hvad deres begrænsninger er. Det, vi har i dag, er, at [virksomheder] kan komme med de her uhyrlige påstande, som bare er falske, for lige nu er køberen ikke så veluddannet, siger hun. Og vi skal ikke kræve, at køberne er veluddannede. (Picard, der siger, at hun forlod Affectiva i 2013, støtter ikke de påstande, som HireVue fremsætter.)

Meredith Whittaker, en forsker ved NYU og meddirektør for AI Now, understreger på sin side forskellen mellem forskning og kommercialisering. Vi bestrider ikke hele feltet af affective computing, siger hun. Vi kalder især den uregulerede, uvaliderede, videnskabeligt ubegrundede udbredelse af kommercielle affektgenkendelsesteknologier. Kommercialisering skader folk lige nu, potentielt, fordi det fremsætter påstande, der bestemmer folks adgang til ressourcer.

Et forbud mod at bruge følelsesgenkendelse i applikationer som jobscreening ville hjælpe med at forhindre kommercialisering i at overgå videnskaben. Stop først udbredelsen af ​​teknologierne, siger hun, og invester derefter i forskning. Hvis forskningen bekræfter, at teknologierne fungerer, som virksomheder hævder, så overvej at løsne forbuddet.

Andre regler ville dog stadig være nødvendige for at holde folk sikre: der er i sidste ende mere at overveje, hævder Whittaker, end blot videnskabelig troværdighed. Vi er nødt til at sikre, når disse systemer bruges i følsomme sammenhænge, ​​at de kan anfægtes, at de bruges retfærdigt, siger hun, og at de ikke fører til øget magtasymmetri mellem de mennesker, der bruger dem, og de mennesker, som de bruger dem på. er brugt.

skjule