AI læser menneskelige følelser. Skulle det?

AI kan aflæse din følelsesmæssige reaktion på reklamer og dine ansigtsudtryk i en jobsamtale. Men hvis det allerede kan gøre alt dette, hvad sker der så? I del to af en serie om emotion AI udforsker Jennifer Strong og teamet hos MIT Technology Review implikationerne af, hvordan det bruges, og hvor det er på vej hen i fremtiden.

Vi møder:

• Shruti Sharma, VSCO
• Gabi Zijderveld, Affectiva
• Tim VanGoethem, Harman
• Rohit Prasad, Amazon
• Meredith Whittaker, NYU's AI Now Institute

Credits:

Denne episode blev rapporteret og produceret af Jennifer Strong, Karen Hao, Tate Ryan-Mosley og Emma Cillekens. Vi fik hjælp fra Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield.

Udskrift af hele episoden:

Jennifer Strong : I denne æra med Covd-19 er så mange af de relationer og oplevelser, vi engang nød personligt, nu medieret af teknologi. Uanset om du arbejder hjemmefra, hjælper med at uddanne børn fra dine egne vægge, eller som så mange af os gør begge dele, er videoopkaldet en ny konstant, der sandsynligvis ikke forsvinder. Uanset om du er i et Zoom-rum, Google Meet eller noget andet, er virkeligheden, at den sandsynligvis er kommet for at blive, selv efter at dette nuværende øjeblik er gået. Og der er noget ved denne oplevelse, der føles distanceret og afbrudt. Som om du kommunikerer gennem et filter. Simple samtaler afbrudt af internetfejl eller tabt i oversættelse. Hvad hvis denne teknologi kunne bruges til at forbedre interaktioner i stedet for at dæmpe dem? Hvad hvis det kunne reagere på dit kropssprog, dine vokale intonationer, for at hjælpe dig med at formidle mere end bare ord? Det er noget Affectiva-stifter Rana el Kaliouby antydede, da vi talte til vores sidste afsnit.

Rana el Kaliouby : Hvor jeg præsenterer for at sige hundrede fjerntliggende mennesker, hvis det var en rigtig live-begivenhed, ville jeg rive energien fra menneskerne i rummet, og det kan jeg ikke gøre online. Og det er, det er virkelig smertefuldt, og jeg hader det. [griner] Så jeg bliver ved med at forestille mig som en graf i realtid over niveau af engagement, niveau af latter, måske lignende en emoji-stream eller noget, der bare giver folk en følelse af denne fælles oplevelse.

Jennifer Strong : Hendes virksomhed og mange andre skynder sig at arbejde på denne slags muligheder, men meget af den teknologi, der kan drive sådanne ting, er allerede i brug ofte på uventede måder. Såsom at måle ansigtsudtryk hos mennesker, der har fået et slagtilfælde.

Gabi Zijderveld : Der er en masse social stigma knyttet til det, fordi folk tror, ​​at disse mennesker ser vrede ud, eller de skuler, men de fik et slagtilfælde og kan ikke smile. Typisk måler kirurger, om deres genopbygning af smil er vellykket eller ej, ved at kilde deres patienter, og så begynder de at grine, og de vil bruge en lineal og måle millimeterbevægelser.

Jennifer Strong : Og en kirurg syntes, den metode var latterlig.

Gabi Zijderveld : Så ved at bruge vores emotion AI byggede han et softwaresystem til at benchmarke og måle, hvor succesfuld han er, og genopbygge patienternes smil.

Jennifer Strong: Jeg er Jennifer Strong, og i del to af vores serie, der udforsker emotion AI, ser vi på, hvordan det allerede bliver anvendt, og hvor det kan føre os hen i fremtiden.

[VIS ID]

Shruti Sharma : Ok, så jeg vil dele min skærm her. Lad mig vide, hvis du kan se det.

Jennifer Strong : Shruti Sharma er senior engineering manager for machine learning på fotoappen kaldet VSCO.

Shruti Sharma : Og så ser du bare disse orange persienner i et mørkt sort udseende værelse. Og de billeder, der er relateret, der dukker op, er en slags mystisk følelse af spil af lys og mørke og lys og skygger i det væsentlige.

Jennifer Strong : Disse billeder blev valgt af Ava, som er en AI, der vurderer billeder og kategoriserer dem efter humør og følelser. En type sortering, som før blev udført af mennesker. Og vi taler ikke om strandlandskaber, der falder i samme bunke, eller en hel masse kattebilleder samlet. Dette er meget mere nuanceret. Jeg havde ikke forventet dette. Det er ikke bare den samme farvenuance, det fremkalder virkelig den samme slags følelse fra foto til billede.

Shruti Sharma : Så for os er målet med at genkende stemningen og følelsen eller følelserne i et billede i bund og grund at fange den essens, som kun et menneske ellers ville være i stand til at se. Vores maskinlæringsteknologi, Ava, ser ikke kun på billedets indhold, men også egenskaber, der er meget specifikke for fotografering, som bidrager til disse følelser og følelser, som et billede frembringer hos mennesker... ting som komposition, skudstil , æstetisk.

Jennifer Strong : Denne app er en kreativ platform for fotografer.

Shruti Sharma : Det faktum, at alle disse billeder på en måde har en følelse af, at der sker mere her end det, vi ser på billedet. Det er svært at sige, hvad der foregår fuldt ud, og der er ligesom følelsen af ​​mystik her, som bliver fremkaldt. Det er en meget personlig følelse, som fotografier fremkalder, og for en maskine at kunne sortere billeder ud fra det, vækker det næsten glæde i mit hjerte. [grine]

Jennifer Strong : I modsætning til andre anvendelser af denne teknologi, hvis AI går glip af en kategori eller en klassifikation, er indsatsen her ret lav.

Shruti Sharma : Hvilket jeg også synes er det smukke ved det. Ret? Er maskinen som at lave en fejl, eller giver den dig bare et andet perspektiv? Og jeg synes, det er lidt af begge dele nogle gange.

Jennifer Strong : Men at sortere billeder er kun toppen af ​​isbjerget.

Gabi Zijderveld : Så hvis du kunne klikke på det...

Karen Hao : Okay.

Gabi Zijderveld : Og det er bedst, hvis du kører, for så kan du prøve demoen.

Jennifer Strong : Gabi Zijderveld er chief marketing officer hos Affectiva. Hun går min kollega, Tech Reviews senior AI-reporter Karen Hao, gennem en demonstration af et af deres produkter, der kan læse følelser.

Gabi Zijderveld : Så dette er dybest set en forenklet version af, hvordan vores teknologi ville blive implementeret i medieanalyse og specifikt i annoncetest. Det giver dig bare mere eller mindre en smagsprøve på, hvordan vi gør dette, og hvilke ting vi kan måle. Så som du kan se, har vi et par forskellige annoncer eller videoer, forudindlæst, og så kan du bare vælge en, der springer ud for dig.

Karen Hao : Tryk på afspil...

Gabi Zijderveld : Så mens du ser denne annonce, som du kan se, måler vi dine reaktioner på den.

Karen Hao : [Hørbar latter]

Jennifer Strong : Hun ser et sjovt YouTube-klip, hvor to børn og opgaverne med at være arbejdende mor blandt andet afbryder et nyhedsprogram. Det er et parodi på det virale BBC-interview - du kender det - hvor en yndig lille pige valser ind på sin fars hjemmekontor.

Gabi Zijderveld : Så grundlæggende i denne demo bad vi dig om tilladelse til at tænde dit webkamera. Og da du begyndte at afspille videoen, stort set billede for billede, målte vores AI dine reaktioner og dine reaktioner på det, du så i denne annonce. På venstre side af demoen ser du alle disse forskellige målinger, såsom udtryksevne, opmærksomhed, afsky, smil... det viser dig, eller det fremhæver for dig, hvor du havde tilfælde af pandefurer, hvilket kunne være mennesker, der stiller spørgsmålstegn ved eller hæve, hæve deres øjenbryn om du vil, bogstaveligt talt. Hvis du klikker på en smilekurve, kunne det være interessant... et smil betyder ikke nødvendigvis altid, at du nyder noget, men her kender vi konteksten, vi kender dette til en humoristisk annonce, og vi kan se fra din kurve, at du smilede meget. Så tydeligt havde denne video sin tilsigtede effekt hos dig. Og hvis du så klikker på visningsoversigten, er det også lidt fedt. Dette sammenligner dine data med alle andre, der har set denne video.

Karen Hao : Wow. Jeg var vist langt mere udtryksfuld end den gennemsnitlige person.

Gabi Zijderveld : Ja, ja, præcis. Også dit smil var langt højere. Det er klart, at du kunne lide denne video meget bedre end gennemsnittet.

Jennifer Strong : Det, de demonstrerer her, læser følelser og opdeler dem i data for annoncører og reklamebureauer.

Gabi Zijderveld : Disse data er igen meget vigtig indsigt, fordi det grundlæggende hjælper dem med at bestemme, hvor effektive deres annoncer er, og hvor de skal bruge deres medieudgifter.

Jennifer Strong : Hun siger, at de har brug for omkring hundrede tests for at få nok data til en effektiv sammenligning. Affectiva har implementeret denne følelsesmæssige AI-teknologi over hele verden med kunder som Disney, Coca Cola, Kelloggs, Samsung og Google.

Gabi Zijderveld : Omkring 28 % af de formuer, globale 500 virksomheder bruger vores teknologi. Ad age har en liste over verdens største annoncører, og 70 % af dem bruger vores teknologi. Vi har gennem årene testet mere end 52.000 annoncer i 90 lande. Så der bliver lavet en masse research. Lad os sige, at nogen tester en ølannonce i Storbritannien, og de vil gerne sammenligne effektiviteten af ​​deres ølannonce med andre ølannoncer i Storbritannien, eller måske en ølannonce i USA, de kan gøre det, fordi vi har så mange data den slags giver disse normer.

Jennifer Strong : Og efter 10 års raffinering af emotion AI i medieanalyse... Affectiva bevæger sig nu ind i underholdningsindustrien.

Gabi Zijderveld : For eksempel har vi allerede lavet en række undersøgelser, hvor det virkelig handler om at forstå, hvordan publikum engagerer sig og nærmest binder sig, om man vil, med bestemte karakterer i tv-programmer. De introducerer nye karakterer. Nogle gange hænger disse karakterer fast, og publikum elsker dem. Nogle gange gør de ikke. Så de laver en masse research på det. Og selvfølgelig forsøger de at forudsige, hvad der vil være af den succesrige formel, og at gøre det tidligt kan spare dem for mange penge, og det er dyrt at tage fejl i disse tilfælde. Vi har også testet filmtrailere, der i sig selv er en form for reklameindhold.

Jennifer Strong : Men det er bilindustrien, Affectiva og mange andre virksomheder er særligt fokuserede på.

Gabi Zijderveld : Så bortset fra sikkerhedsapplikationen ved at forstå førerens funktionsnedsættelse, som dybest set er et førerovervågningssystem, er der også andre anvendeligheder, for i det øjeblik du kan forstå, hvad der foregår med bagsædepassagererne, er der masser af andre interessante ting, du kan gøre. Du kan som udgangspunkt tilpasse omgivelserne til personens tilstand i øjeblikket. Så nogen er måske på vej til et arbejdsmøde i fremtiden. Dit køretøj forstår måske det, fordi alle de forskellige systemer er bundet sammen. Måske kan du kigge i din kalender, hvis du giver tilladelse til det. Og hvis du er på vej til et møde, vil du måske ikke have musik. Måske vil du ikke se video bagved. Måske vil du have den rigtige belysning i dit område af bilen. Måske har du brug for dit sæde placeret på en bestemt måde. Det kunne også handle om grundlæggende at forbedre oplevelsen, ikke? Gør det sjovere og sjovere eller mere genopbyggende.

Jennifer Strong : Det er ikke på markedet endnu, men hun siger, at de har testet elementer af emotion AI i biler, herunder dette:

Gabi Zijderveld : Der var endda for en del år siden et forskningsprojekt, som vi lavede med Porsche, hvor vi grundlæggende fik vores teknologi til at vurdere, hvordan folk reagerede på musik, der blev spillet i køretøjet. Og hvis de kunne lide musikken, ville den dybest set justere anbefalinger ud fra folks reaktioner og og personalisere den på den måde.

Jennifer Strong : Hun vurderer, at der vil gå 2 til 4 år, før denne type teknologi er på vej.

En anden gruppe, der arbejder på denne form for følelses-AI til køretøjer, er Harman, et firma ejet af Samsung.

Tim VanGoethem : Vi bygger disse algoritmer, der kunne bruge et kamerabillede fra et kamera på instrumentbrættet, og vi bygger softwaren, der kan se på dine øjne eller andre ansigtstræk og være i stand til at udlede førerens tilstand.

Jennifer Strong : Det er Tim VanGoethem, virksomhedens leder af avanceret mobilitet.

Tim VanGoethem : Så vi kunne gøre ting som at forstå din puls, bare ved at se på, hvordan pigmenteringen af ​​din hud ændrer sig, hver gang dit hjerte slår. Vi kan se på karakteristika for, hvordan dine øjne bevæger sig, og baseret på det kan vi relatere det til, om du er distraheret, eller du er døsig, eller du er stresset, eller dit sind ikke ser ud til at være fokuseret... Og så forstå hvordan man gør det meningsfuldt. Hvis du er træt, kan vi lave enkle justeringer i kabinetemperaturen? Kan vi ændre sædepositionen subtilt? Vælg en blanding af musik, der måske er lidt mere uptempo i modsætning til det, du lytter til i øjeblikket. Så det kan være kombinationen af ​​nogle meget simple justeringer af nogle meget store trin, afhængigt af hvad vi kan udlede, at din tilstand er

Jennifer Strong : Så hvor meget længere kunne virksomheder som denne tage teknologien?

Tim VanGoethem : Hvor det kunne gå hen i fremtiden, er grænsefladen til wearables, som du tager med ind i bilen. Mange mennesker elsker deres smartwatches, og ret ofte har disse smarture også en fitness- eller wellness-funktion. Så bilen i fremtiden ville være i stand til at bringe information fra disse wearables ind. Så i stedet for at prøve at bruge et kamera til at udlede eller udlede din puls, kunne vi faktisk bruge sensoren fra selve smartwatchet. Og så kunne smartwatchet med brugerens tilladelse dele den information med bilen. Og så er det åbenbart, det, det er måske et mere præcist signal. Skridtet ud over det er, at vi også kunne udnytte endnu større økosystemer. Så som et eksempel, hvis bilen og algoritmerne i bilen vidste, at du havde haft en dårlig nattesøvn, før du satte dig ind i bilen, kunne vi træffe nogle forudgående beslutninger, velvidende at du allerede kommer ind i bilen, potentielt træt.

Jennifer Strong : I løbet af de næste 2 til 5 år vil han forsøge at besvare dette spørgsmål.

Tim VanGoethem : Hvordan løser bilen ikke bare problemer for folk, mens de er i deres bil, men hvordan kan de tilsluttes disse større økosystemer? Og, og jeg tror, ​​at det vil udvikle sig over tid, efterhånden som folk forstår forholdet mellem, hvordan mit liv uden for bilen og mit liv inde i bilen naturligt smelter sammen.

Jennifer Strong : Med hensyn til hvor behagelige chauffører vil tillade deres bil at læse deres følelser og reagere og endda oprette forbindelse til deres liv uden for køretøjet? Nå, vi lader allerede maskiner gøre dette i vores mest intime rum ... inde i vores hjem.

Rohit Prasad : Ligesom vi gør som mennesker - vi værdsætter interaktioner med mennesker, der er ydmyge, hjælpsomme og relaterbare og troværdige. Og selvfølgelig vil du også have en form for sjov i personligheden, så du kan være meget engagerende.

Jennifer Strong : Rohit Prasad er chefforskeren bag Amazons Alexa. Da stemmeassistenten blev frigivet for seks år siden, repræsenterede den begyndelsen på en ny form for forhold til personlig teknologi. For at det kunne fungere, vidste han, at de skulle skabe en personlighed, der ville fungere for forskellige mennesker i forskellige rum.

Rohit Prasad : Vi tror på, at tillid ikke kun vindes af, hvordan du lyder, men hvad du siger, og hvad du gør. Vi ønskede, at folk som os skulle være trygge ved at tale med en kunstig intelligens i deres hjem... Og vores hjem er et fælles miljø. Det er ikke kun en personlig enhed som din smartphone. Og i de omgivelser vil Alexa interagere med mig, min kone, mine børn. Ret? Så nu skal du få stemmen til at virke for alle disse miljøer.

Jennifer Strong : De vidste, at det at dyrke tillid hos brugerne også ville stole på Alexas evne til at genkende og reagere på folks følelser.

Rohit Prasad : Når kunder er glade eller begejstrede, bør Alexa efterligne den adfærd. Og når kunden er skuffet, burde Alexa have en mere empatisk tone.

Jennifer Strong : I disse dage kan Alexa gøre noget af det grundlæggende.

Rohit Prasad : Så nogle af de følelsesmæssige reaktioner, du kan se, er, når du spørger om dit yndlingssportshold, og hvis de vandt, vil Alexa være mere jovial i svaret.

Jennifer Strong : Plus, Amazon fortsætter med at arbejde på sine lytteevner.

Rohit Prasad : Så kan Alexa fornemme din vokale frustration og ændre hendes svar til dig? Så Alexa opfanger din vokale frustration og tilpasser sine svar på den rigtige måde for at give dig det, du har brug for som kunde i stedet for bare at frustrere dig mere ved at give det samme svar.

Jennifer Strong : Og Alexa kan allerede lave en version af at spejle sin bruger:

Alexa optagelse : Lad mig fortælle dig en hemmelighed. Jeg kan hviske.

Rohit Prasad : Det er det, vi kalder en hvisketilstand. Dette skete, da en af ​​mine tidligere chefer hos Alexa kom hjem. Han hviskede til Alexa, og Alexa svarede og vækkede sin kone.

Jennifer Strong : Han siger, at det inspirerede dem til at lære Alexa at hviske, for hvis du hvisker til et menneske, hvisker den person normalt tilbage. De lærer det også at svare som ekspert, og hvornår man skal vide, at det ikke er det. Han siger, at det afhænger af typen af ​​spørgsmål.

Rohit Prasad : I visse indstillinger, når det er meget følsomme emner, som du måske deler med en ledsager, men Alexa er muligvis ikke eksperten i det, for eksempel mental sundhed. Eller andre sundhedsproblemer. Der tror jeg, at vores vejledende princip altid er at få eksperthjælp i disse indstillinger, og jeg tror, ​​at selvom du deler det som en ledsager, er der et stort ansvar for AI på det tidspunkt.

Jennifer Strong : Efterhånden som Alexa lærer sine brugere at kende, kan det spille en stadig større rolle i deres liv.

Rohit Prasad : Jeg tror, ​​at forholdet bliver ved med at vokse fra mere en assistent til rådgiver og endda ledsager for mennesker. Og det ser vi ske i dagens tid. Og jeg tror, ​​efterhånden som du vokser med Alexa, udvikler forholdet sig.

Jennifer Strong : Men han advarer:

Rohit Prasad : Det er stadig tidlige dage, og vi vil fortsætte med at lave research for at finde ud af, hvad der er den bedste følelsesmæssige reaktion eller stilistiske reaktion baseret på kundens input. Men jeg vil bare sikre mig, at vi er på samme side, at det er et ret svært problem, fordi du ikke ønsker, at nogen fejl skal forstærke og få kunderne til at miste tilliden til Alexa. Faktisk vil du have mere troværdig handling, hvilket betyder, at det nok er okay at have mere neutrale svar i visse indstillinger. Og det er også det, vi arbejder på lige nu.

Jennifer Strong : Emotion AI kan forbedre vores interaktioner med teknologi, men afhængigt af hvordan det bruges, kan det også forårsage reel skade. Det vil vi grave i nogle eksempler på lige efter pausen.

[midroll-annonce]

Jennifer Strong : Pandemien har set en stigning i brugen af ​​digitale programmer, der overvåger skoleeksamener. Disse produkter bruger adfærdssporing og -genkendelse til at se eleverne gennem deres bærbare computere og lede efter tegn på snyd. New York Times talte med en college-junior, der lider af et ansigts-tic-handicap, og en nylig afro-latina-jurist, der kæmpede i fire timer bare for at få softwaren til at registrere hendes ansigt. Disse problemer er også dukket op i interviewsoftware, som bruger lignende ansigts- og adfærdssporing for at hjælpe med at afgøre, om du er værdig til at blive ansat.

Meredith Whittaker : Ideen om, at folks adgang til job og muligheder bliver formet af, hvad der kunne betragtes som slags stereotyper og antagelser om, hvordan de ser ud, hvordan de handler, om de taler på en måde, der står mål med en eller anden succesmodel, er utrolig bekymrende.

Jennifer Strong : Meredith Whittaker er medstifter af AI Now Institute ved NYU.

Meredith Whittaker : Og vi studerer de sociale implikationer af kunstig intelligens.

Jennifer Strong : Ud over blot at mærke følelser, siger hun, at det i virkeligheden handler om at fortolke værdien af ​​disse følelser og automatisere beslutninger med den information.

Meredith Whittaker : Dette handler om virksomhedernes magt og den måde, hvorpå disse virksomheder producerer teknologier, der fremsætter fantastiske påstande næsten altid skjult bag slør af forretningshemmelighed. De er ureviderede. De er uundersøgte. Vi ser teknologi, der hævder at være i stand til at opdage folks indre karakter, deres kompetencer, deres følelser, blive implementeret for at informere beslutningstagning i klasseværelset, hvem der skal ansættes, og hvem der skal promovere. Vi ser det implementeret i det strafferetlige system - på steder, der virkelig former folks liv og adgang til muligheder. Og i betragtning af, at der ikke er nogen videnskabelig konsensus om effektiviteten af ​​at automatisere den slags påstande, tænkte vi, at det var på tide at opfordre til et forbud mod at bruge disse teknologier på disse områder.

Jennifer Strong : Og hun siger, at det, der måske er mest foruroligende, er, hvor ofte disse teknologier bruges, uden at de mennesker, der er udsat for dem, har nogen idé eller mulighed.

Meredith Whittaker : Det er meget svært at vide, om jeg, hvis jeg ikke er ansat til et job, og jeg blev interviewet af HireVu, var det fordi softwaren er partisk, eller fordi jeg alligevel ikke ville have fået jobbet. Ret? Ligesom en prøve af en er svær at drage en konklusion ud fra. Og de data, der gør det muligt for os at opdage et mønster af diskrimination eller skade eller fejl, eller hvad har du, er ikke i det offentlige domæne. De personer, der har adgang til disse data, er HireVu, og så uanset hvilket firma, der giver HireVu licens til at bruge det til interviews, ikke? Og ingen af ​​disse virksomheder har reel interesse i at tillade offentligheden og lovgivere og fortalere at finkæmme disse data.

Jennifer Strong : Og derfor opfordrer hendes gruppe til et forbud mod følelsesmæssig AI i følsomme use-cases, hvilket vil omfatte applikationer, der måske ikke virker så følsomme - som et bip fra instrumentbrættet i en bil, når den tror, ​​at en chauffør kan blive døsig.

Meredith Whittaker : Vi er sådan set nødt til at bakke op her og, og se på en slags kraftdynamik her, ikke? Måske er en bil, der blinker lidt, når den tror, ​​at du er døsig baseret på, hvordan dit ansigt ser ud, måske ikke så skadelig. Men bliver den information sendt til dit forsikringsselskab? Bruges disse oplysninger til at fastsætte dine forsikringspriser eller til at dømme din skyld, hvis du kommer ud for en ulykke? Forhindrer det Lyft- eller Uber-chauffører i at logge på deres app? Hvad er brugen af ​​disse data?

Jennifer Strong : Det, hun siger, lyder måske for forsigtigt, men sidste år fastslog New Yorks øverste finansielle regulator, at livsforsikringsselskaber kan fastsætte præmier i denne stat baseret på information fra sociale medier. Så hvad skal forhindre, at data fra biler - eller noget andet - bliver brugt til at fastsætte dine forsikringspriser i fremtiden? Lige nu de fleste steder ingenting.

Jennifer Strong : Denne episode blev rapporteret og produceret af mig og Karen Hao, Tate Ryan-Mosley og Emma Cillekens. Vi fik hjælp fra Benji Rosen. Vi er redigeret af Michael Reilly og Gideon Lichfield. Tak fordi du lyttede, jeg er Jennifer Strong.

skjule