Følelsesgenkendelsesteknologi bør forbydes, siger et AI-forskningsinstitut

Kategori: Kunstig intelligens Udsendt 13. dec

Der er lidt videnskabeligt grundlag for følelsesgenkendelsesteknologi, så det bør forbydes at blive brugt i beslutninger, der påvirker menneskers liv, siger forskningsinstituttet AI Now i sin årsrapport .

Et blomstrende marked: På trods af manglen på beviser for, at maskiner kan finde ud af, hvordan vi har det, anslås følelsesgenkendelse til at være på mindst 20 milliarder dollars, og det er vokser hurtigt . Teknologien bliver i øjeblikket brugt til at vurdere jobansøgere og personer, der er mistænkt for kriminalitet, og den testes til yderligere ansøgninger, som f.eks. VR headset at udlede spillernes følelsesmæssige tilstande.

Yderligere problemer: Der er også beviser for, at følelsesgenkendelse kan forstærke race- og kønsforskelle . Regulatorer bør træde til for at begrænse brugen kraftigt, og indtil da bør AI-virksomheder stoppe med at implementere det, sagde AI Now. Specifikt citerede den en nylig undersøgelse fra Association for Psychological Science, som brugte to år på at gennemgå mere end 1.000 artikler om følelsesdetektion og konkluderede, at det er meget svært at bruge ansigtsudtryk alene til præcist at fortælle, hvordan nogen har det.

Andre bekymringer: I sin rapport opfordrede AI Now regeringer og virksomheder til at stoppe med at bruge ansigtsgenkendelsesteknologi til følsomme applikationer, indtil risiciene er blevet undersøgt ordentligt, og angreb AI-industrien for dens systemiske racisme, kvindehad og mangel på mangfoldighed. Det opfordrede også til obligatorisk offentliggørelse af AI's industris miljøpåvirkning.