Folks onlinebilleder bliver brugt uden samtykke til at træne ansigtsgenkendelse AI

Kategori: Kunstig intelligens Udsendt 13. marts

Fotos af folks ansigter tages rutinemæssigt fra websteder for at hjælpe med at udvikle ansigtsgenkendelsesalgoritmer uden forsøgspersonernes samtykke, en rapport af NBC afslører.

Det seneste eksempel: I januar IBM udgav et datasæt af næsten en million billeder, der var blevet skrabet fra fotodelingswebstedet Flickr, og derefter kommenteret med oplysninger om detaljer som hudfarve. Virksomheden slog dette op som en del af bestræbelserne på at reducere det (meget reelle) problem med bias inden for ansigtsgenkendelse. Den fik dog ikke samtykke fra nogen til at gøre dette, og det er næsten umuligt at få fjernet billederne.

Beskidt hemmelighed: IBM er langt fra alene. Mens virksomheder kæmper for at forbedre deres ansigtsgenkendelsesteknologi, har de brug for adgang til et stort antal billeder for at fodre deres algoritmer. Bare det at tage billeder, der allerede er blevet uploadet til internettet, er en meget hurtig – men etisk tvivlsom – måde at gøre det på.

Hurtige fremskridt: Ansigtsgenkendelse kan være praktisk til at låse din telefon op, men det kan også være et kraftfuldt overvågningsværktøj. Dets brug udvides hurtigt uden praktisk talt tilsyn, hvilket fører til stigende krav om, at teknologien skal reguleres.

En spænding: Ansigtsgenkendelsesalgoritmer har en dårlig nøjagtighed, når det kommer til at identificere ikke-hvide ansigter, og systemer kan miskønnede mennesker på baggrund af for eksempel længden af ​​deres hår. En måde at bekæmpe dette på er at tilføje flere billeder af f.eks. sorte kvinder eller mænd med langt hår til træningsdataene. Men at gøre det uden at indhente folks samtykke, før de bruger deres billeder, vil efterlade mange dybt utilpas.

Tilmeld dig vores daglige nyhedsbrev The Download her for at få din dosis af de seneste must-read nyheder fra den nye teknologiske verden.