IBM siger, at det ikke længere arbejder på ansigtsgenkendelse, fordi det bruges til raceprofilering

Kategori: Kunstig intelligens Udsendt juni 09

Nyhederne: IBM har sagt, at virksomheden vil stoppe med at udvikle eller sælge ansigtsgenkendelsessoftware på grund af bekymringer om, at teknologien bruges til at fremme racisme. I en brev til kongressen , IBMs administrerende direktør Arvind Krishna sagde, at teknologigiganten er imod enhver teknologi, der bruges til masseovervågning, raceprofilering, krænkelser af grundlæggende menneskerettigheder og frihedsrettigheder.

Han opfordrede til en national dialog om, hvorvidt og hvordan det er passende, at ansigtsgenkendelsesteknologi bruges af nationale retshåndhævende myndigheder. Brevet opfordrede også til nye føderale regler for at slå ned på politiets uredelighed og mere træning og uddannelse til efterspurgte færdigheder for at forbedre de økonomiske muligheder for farvede mennesker.

Ikke en ny bekymring: Aktivister og eksperter har i årevis påpeget, at ansigtsgenkendelsessystemer er partiske, og markeret bekymringer om dets potentiale for misbrug . Deres bekymringer er legitime: a skelsættende undersøgelse af US National Institute of Standards and Technology sidste år bekræftede, at størstedelen af ​​ansigtsgenkendelsesalgoritmer klarede sig dårligere på ikke-hvide ansigter.

Sådan er det blevet modtaget: IBM er den første store teknologivirksomhed, der trækker sig helt fra udviklingen af ​​teknologien. Selvom nyheden er blevet bredt modtaget positivt af teknologiarbejdere, og især kampagnefolk, der er bekymrede over brugen af ​​ansigtsgenkendelse, kritikere har påpeget at det næppe er et stort offer for IBM at forlade et marked, som man knap havde fodfæste på til at begynde med.

På trods af det er det stadig en stor teknologivirksomhed, der tager en usædvanlig stærk moralsk holdning over et af tidens mest kontroversielle emner. Det er især aktuelt i betragtning af de igangværende protester over politivold og racisme i USA og rundt om i verden. Men det er uklart, om det vil forblive en engangsændring fra IBM eller et skridt, der hjælper med at skubbe andre teknologivirksomheder til handling.