Microsofts administrerende direktør efterlyser ansvarlig AI, ignorerer de algoritmer, der allerede styrer vores liv

Microsofts CEO Satya Nadella er bekymret over den magt, kunstig intelligens vil have over vores liv. I et indlæg på Skifer i går rådede han dataindustrien til Begynd nu at tænke på, hvordan man designer intelligent software for at respektere vores menneskelighed .

Teknologiindustrien bør ikke diktere denne fremtids værdier og dyder, skrev han.

Nadella opfordrede til algoritmisk ansvarlighed, så mennesker kan fortryde utilsigtet skade. Han sagde, at smart software skal designes på måder, der lader os inspicere dets funktion og forhindre det i at diskriminere visse mennesker eller bruge private data på ubehagelige måder.

Microsofts administrerende direktør Satya Nadella.

Disse er ædle og rationelle bekymringer - men dem, som tekniske ledere burde have talt om for noget tid siden. Der er rigeligt med beviser for, at de algoritmer og software, der former dagligdagen, allerede kan være præget af bekymrende skævheder.

Undersøgelser fra Federal Trade Commission har fundet tegn på det racemæssige og økonomiske skævheder, der blev fordømt i tider før internet, dukker nu op igen i systemerne, der driver målrettede annoncer og andre onlinetjenester. I Wisconsin foregår der en kamp om, hvorfor en system, der forsøger at forudsige, om en kriminel vil gentage lovovertrædelser— og bruges til at bestemme fængselsstraffe - skal holdes hemmelige.

Netop i dag anlagde ACLU sag mod den amerikanske regering på vegne af forskere med en plan om at lede efter racediskrimination i online job- og boligannoncer . De kan ikke udføre det på grund af restriktioner i føderale hackinglove og måden, teknologivirksomheder skriver deres vilkår og betingelser på.

Det er klart, at nogle af de problemer, Nadella siger, kunne skabes af fremtidig kunstig intelligens, faktisk allerede er her. Microsoft-forsker Kate Crawford opsummerede fint roden til algoritmisk bias i en nylig New York Tider op-ed, skriver den software kan allerede forværre uligheden på arbejdspladsen , derhjemme og i vores juridiske og retlige systemer.

Nadella afslutter sit fremadrettede indlæg om kunstig intelligens med at sige: Det mest kritiske næste skridt i vores forfølgelse af A.I. er at blive enige om en etisk og empatisk ramme for dens udformning. Hvilken bedre måde at være klar til den AI-dominerede fremtid end at begynde arbejdet nu med at anvende en etisk og empatisk ramme til den dumme software, der allerede omgiver os?

(Læs mere: Skifer , Vice , Ars Technica , New York Times )

skjule