211service.com
Microsoft skaber et orakel til at fange forudindtaget AI-algoritmer
Navneord Projekt | Andrejs Kirma | Frk. Tech
Microsoft bygger et værktøj til automatisk at identificere bias i en række forskellige AI-algoritmer. Det er den hidtil modigste indsats for at automatisere opdagelsen af uretfærdigheder, der kan snige sig ind i maskinlæring – og det kan hjælpe virksomheder med at bruge AI uden utilsigtet at diskriminere mod visse mennesker.
Store teknologivirksomheder ræser om at sælge off-the-shelf maskinlæringsteknologi, som kan tilgås via skyen. Efterhånden som flere kunder gør brug af disse algoritmer til at automatisere vigtige domme og beslutninger, vil spørgsmålet om bias blive afgørende. Og da bias nemt kan snige sig ind i maskinlæringsmodeller, kan måder at automatisere opdagelsen af uretfærdigheder blive en værdifuld del af AI-værktøjssættet.
Ting som gennemsigtighed, forståelighed og forklaring er nye nok for feltet til, at de færreste af os har tilstrækkelig erfaring til at vide alt, hvad vi bør kigge efter, og alle de måder, som bias kan lure i vores modeller, siger Rig Caruna , en seniorforsker hos Microsoft, der arbejder på dashboardet til bias-detection.
Algoritmisk bias er en voksende bekymring for mange forskere og teknologieksperter (se Inspicering af algoritmer for bias). Da algoritmer bruges til at automatisere vigtige beslutninger, er der en risiko for, at bias kan blive automatiseret, implementeret i skala og vanskeligere for ofrene at få øje på.
Caruna siger, at Microsofts bias-fangende produkt vil hjælpe AI-forskere med at fange flere tilfælde af uretfærdighed, selvom ikke alle. Selvfølgelig kan vi ikke forvente perfektion - der vil altid være nogle skævheder uopdaget, eller som ikke kan elimineres - målet er at gøre det så godt, som vi kan, siger han.
Det vigtigste, virksomheder kan gøre lige nu, er at uddanne deres arbejdsstyrke, så de er bevidste om de utallige måder, hvorpå bias kan opstå og manifestere sig og skabe værktøjer til at gøre modeller lettere at forstå og bias nemmere at opdage, tilføjer Caruna.
Facebook annoncerede sit eget værktøj til at opdage bias på sin årlige udviklerkonference den 2. maj. Dets værktøj, kaldet Fairness Flow, advarer automatisk, hvis en algoritme laver en uretfærdig bedømmelse af nogen baseret på hans eller hendes race, køn eller alder. Facebook siger, at det havde brug for Fairness Flow, fordi flere og flere mennesker i virksomheden bruger AI til at træffe vigtige beslutninger.
Bin Yu , professor ved UC Berkeley, siger, at værktøjerne fra Facebook og Microsoft virker som et skridt i den rigtige retning, men de er måske ikke nok. Hun foreslår, at store virksomheder bør have eksterne eksperter til at revidere deres algoritmer for at bevise, at de ikke er forudindtaget. En anden er nødt til at undersøge Facebooks algoritmer – de kan ikke være en hemmelighed for alle, siger Yu.