Fem spørgsmål, du kan bruge til at skære igennem AI-hype

En abstrakt illustration, der viser tallene 1-5 og spørgsmålstegn Ms. Tech

For to uger siden var De Forenede Arabiske Emirater vært for Ai Everything, dens første store AI-konference og en af ​​de største AI-applikationskonferencer i verden. Arrangementet var et imponerende vidnesbyrd om bredden af ​​brancher, hvor virksomheder nu bruger maskinlæring. Det tjente også som en vigtig påmindelse om, hvordan forretningsverdenen kan sløre og oversælge teknologiens evner.

Som svar vil jeg gerne kort skitsere de fem spørgsmål, jeg typisk bruger til at vurdere kvaliteten og validiteten af ​​en virksomheds teknologi:

1. Hvad er problemet, den forsøger at løse?

Jeg starter altid med problemformuleringen. Hvad siger virksomheden, at den forsøger at gøre, og er den værdig til maskinlæring? Måske taler vi med Affectiva, som bygger følelsesgenkendelsesteknologi til nøjagtigt at spore og analysere folks humør. Konceptuelt er dette et mønstergenkendelsesproblem og ville derfor være et problem, som maskinlæring kunne tackle (se: Hvad er maskinlæring?). Det ville også være meget udfordrende at nærme sig på andre måder, fordi det er for komplekst at programmere ind i et sæt regler.

2. Hvordan griber virksomheden det problem an med maskinlæring?

Nu hvor vi har en konceptuel forståelse af problemet, vil vi gerne vide, hvordan virksomheden vil tackle det. En følelsesgenkendelsesvirksomhed kunne tage mange tilgange til at bygge sit produkt. Det kunne træne et computersynssystem til at mønstermatche på folks ansigtsudtryk eller træne et lydsystem til at mønstermatche på folks tonefald. Her vil vi finde ud af, hvordan virksomheden har omformuleret sin problemformulering til et maskinlæringsproblem, og bestemme, hvilke data det skal indtaste i sine algoritmer.

Relateret historie

Relateret historie

Definitionen af ​​kunstig intelligens udvikler sig konstant, og begrebet bliver ofte ødelagt, så vi er her for at hjælpe.

3. Hvordan henter virksomheden sine træningsdata?

Når vi ved, hvilken slags data virksomheden har brug for, vil vi gerne vide, hvordan virksomheden går om at erhverve dem. De fleste AI-applikationer bruger overvåget maskinlæring, som kræver rene mærkedata af høj kvalitet. Hvem mærker dataene? Og hvis etiketterne fanger noget subjektivt som følelser, følger de så en videnskabelig standard? I Affectivas tilfælde vil du lære, at virksomheden indsamler lyd- og videodata frivilligt fra brugere og ansætter uddannede specialister til at mærke dataene på en strengt konsistent måde. At kende detaljerne i denne del af pipelinen hjælper dig også med at identificere potentielle kilder til dataindsamling eller mærkningsbias (se: Sådan opstår AI-bias virkelig).

4. Har virksomheden processer til revision af sine produkter?

Nu skal vi undersøge, om virksomheden tester sine produkter. Hvor nøjagtige er dens algoritmer? Er de revideret for bias? Hvor ofte revurderer den sine algoritmer for at sikre, at de stadig yder på niveau? Hvis virksomheden endnu ikke har algoritmer, der når den ønskede nøjagtighed eller retfærdighed, hvilke planer har den så for at sikre sig, at de vil før implementering?

5. Skal virksomheden bruge maskinlæring til at løse dette problem?

Dette er mere et dømmende kald. Også selvom det er et problem kan løses med machine learning, er det vigtigt at stille spørgsmålstegn ved, om det bør være. Bare fordi du kan skabe en følelsesgenkendelsesplatform, der når mindst 80 % nøjagtighed på tværs af forskellige racer og køn, betyder det ikke, at den ikke vil blive misbrugt. Opvejer fordelene ved at have denne teknologi tilgængelig de potentielle menneskerettighedskrænkelser ved følelsesmæssig overvågning? Og har virksomheden mekanismer på plads til at afbøde eventuelle negative påvirkninger?

Efter min mening bør en virksomhed med et maskinlæringsprodukt af høj kvalitet markere alle felterne: det bør tackle et problem, der passer til maskinlæring, have robuste dataindsamlings- og revisionsprocesser, have meget nøjagtige algoritmer eller en plan for at forbedre dem, og kæmpe direkte med etiske spørgsmål. Ofte består virksomheder de første fire tests, men ikke den sidste. For mig er det et stort rødt flag. Det viser, at virksomheden ikke tænker holistisk over, hvordan dens teknologi kan påvirke folks liv og har en høj chance for at trække en Facebook senere hen. Hvis du er en leder, der leder efter maskinlæringsløsninger til din virksomhed, bør dette advare dig mod at samarbejde med en bestemt leverandør.

Denne historie dukkede oprindeligt op i vores Webby-nominerede AI-nyhedsbrev The Algorithm. For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig her. Det er gratis.

skjule