AI skal se sit usynlige-arbejderproblem i øjnene

SAIPH SAVAGE

Mange af de mest succesrige og udbredte maskinlæringsmodeller er trænet med hjælp fra tusindvis af lavtlønnede koncertarbejdere . Millioner af mennesker verden over tjener penge på platforme som Amazon Mechanical Turk, som giver virksomheder og forskere mulighed for at outsource små opgaver til online crowdworkers. Ifølge ét skøn , mere end en million mennesker alene i USA tjener penge hver måned ved at arbejde på disse platforme. Omkring 250.000 af dem tjener mindst tre fjerdedele af deres indkomst på denne måde. Men selvom mange arbejder for nogle af de rigeste AI-laboratorier i verden, bliver de betalt under mindstelønnen og får ingen muligheder for at udvikle deres færdigheder.

Saiph Savage er direktør for laboratoriet for interaktion mellem mennesker og computere ved West Virginia University, hvor hun arbejder med civil teknologi, med fokus på emner som at bekæmpe desinformation og hjælpe koncertarbejdere med at forbedre deres arbejdsforhold. I denne uge gav hun en inviteret snak på NeurIPS , en af ​​verdens største AI-konferencer med titlen A future of work for the invisible workers in AI. Jeg talte med Savage på Zoom dagen før hun holdt sin tale.

Vores samtale er blevet redigeret for klarhed og længde.

Du taler om de usynlige arbejdere i AI. Hvilken slags job udfører disse mennesker?

En masse opgaver involverer mærkning af data – især billeddata – der føres ind i overvågede maskinlæringsmodeller, så de forstår verden bedre. Andre opgaver involverer transskribering af lyd. For eksempel, når du taler med Amazons Alexa, kan du have medarbejdere, der transskriberer, hvad du siger, så stemmegenkendelsesalgoritmen lærer at forstå tale bedre. Og jeg har lige haft et møde med crowdworkers i det landlige West Virginia. De bliver hyret af Amazon til at læse en masse dialog op for at hjælpe Alexa med at forstå, hvordan folk i den region taler. Du kan også få medarbejdere til at mærke websteder, der kan være fyldt med hadefulde ytringer eller pædofili. Det er derfor, når du søger efter billeder på Google eller Bing, bliver du ikke udsat for disse ting.

Folk er ansat til at udføre disse opgaver på platforme som Amazon Mechanical Turk. Store teknologivirksomheder bruger muligvis interne versioner - Facebook og Microsoft har for eksempel deres egne. Forskellen med Amazon Mechanical Turk er, at alle kan bruge det. Forskere og startups kan tilslutte sig platformen og forsyne sig med usynlige arbejdere.

Hvilke problemer har disse usynlige arbejdere?

Jeg ser faktisk ikke crowdwork som en dårlig ting; det er en rigtig god idé. Det har gjort det meget nemt for virksomheder at tilføje en ekstern arbejdsstyrke.

Relateret historie

Den kommende krig mod de skjulte algoritmer, der fanger mennesker i fattigdom En voksende gruppe af advokater afdækker, navigerer og bekæmper de automatiserede systemer, der nægter de fattige boliger, job og basale tjenester.

Men der er en række problemer. Den ene er, at arbejdere på disse platforme tjener meget lave lønninger. Vi lavede en undersøgelse, hvor vi fulgte hundredvis af Amazon Mechanical Turk-arbejdere i flere år, og vi fandt ud af, at de tjente omkring $2 i timen. Dette er meget mindre end den amerikanske mindsteløn. Der er mennesker, der dedikerer deres liv til disse platforme; det er deres vigtigste indtægtskilde.

Og det giver andre problemer. Disse platforme afskærer også fremtidige jobmuligheder, fordi fuldtidsansatte crowdworkere ikke får mulighed for at udvikle deres færdigheder - i hvert fald ikke dem, der er anerkendt. Vi fandt ud af, at mange mennesker ikke sætter deres arbejde på disse platforme på deres CV. Hvis de siger, at de arbejdede på Amazon Mechanical Turk, ved de fleste arbejdsgivere ikke engang, hvad det er. De fleste arbejdsgivere er ikke klar over, at disse er arbejderne bag vores AI.

Det er tydeligt, at du har en ægte passion for det, du laver. Hvordan endte du med at arbejde med det her?

Jeg arbejdede på et forskningsprojekt på Stanford, hvor jeg dybest set var en crowdworker, og det udsatte mig for problemerne. Jeg hjalp med at designe en ny platform, som var ligesom Amazon Mechanical Turk, men styret af arbejderne. Men jeg var også tekniker hos Microsoft. Og det åbnede også mine øjne for, hvordan det er at arbejde i en stor teknologivirksomhed. Du bliver ansigtsløs, hvilket minder meget om, hvad crowdworkers oplever. Og det fik mig virkelig til at ville ændre arbejdspladsen.

Du nævnte at lave en undersøgelse. Hvordan finder du ud af, hvad disse arbejdere laver, og hvilke forhold de står over for?

Jeg gør tre ting. Jeg interviewer medarbejdere, jeg gennemfører undersøgelser, og jeg bygger værktøjer, der giver mig et mere kvantitativt perspektiv på, hvad der sker på disse platforme. Jeg har været i stand til at måle, hvor meget tid arbejderne investerer i at udføre opgaver. Jeg måler også mængden af ​​ulønnet arbejde, som arbejdere udfører, såsom at søge efter opgaver eller kommunikere med en arbejdsgiver - ting, du ville blive betalt for, hvis du havde en løn.

Du er blevet inviteret til at holde et foredrag på NeurIPS i denne uge. Hvorfor er dette noget, AI-samfundet har brug for at høre?

Nå, de driver deres forskning med disse arbejderes arbejde. Jeg tror, ​​det er meget vigtigt at indse, at en selvkørende bil eller hvad der nu eksisterer på grund af folk, der ikke får udbetalt mindsteløn. Mens vi tænker på fremtiden for kunstig intelligens, bør vi tænke på fremtidens arbejde. Det er nyttigt at blive mindet om, at disse arbejdere er mennesker.

Siger du, at virksomheder eller forskere bevidst underbetaler?

Nej, det er det ikke. Jeg tror, ​​de måske undervurderer, hvad de beder arbejderne om at gøre, og hvor lang tid det vil tage. Men meget af tiden har de simpelthen slet ikke tænkt på den anden side af transaktionen.

For de ser bare en platform på internettet. Og det er billigt.

Ja præcis.

Hvad gør vi ved det?

Mange ting. Jeg hjælper arbejdere med at få en idé om, hvor lang tid en opgave kan tage dem at udføre. På denne måde kan de vurdere, om en opgave vil være det værd. Så jeg har udviklet et AI-plugin til disse platforme, der hjælper medarbejdere med at dele information og coache hinanden om, hvilke opgaver der er værd at bruge tid på, og som lader dig udvikle bestemte færdigheder. AI'en lærer, hvilken type rådgivning der er mest effektiv. Den tager tekstkommentarerne ind, som arbejdere skriver til hinanden og lærer, hvilke råd der fører til bedre resultater, og promoverer det på platformen.

Lad os sige, at arbejdere ønsker at øge deres løn. AI identificerer, hvilken type rådgivning eller strategi, der er bedst egnet til at hjælpe arbejdere med at gøre det. For eksempel kan det foreslå, at du udfører disse typer opgaver fra disse arbejdsgivere, men ikke disse andre typer opgaver derovre. Eller det vil fortælle dig, at du ikke skal bruge mere end fem minutter på at søge efter arbejde. Maskinlæringsmodellen er baseret på den subjektive mening fra arbejdere på Amazon Mechanical Turk, men jeg fandt ud af, at den stadig kunne øge arbejdernes lønninger og udvikle deres færdigheder.

Så det handler om at hjælpe arbejdere med at få mest muligt ud af disse platforme?

Det er en start. Men det ville være interessant at tænke på karrierestiger. For eksempel kunne vi vejlede medarbejdere til at udføre en række forskellige opgaver, der lader dem udvikle deres færdigheder. Vi kan også tænke på at give andre muligheder. Virksomheder, der sætter job på disse platforme, kunne tilbyde online mikro-praktikpladser til arbejderne.

Og vi bør støtte iværksættere. Jeg har udviklet værktøjer, der hjælper folk med at skabe deres egne spillemarkedspladser. Tænk på disse arbejdere: de er meget fortrolige med koncertarbejde, og de har måske nye ideer om, hvordan man driver en platform. Problemet er, at de ikke har de tekniske færdigheder til at sætte en op, så jeg er ved at bygge et værktøj, der gør opsætning af en platform lidt som at konfigurere en hjemmesideskabelon.

Meget af dette handler om at bruge teknologi til at ændre magtbalancen.

Det handler også om at ændre fortællingen. Jeg mødtes for nylig med to crowdworkers, som jeg har talt med, og de kalder sig faktisk tech workers, hvilket - jeg mener, de er tech workers på en bestemt måde, fordi de driver vores tech. Når vi taler om crowdworkers, bliver de typisk præsenteret som havende disse forfærdelige job. Men det kan være nyttigt at ændre den måde, vi tænker på, hvem disse mennesker er. Det er bare endnu et tech job.

skjule