211service.com
Magt i tal
Lad dataene tale for sig selv er almindeligt råd i nogle videnskabelige kredse. Men dataene taler aldrig for sig selv, siger Catherine D'Ignazio, SM '14. Der er altid mennesker og institutioner, der taler for dataene, og forskellige mennesker har deres egne dagsordener. Dataene er aldrig uskyldige.
Det er de spørgsmål, som D'Ignazio, en assisterende professor i bystudier og planlægning, undersøger i en ny bog med Lauren Klein, en lektor ved Emory University. I Datafeminisme (MIT Press, 2020, $29,95), bruger forfatterne linsen af intersektionel feminisme til at undersøge, hvordan datavidenskab afspejler sociale strukturer.
Intersektionel feminisme undersøger ulige magt, skriver de. Og i vores nutidige verden er data også magt. Fordi datakraften udnyttes uretfærdigt, skal den udfordres og ændres.
D'Ignazio og Klein peger på forskning ledet af MITs egen Joy Buolamwini, SM '17, som observerede, at et ansigtsgenkendelsesprogram ikke kunne se hende. Hun fandt ud af, at softwaren var baseret på et sæt ansigter, der var 78 % mænd og 84 % hvide; kun 4% var kvinder og mørkhudede, ligesom hun selv.
Eller overvej et andet eksempel, hvor Amazon testede et AI-system til at screene jobansøgere. Fordi en høj procentdel af virksomhedens ansatte var mænd, favoriserede algoritmen mænds navne.
Sådanne problemer kan løses med en mere deltagende proces eller mere forskelligartede træningsdata, siger D’Ignazio, men spørgsmålet om, hvem der deltager, er elefanten i serverrummet. Fra 2011 gik 26 % af alle bacheloruddannelser i datalogi i USA til kvinder, et fald fra 37 % i 1985. Mangel på mangfoldighed, mener D'Ignazio og Klein, gør mange dataprojekter blinde for nogle facetter af de sociale situationer, de søger. at måle.
Seneste bøger fra MIT-samfundet
Paul Samuelson: Master i moderne økonomi
Af Robert A. Cord, Richard G. Anderson, PhD '80 og William A. Barnett '63
PALGRAVE MACMILLAN, 2019, $129
Beregning af mulig fremtid: modelbaserede undersøgelser af hvad nu hvis?
Af William B. Rouse, SM ’70, PhD ’72
OXFORD UNIVERSITY PRESS, 2019, $38,95
Thomas Wride og Wesleys Methodist Connection
Af Clive Murray Norris, SM ’92
ROUTLEDGE, 2020, $155
Harold Edgerton: At se det usete
Af Ron Kurtz ’54, ’59, SM ’60; Deborah Douglas, MIT Museums direktør for samlinger; Gus Kayafas ’69; J. Kim Vandiver, SM ’69, PhD ’75, professor i maskinteknik; og Gary Van Zante
STEIDL/MIT MUSEUM, 2019, 50 USD
Fremme af det fælles gode: Strategier for virksomheder, regeringer og nonprofitorganisationer
Af Philip Kotler, PhD '56
PRAEGER, 2019, $39
Quantum Legacies: Sendinger fra en usikker verden
Af David Kaiser, professor i fysik og videnskabshistorie
UNIVERSITY OF CHICAGO PRESS, 2020, $26
Det kreative klasseværelse: Innovativ undervisning for elever i det 21. århundrede
Af Keith Sawyer ’82
TEACHERS COLLEGE PRESSE, 2019, 31,95 USD
Vi vil gerne forsøge at tune folk ind på den slags magtforhold, siger D'Ignazio. Hvem er på holdet? Hvem havde ideen? Hvem får gavn af projektet? Hvem er potentielt skadet?
D'Ignazio og Klein skitserer syv principper for datafeminisme. Blandt dem: Undersøg og udfordr magt, gentænk binære systemer og hierarkier, omfavn pluralisme og værdsæt flere former for viden, herunder førstehåndsviden, der kan modsige officielle data. Vi bør også overveje den kontekst, som data genereres i, og synliggøre arbejdskraft. Dette sidste princip anerkender, at selv når marginaliserede mennesker bidrager til dataprojekter, modtager de ofte mindre kredit.
Til alle kritikken inkluderer D'Ignazio og Klein også eksempler på datasæt, der styrker kvinder, såsom WomanStats Project, en akademisk indsats, der undersøger, hvordan nationalstaternes sikkerhed og aktiviteter påvirker deres kvinders sikkerhed.
For folk, der er datafolk, men som er nye inden for feminisme, ønsker vi at give en meget tilgængelig introduktion, siger D'Ignazio. For dem, der allerede er fortrolige med feminisme, søger de at fremhæve de måder, hvorpå datavidenskab er problematisk, men kan samles i retfærdighedens tjeneste.
Send bognyheder til:
[email protected] eller
MIT nyheder
Hovedgade 1, 13. sal
Cambridge, MA 02142