AI-forskere siger, at videnskabelige udgivere hjælper med at fastholde racistiske algoritmer

Kategori: Kunstig intelligens Udsendt 23. juni

Nyhederne: An åbent brev fra en voksende koalition af AI-forskere kalder den videnskabelige udgiver Springer Nature til et konferenceoplæg, som det angiveligt planlagde at inkludere i sin kommende bog Transaktioner på Computational Science & Computational Intelligence . Artiklen, med titlen A Deep Neural Network Model to Predict Criminality Using Image Processing, præsenterer et ansigtsgenkendelsessystem, der angiveligt er i stand til at forudsige, om nogen er kriminel, ifølge original pressemeddelelse . Det blev udviklet af forskere ved Harrisburg University og skulle præsenteres på en kommende konference.

Kravene: Citerer arbejdet med at lede Black AI lærde , afkræfter brevet det videnskabelige grundlag for papiret og hævder, at kriminalitetsforudsigelsesteknologier er racistiske. Den opstiller også tre krav: 1) at Springer Nature trækker sit tilbud om at offentliggøre undersøgelsen tilbage; 2) at den udsender en erklæring, der fordømmer brugen af ​​statistiske teknikker såsom maskinlæring til at forudsige kriminalitet og anerkender dens rolle i at fremme sådan forskning; og 3) at alle videnskabelige forlag forpligter sig til ikke at udgive lignende artikler i fremtiden. Brevet, som blev sendt til Springer Nature i mandags, er oprindeligt skrevet af fem forskere ved MIT, Rensselaer Polytechnic Institute, McGill University og AI Now Institute. I løbet af få dage fik det mere end 600 underskrifter og tæller på tværs af AI-etikken og akademiske fællesskaber, herunder fra ledende skikkelser som Meredith Whittaker, medstifter af AI Now Institute, og Ethan Zuckerman, tidligere direktør for Center for Civic Media på MIT Media Lab.

Hvorfor det er vigtigt: Mens brevet fremhæver et specifikt papir, er forfatternes mål at demonstrere et systematisk problem med den måde, videnskabelig publicering tilskynder forskere til at fastholde uetiske normer. Det er derfor, vi bliver ved med at se racevidenskab dukke op igen og igen, sagde Chelsea Barabas, en ph.d.-studerende ved MIT og en af ​​brevets medforfattere. Det er fordi udgivere udgiver det. Den virkelige betydning af dette Springer-værk er, at det ikke er unikt overhovedet, gentog Theodora Dryer, en postdoc-forsker ved AI Now og en anden medforfatter. Det er emblematisk for et problem og en kritik, der har stået på i så lang tid.

Springers svar: Som svar på brevet sagde Springer, at det ikke ville udgive avisen. Det papir, du henviser til, blev indsendt til en kommende konference, hvor Springer havde planlagt at offentliggøre forhandlingerne, stod der. Efter en grundig peer review-proces blev papiret afvist. Harrisburg University også tog sin pressemeddelelse ned , med angivelse af, at fakultetet opdaterer papiret for at imødekomme de rejste bekymringer. Harrisburg University og en medforfatter af papiret afviste en anmodning om kommentar samt en anmodning om en kopi af det originale papir. Brevets underskrivere sagde, at de vil fortsætte med at presse på for en opfyldelse af deres andet og tredje krav.

Det større billede: Siden George Floyds død udløste en international bevægelse for racistisk retfærdighed, har kunstig intelligens-området og teknologiindustrien som helhed stået over for en regning om den rolle, de har spillet i at forstærke strukturel racisme. I løbet af ugen den 8. juni annoncerede for eksempel IBM, Microsoft og Amazon alle, at deres ansigtsgenkendelsesprodukter sluttede eller delvist blev suspenderet. Flytningen var en kulmination på to års fortalervirksomhed fra forskere og aktivister for at demonstrere en sammenhæng mellem disse teknologier og overpolitisering af minoritetssamfund. Det åbne brev er den seneste udvikling i denne bevægelse mod større etisk ansvarlighed inden for AI.

Vi ønskede virkelig at bidrage til denne voksende bevægelse, sagde Sonja Solomun, forskningsdirektør for Center for Medier, Teknologi og Demokrati ved McGill University. Især når vi ser ud af vores vinduer og ser, hvad der foregår lige nu i USA og globalt, er indsatsen bare så høj.

Opdatering: Efter offentliggørelsen udsendte Springer Nature en erklæring, der præciserede, at 'på intet tidspunkt blev [avisen] accepteret til offentliggørelse...Serieredaktørens beslutning om at afvise det endelige blad blev truffet tirsdag den 16. juni og blev officielt meddelt forfatterne mandag den 22. Juni.'