211service.com
Google-medarbejdere står i kø for at smide Googles AI-etiske råd
Getty Images/Leon Neal
Næsten tusinde Google-medarbejdere, akademiske forskere og andre tal fra teknologiindustrien har skrevet under et brev protesterer mod sammensætningen af et uafhængigt råd, som Google oprettede for at vejlede etikken i sine AI-projekter.
Søgegiganten annonceret oprettelsen af rådet i sidste uge ved EmTech Digital, MIT Technology Reviews arrangement i San Francisco. Det er kendt som Advanced Technology External Advisory Council (ATEAC) og har otte medlemmer, herunder økonomer, filosoffer, politiske beslutningstagere og teknologer med ekspertise i spørgsmål som algoritmisk bias. Det er meningen, at det skal holde fire møder om året, startende i denne måned, og skrive rapporter designet til at give feedback på projekter i virksomheden, der bruger kunstig intelligens.
Men to af disse medlemmer viste sig at være kontroversielle. Den ene, Dyan Gibbens, er administrerende direktør for Trumbull, en virksomhed, der udvikler autonome systemer til forsvarsindustrien – et omstridt valg, da tusindvis af Google-ansatte protesterede mod virksomhedens beslutning om at forsyne det amerikanske luftvåben med kunstig intelligens til dronebilleddannelse. Den største forargelse er dog kommet over inddragelsen af Kay Coles James, præsident for Heritage Foundation, en tænketank, der er imod regulering af kulstofemissioner, tager en hård linje over for immigration og har argumenteret imod beskyttelsen af LGBTQ-rettigheder.
Et medlem af rådet, Alessandro Køber , en professor ved Carnegie Mellon University, der har specialiseret sig i digitale privatlivsspørgsmål, meddelte den 30. marts, at han ikke ville påtage sig rollen. Selvom jeg er dedikeret til forskning, der kæmper med centrale etiske spørgsmål om retfærdighed, rettigheder og inklusion i AI, tror jeg ikke, at dette er det rigtige forum for mig at engagere mig i dette vigtige arbejde,' tweetede han .
Oprettelsen af ATEAC - og inklusion af Gibbens og James - kan faktisk være designet til at formilde Googles højreorienterede kritikere. På nogenlunde samme tidspunkt, hvor rådet blev annonceret, mødtes Sundar Pichai, Googles administrerende direktør, med præsident Donald Trump. Trump tweetede senere: Han erklærede kraftigt, at han er fuldstændig engageret i det amerikanske militær, ikke det kinesiske militær. [Vi] diskuterede også politisk retfærdighed og forskellige ting, som Google kan gøre for vores land. Mødet endte meget godt!
Men en Google-medarbejder involveret i udarbejdelsen af protestbrevet, som talte på betingelse af anonymitet, sagde, at James er mere end blot en konservativ stemme i rådet. Hun er en reaktionær, der benægter transpersoners eksistens, som støtter radikalt anti-immigrant holdninger og støtter anti-klimaforandringer, anti-videnskabelige holdninger.
Nogle bemærkede AI-algoritmer kan forstærke skævheder, der allerede er set i samfundet; nogle har vist sig fejlidentificere transkønnede , for eksempel. I den sammenhæng er det ret chokerende, at [James] var inkluderet, sagde medarbejderen. Disse teknologier former vores sociale institutioner, vores liv og adgang til ressourcer. Når AI svigter, svigter det ikke for rige hvide mænd, der arbejder hos teknologivirksomheder. Det fejler lige præcis de befolkninger, som Heritage Foundations politikker allerede sigter mod at skade.
Beskeder sendt til en intern Google-kommunikationsplatform kritiserede især udnævnelsen af James. Ifølge et indlæg tidligere rapporteret af Verge og bekræftet af medarbejderen, James fortjener ikke en Google-legitimeret platform, og hører bestemt ikke til i nogen samtale om, hvordan Google-teknologi skal anvendes i verden.
Fra kl. 17.30 amerikansk østlig tid i dag var det offentlige brev, sendt til Medium, blevet underskrevet af 855 Google-ansatte og 143 andre personer, inklusive en række fremtrædende akademikere. Ikke alene er James’ synspunkter i modstrid med Googles erklærede værdier, hedder det i brevet, men de er direkte i modstrid med projektet om at sikre, at udviklingen og anvendelsen af AI prioriterer retfærdighed frem for profit. Et sådant projekt bør i stedet placere repræsentanter fra udsatte samfund i centrum for beslutningstagningen.
Rettelse : En tidligere version af denne historie sagde, at kun syv Google-medarbejdere havde underskrevet brevet på Medium.