Kongressen vil have svar fra Google om Timnit Gebrus fyring

yvette clarke

Repræsentant Yvette Clarke Foto fra AP/Kathy Willens





Ni medlemmer af den amerikanske kongres har sendt et brev til Google, hvor de beder den om at afklare omstændighederne omkring den tidligere etiske AI-medleder Timnit Gebrus tvungne afgang. Ledet af repræsentant Yvette Clarke og senator Ron Wyden, og medunderskrevet af senatorerne Elizabeth Warren og Cory Booker, brevet sender et vigtigt signal om, hvordan Kongressen gransker tech-giganter og tænker på kommende regulering.

Gebru, en førende stemme inden for AI-etik og en af ​​en lille håndfuld sorte kvinder hos Google, var uhøjtideligt afskediget for to uger siden, efter en langvarig uenighed om et forskningspapir. Papiret detaljerede risici ved store AI-sprogmodeller trænet i enorme mængder tekstdata, som er en kernelinje i Googles forskning, der driver forskellige produkter, herunder dens lukrative Google-søgning.



Med henvisning til MIT Technology Review's dækning rejser brevet tre spørgsmål: potentialet for bias i store sprogmodeller, den voksende virksomheds indflydelse på AI-forskning og Googles mangel på mangfoldighed. Den anmoder Googles administrerende direktør Sundar Pichai om en konkret plan for, hvordan den vil håndtere hver af disse, såvel som for sin nuværende politik for at gennemgå forskning og detaljer om dens igangværende undersøgelse af Gebrus exit (Pichai har forpligtet sig til denne undersøgelse i et internt notat , først udgivet af Axios). Da medlemmer af Kongressen aktivt søger at forbedre AI-forskning, ansvarlighed og mangfoldighed gennem lovgivning og tilsyn, anmoder vi respektfuldt om din anmodning til følgende forespørgsler, hedder det i brevet.

I april 2019 fremsatte Clarke og Wyden et lovforslag, den Algorithmic Accountability Act , hvilket ville kræve, at store virksomheder reviderer deres maskinlæringssystemer for bias og træffer korrigerende handlinger rettidigt, hvis sådanne problemer blev identificeret. Det ville også kræve, at disse virksomheder reviderer alle processer, der involverer følsomme data – inklusive personlig identificerbare, biometriske og genetiske oplysninger – for privatlivs- og sikkerhedsrisici. På det tidspunkt roste mange juridiske og teknologiske eksperter lovforslaget for dets nuancerede forståelse af kunstig intelligens og datadrevne teknologier. Fantastisk første skridt, skrev Andrew Selbst, en assisterende professor ved University California Los Angeles School of Law, på Twitter. Vil kræve dokumentation, vurdering og forsøg på at imødegå forudsete påvirkninger. Det er nyt, spændende og utroligt nødvendigt.

Relateret historie

Vi læste avisen, der tvang Timnit Gebru ud af Google. Her er hvad der står.

Virksomhedens etiske stjerneforsker fremhævede risiciene ved store sprogmodeller, som er nøglen til Googles forretning.



Det seneste brev er ikke direkte knyttet til Algorithmic Accountability Act, men det er en del af det samme skridt fra visse kongresmedlemmer til at udarbejde lovgivning, der ville afbøde AI-bias og andre skader ved datadrevne, automatiserede systemer. Det kommer især midt i et stigende pres for antitrustregulering. Tidligere på måneden, US Federal Trade Commission anlagt en antitrust-sag mod Facebook for dets konkurrencebegrænsende adfærd og unfair konkurrencemetoder. I løbet af sommeren offentliggjorde House Democrats en 449-siders rapport om Big Techs monopolistiske praksis.

Brevet kommer også i sammenhæng med stigende geopolitiske spændinger. Da forholdet mellem USA og Kina har nået et rekordlavt niveau under pandemien, har amerikanske embedsmænd understreget den strategiske betydning af nye teknologier som AI og 5G. Brevet rejser også denne dimension, idet det anerkender Googles lederskab inden for AI og dets rolle i at fastholde amerikansk lederskab. Men det gør det klart, at dette ikke bør underbyde lovgivningsmæssig handling, en argumentation populariseret af Facebooks administrerende direktør Mark Zuckerberg . For at sikre, at Amerika vinder AI-kapløbet, hedder det i brevet, at amerikanske teknologivirksomheder ikke kun skal lede verden inden for innovation; de skal også sikre, at en sådan innovation afspejler vores nations værdier.

Vores brev bør gøre alle i teknologisektoren, ikke kun Google, opmærksomme på, at vi er opmærksomme, sagde Clarke i en erklæring til MIT Technology Review. Etisk AI er kamppladsen for fremtiden for borgerrettigheder. Vores bekymringer om den seneste udvikling handler ikke kun om én person; de handler om, hvordan det 21. århundrede vil se ud, hvis akademisk frihed og inklusion tager en bagsædet til andre prioriteter. Vi kan ikke afbøde algoritmisk skævhed, hvis vi hindrer dem, der søger at forske og studere det.



skjule