En førende AI-etikforsker siger, at hun er blevet fyret fra Google

Timnit Gebru

Kimberly White / Stringer





Den 2. december blev AI-forskersamfundet chokeret over at høre, at Timnit Gebru var blevet fyret fra sin stilling hos Google. Gebru, en af ​​de førende stemmer inden for ansvarlig AI-forskning, er blandt andet kendt for at være medforfatter til banebrydende arbejde, der afslørede diskriminerende karakter af ansigtsgenkendelse , medstifter af affinitetsgruppen Black in AI, og ubønhørligt fortaler for mangfoldighed i teknologiindustrien .

Men onsdag aften meddelte hun på Twitter at hun var blevet opsagt fra sin stilling som Googles etiske AI-medleder. Tilsyneladende sendte min leders leder en e-mail [til] mine direkte rapporter, hvori han sagde, at hun accepterede min opsigelse. Jeg havde ikke sagt op, sagde hun.

I et interview med Bloomberg Torsdag sagde Gebru, at fyringen skete efter en langvarig kamp med hendes overordnede om offentliggørelsen af ​​en AI-etisk forskningsartikel. Et af Gebrus tweets og en senere intern e-mail fra Jeff Dean, leder af Google AI, tyder på, at papiret var kritisk over for miljøomkostningerne og indlejrede skævheder i store sprogmodeller.



Gebru, der havde skrevet papiret sammen med fire Google-kolleger og to eksterne samarbejdspartnere, havde afleveret det til en forskningskonference, der skulle afholdes næste år. Efter en intern gennemgang blev hun bedt om at trække papiret tilbage eller fjerne navnene på Google-medarbejderne. Hun svarede, at hun ville gøre det, hvis hendes overordnede opfyldte en række betingelser. Hvis de ikke kunne, ville hun arbejde på en sidste dato , hun sagde.

Hun sendte også en frustreret e-mail til en intern listetjeneste, Google Brain Women and Allies, der beskriver de gentagne strabadser, hun havde oplevet som sort kvindelig forsker. Vi har lige haft en sort research alle hænder med sådan et følelsesladet show af irritation, skrev hun. Ved du, hvad der er sket siden? Tavshed på den mest fundamentale måde som muligt.

Gebru tog derefter på ferie og modtog en opsigelses-e-mail fra Megan Kacholia, VP of engineering hos Google Research, før hun vendte tilbage. Tak for at gøre dine betingelser klare, e-mailen anførte , som tweetet af Gebru. Vi kan ikke acceptere #1 og #2, som du anmoder om. Vi respekterer din beslutning om at forlade Google som følge heraf, og vi accepterer din opsigelse. Hendes e-mail til listserv var ikke i overensstemmelse med forventningerne fra en Google-manager, fortsatte det. Som følge heraf accepterer vi din opsigelse med det samme, med virkning i dag.

Torsdag formiddag sendte Dean efter en opbakning til Gebru på de sociale medier et intern e-mail til Googles AI-gruppe med sin beretning om situationen. Han sagde, at Gebrus papir ikke opfyldte vores krav til offentliggørelse, fordi det ignorerede for meget relevant forskning. Han sagde også, at Gebrus betingelser omfattede at afsløre identiteten på hver person, som Megan og jeg havde talt med og konsulteret som en del af gennemgangen af ​​avisen og den nøjagtige feedback.



I betragtning af Timnits rolle som en respekteret forsker og leder i vores Ethical AI-team, har jeg det dårligt med, at Timnit er nået til et sted, hvor hun har det sådan med det arbejde, vi udfører, skrev han. Jeg ved, at vi alle virkelig deler Timnits passion for at gøre AI mere retfærdig og inkluderende.

Hverken Gebru, Dean eller Googles kommunikation reagerede på anmodninger om kommentarer, og mange detaljer omkring det nøjagtige forløb af begivenheder eller årsagen til opsigelsen er stadig uklare. Mens de fortsætter med at dukke op, har mange bragt fornyet opmærksomhed på et tweet den 30. november som Gebru fastgjorde til toppen af ​​sin profil. Er der nogen, der arbejder på regulering, der beskytter forskere i etisk kunstig intelligens, svarende til beskyttelse af whistleblowere? det lyder. For med mængden af ​​censur og intimidering, der foregår mod mennesker i specifikke grupper, hvordan stoler nogen på, at nogen egentlig forskning på dette område kan finde sted?

skjule