211service.com
Hey Google, ked af, at du mistede dit etiske råd, så vi lavede et til dig
Nå, det tog ikke lang tid. Efter lidt mere end en uge trak Google tilbage med at skabe sit Advanced Technology External Advisory Council, eller ATEAC – et udvalg, der skulle give virksomheden vejledning om, hvordan man etisk udvikler nye teknologier såsom AI. Inkluderingen af Heritage Foundations præsident, Kay Coles James, i rådet forårsagede et ramaskrig over hendes anti-miljøistiske, anti-LGBTQ og anti-immigrant synspunkter, og førte næsten 2.500 Google-medarbejdere at underskrive en begæring om hendes fjernelse. I stedet besluttede internetgiganten simpelthen at lukke det hele ned.
Hvordan gik det så galt? Og kan Google rette dem? Vi fik et dusin eksperter inden for kunstig intelligens, teknologi og etik til at fortælle os, hvor virksomheden gik vild, og hvad den kunne gøre næste gang. Hvis disse mennesker havde været på ATEAC, kunne historien have haft et andet resultat.
'Vær gennemsigtig og specifik omkring de roller og ansvarsområder, som etiske bestyrelser har'
Rashida Richardson, direktør for politikforskning ved AI Now Institute
'Vi har ingen indsigt i, om etiske bestyrelser faktisk er et moralsk kompas eller blot endnu et gummistempel'
I teorien kan etiske bestyrelser være en stor fordel, når det kommer til at sikre, at AI-produkter er sikre og ikke diskriminerende. Men for at etiske nævn kan have nogen meningsfuld indflydelse, skal de være offentligt ansvarlige og have reel tilsynsmyndighed.
Det betyder, at teknologivirksomheder bør være villige til at dele de kriterier, de bruger til at vælge, hvem der skal sidde i disse etiske bestyrelser. De bør også være gennemsigtige og specifikke med hensyn til de roller og det ansvar, deres etiske råd har, så offentligheden kan vurdere deres effektivitet. Ellers har vi ingen indsigt i, om etiske bestyrelser faktisk er et moralsk kompas eller blot endnu et gummistempel. I betragtning af store AI-virksomheders globale indflydelse og ansvar er dette niveau af gennemsigtighed og ansvarlighed afgørende.
Overvej, hvad det faktisk vil sige at styre teknologien effektivt og retfærdigt
Jake Metcalf, teknologietisk forsker ved Data & Society
ATEAC-bulleturen viser os, hvor fyldt og omstridt denne nye tidsalder af teknisk etik sandsynligvis vil være. Google har tydeligvis misforstået rummet i dette tilfælde. Politisk marginale befolkninger, der er underlagt AI/ML-teknologiernes klassifikationsmæssige luner, vil sandsynligvis opleve de værste etiske skader fra automatiseret beslutningstagning. Google, der favoriserer Kay Coles James for synspunktsdiversitet frem for hendes åbne had til transkønnede, viser, at de ikke i tilstrækkelig grad overvejer, hvad det faktisk vil sige at styre teknologien effektivt og retfærdigt.
»Etik betyder to forskellige ting, der kan være modstridende i praksis. Virksomheder er modtagelige for førstnævnte og bange for sidstnævnte'
Det er vanskeligt for virksomheder, fordi etik betyder to forskellige ting, der kan være modstridende i praksis: det er både det daglige arbejde med at forstå og afbøde konsekvenser (såsom at køre et bias-detektionsværktøj eller være vært for et deliberativt designmøde), og dømmekraften om, hvordan samfundet kan bestilles mest retfærdigt (såsom om uensartede skader på marginaliserede samfund betyder, at en produktlinje bør øges). Virksomheder er modtagelige for førstnævnte og bange for sidstnævnte. Men hvis AI-etik ikke handler om at forhindre automatiseret misbrug, blokere overførslen af farlige teknologier til autokratiske regeringer eller forbyde automatisering af statsvold, så er det svært at vide, hvad teknologivirksomheder tror, det er andet end tomme gestus. Under det flotte nye etiske rapportværktøj, der er i overensstemmelse med virksomhedens KPI-målinger, er en ægte bekymring for, at liv er på spil. At holde dem i hovedet på én gang er en udfordring for virksomheder bureaukratisk og for etikere, der investerer i at se mere retfærdige teknologier vinde frem.
Anerkend først elefanten i rummet: Googles AI-principper
Evan Selinger, professor i filosofi ved Rochester Institute of Technology
Google satte kibosh på ATEAC uden først at anerkende elefanten i rummet: AI-principperne som administrerende direktør Sundar Pichai formulerede i løbet af sommeren. Førende akademikere, folk fra civilsamfundsorganisationer og seniormedarbejdere i teknologivirksomheder har konsekvent fortalt mig, at selvom principperne ser gode ud på papiret, er de fleksible nok til at blive fortolket på måder, der vil skåne Google fra at skulle kompromittere enhver langsigtet vækst strategier – ikke mindst fordi håndhævelsesmekanismerne for at overtræde principperne ikke er veldefinerede, og i sidste ende forbliver hele virksomheden en selvregulerende bestræbelse.
Når det er sagt, ville det helt sikkert bidrage til at gøre ledelse mere ansvarlig over for et etisk råd, hvis gruppen var (a) korrekt sammensat; (b) givet klare og robuste institutionelle beføjelser (i stedet for blot at være der for at rådgive); og (c) også selv holdes til gennemsigtige ansvarlighedsstandarder for at sikre, at det ikke bliver et tandhjul i en rationaliserende, etisk-vaskemaskine.
Skift de personer, der har ansvaret for at sammensætte disse grupper
Ellen Pao, grundlægger hos Project Include
Denne mislykkede indsats viser præcis, hvorfor Google har brug for bedre rådgivere. Men måske er de også nødt til at ændre de personer, der har ansvaret for at sammensætte disse grupper – og måske burde deres interne teams også udføre dette arbejde. Der var flere problemer med resultatet, som vi alle har set, men også problemer med processen. Når du ikke har kommunikeret til hele gruppen om, hvem de vil arbejde sammen med, er det en kæmpe fejl. At bringe mennesker, der er mere reflekterende over for den verden, vi lever i, burde være sket internt, før man forsøgte at sammensætte en ekstern gruppe.
Sidebemærkning, folk bør undersøge de grupper, de tilslutter sig, konferencepanelerne, de taler ved, og deres hold, før de forpligter sig, så de ved, hvad de tilmelder sig. Det er utroligt, hvor meget du kan påvirke dem, og hvordan du kan ændre sammensætningen af en gruppe bare ved at spørge.
Styrk antagonisme – ikke disse venlige interne partnerskaber og håndholdte indsatser
Meg Leta Jones, assisterende professor i kommunikation, kultur og teknologi ved Georgetown University
Etiske bestyrelser er ingens hverdag, og giver kun mulighed for sjældne samtaler på højt niveau, der i bedste fald giver indsigt og i værste fald dækning. Hvis vi ønsker at skabe tillid til institutioner, herunder teknologier, teknologivirksomheder, medier og regering, kræver vores nuværende politiske kultur modsætninger – ikke disse venlige interne partnerskaber og håndholdte indsatser. Bemyndigelse af antagonister og støtte af antagonisme kan mere hensigtsmæssigt og effektivt opfylde målene for 'etisk AI'.
'Etiske tavler giver i bedste fald indsigt og i værste fald dækker'
Kig indad og styrk medarbejdere, der står i solidaritet med udsatte grupper
Anna Lauren Hoffmann, adjunkt ved The Information School ved University of Washington
Googles fejlslagne ATEAC-bestyrelse gør det klart, at AI-etik ikke kun handler om, hvordan vi opfatter, udvikler og implementerer AI-teknologier – det handler også om, hvordan vi gør etik. Levede sårbarheder, fordelinger af magt og indflydelse, og hvis stemmer bliver høje, er alle integrerede overvejelser, når man forfølger etik i den virkelige verden. Til det formål gør ATEAC-debaklet og andre tilfælde af pushback (f.eks. mod Project Maven , Dragonfly og politikker for seksuel chikane ) det klart, at Google allerede har en enorm ressource i mange af sine egne medarbejdere. Selvom vi også har brug for meningsfuld regulering og eksternt tilsyn, bør virksomheden se indad og styrke de allerede marginaliserede medarbejdere, der er klar til at organisere sig og stå i solidaritet med sårbare grupper for at tackle gennemgående problemer med transfobi, racisme, fremmedhad og had.
En bestyrelse kan ikke bare være 'nogle vigtige personer, vi kender'. Du har brug for egentlige etikere'
Patrick Lin, direktør for Etik + Emerging Sciences Group hos Cal Poly
Med Aaliyahs ord tror jeg, at det næste skridt for Google er at støve dig selv af og prøve igen. Men de skal være mere betænksomme over, hvem de sætter i bestyrelsen – det kan ikke bare være en 'lad os spørge nogle vigtige personer, vi kender'-liste, som version 1.0 af rådet så ud til at have været. For det første, hvis der er en oprigtig interesse i at få etisk vejledning, så har du brug for faktiske etikere – eksperter, der har professionel uddannelse i teoretisk og anvendt etik. Ellers ville det være en afvisning af værdien af ekspertise, som vi allerede ser alt for meget af i disse dage, for eksempel når det kommer til grundvidenskab.
'Tænk, hvis virksomheden ville indkalde et AI-lovråd, men der var kun én advokat på det'
Tænk, hvis virksomheden ville indkalde et AI-lovråd, men der kun var én advokat på det (ligesom der kun var én filosof i AI-etikrådet v1.0). Det ville rejse alvorlige røde flag. Det er ikke nok for nogen at arbejde med spørgsmål af juridisk betydning - tonsvis af mennesker gør det, inklusiv mig, og de kan godt supplere ekspertudtalelsen fra juridiske lærde og advokater. Men for at det råd skal være virkelig effektivt, skal det inkludere faktiske domæneeksperter i sin kerne.
De sidste par uger viste, at direkte organisering virker
Os Keyes, en ph.d.-studerende i Data Ecologies Lab ved University of Washington
For at være ærlig har jeg ingen råd til Google. Google gør præcis, hvad det er meningen, at virksomheder i vores samfund skal gøre; arbejder for politisk (og så regulatorisk og så økonomisk) fordel uden at lade et spor af moral skære ind i deres kvartalsresultater eller strategiske plan. Mit råd er til alle undtagen Google. For personer uden for Google: ring til dine repræsentanter. Spørg, hvad de gør ved AI-regulering. Spørg, hvad de laver om lobbykontrol. Spørg, hvad de gør ved virksomhedsregulering. For folk i den akademiske verden: ring til dine instruktører. Spørg, hvad de gør ved at lære etikstuderende, at etik kun er vigtigt, hvis det bliver anvendt og efterlevet. For folk inden for Google: ring til folk udenfor og spørg, hvad de har brug for fra dig. Begivenhederne i de sidste par uger viste, at direkte organisering virker; solidaritet virker.
Fire møder om året vil sandsynligvis ikke have indflydelse. Vi har brug for agile etiske input
Irina Raicu, direktør for programmet for internetetik ved Santa Clara University
Jeg synes, det var en fantastisk forpasset mulighed. Det fik mig til at spekulere på, hvem der inden for Google var involveret i beslutningstagningen om, hvem jeg skulle invitere. (Denne beslutning krævede i sig selv forskellige input.) Men dette taler til det bredere problem her: det faktum, at Google offentliggjorde meddelelsen om oprettelsen af bestyrelsen uden nogen forklaring på deres kriterier for udvælgelsen af deltagerne. Der var også meget lidt diskussion om deres grunde til at oprette bestyrelsen, hvad de håbede bestyrelsens indflydelse ville være osv. Havde de givet mere kontekst, kunne den efterfølgende diskussion have været anderledes.
Der er også andre problemer; i betragtning af hvor hurtigt AI udvikler sig og bliver implementeret, vil fire møder (selv med en forskelligartet gruppe af AI-etiske rådgivere) i løbet af et år sandsynligvis ikke have en meningsfuld effekt - dvs. for virkelig at ændre forløbet for forskning eller produktudvikling. Så længe modellen er agil udvikling, har vi også brug for agil etisk input.
Gruppen skal have autoritet til at sige nej til projekter
Sam Gregory, programdirektør hos Witness
Hvis Google virkelig ønsker at indbygge respekt for etik eller menneskerettigheder i AI-initiativerne, skal de først erkende, at et rådgivende udvalg, eller endda et bestyrelse, kun er en del af en større tilgang. De skal være tydelige fra starten af, at gruppen faktisk har autoritet til at sige nej til projekter og blive hørt. Så skal de være eksplicitte om rammerne - vi vil anbefale, at de er baseret på etableret international menneskerettighedslovgivning og -normer - og derfor bør en person eller gruppe, der har erfaring med at være diskriminerende eller krænkende, ikke være en del af den.
Undgå at behandle etik som et PR-spil eller et teknisk problem
Anna Jobin, forsker ved Health Ethics and Policy Lab ved Swiss Federal Institute of Technology
Hvis Google er seriøs omkring etisk kunstig intelligens, skal virksomheden undgå at behandle etik som et PR-spil eller et teknisk problem og integrere det i sin forretningspraksis og processer. Det kan være nødvendigt at omdesigne sine styringsstrukturer for at skabe bedre repræsentation for og ansvarlighed over for både sin interne arbejdsstyrke og samfundet som helhed. Det er især nødvendigt at prioritere minoriteters og sårbare samfunds velfærd verden over, især mennesker, der er eller kan blive negativt påvirket af dens teknologi.
'Søg ikke kun traditionel ekspertise, men også indsigt fra mennesker, der er eksperter i deres egne levede erfaringer'
Joy Buolamwini, grundlægger af Algorithmic Justice League
Når vi tænker på styringen af kunstig intelligens, skal vi ikke kun søge traditionel ekspertise, men også indsigt hos mennesker, der er eksperter i deres egne levede erfaringer. Hvordan kan vi engagere marginaliserede stemmer i at forme AI? Hvordan kunne deltagende kunstig intelligens, der centrerer synspunkterne hos dem, der er mest udsatte for de negative virkninger af kunstig intelligens, se ud?
'Jeg kan ikke forestille mig nogen anbefaling af et sådant rådgivende panel, der står i vejen for, hvad markedet efterspørger'
Ved at lære af ATEAC-oplevelsen bør Google inkorporere kompenserede fællesskabsgennemgangsprocesser i udviklingen af sine produkter og tjenester. Dette vil nødvendiggøre meningsfuld gennemsigtighed og kontinuerligt tilsyn. Og Google og andre medlemmer i Partnership on AI bør afsætte en del af overskuddet til at yde konsortiumfinansiering til forskning i AI-etik og ansvarlighed uden kun at fokusere på AI-retfærdighedsforskning, der løfter tekniske perspektiver alene.
Måske er det bedst, at figenbladet om 'etisk udvikling' er blevet pisket væk
Adam Greenfield, forfatter til Radikale teknologier
Alt, hvad vi har hørt om denne bestyrelse, har været skamfuld, lige fra den første instinkt at invitere James til beslutningen om at lukke den ned i stedet for at dedikere energi til at håndtere konsekvenserne af det valg. Men da mine følelser omkring AI mere eller mindre er dem fra Butler-jihad, er det måske bedst, at figenbladet om 'etisk udvikling' er blevet revet væk. I sidste ende kan jeg ikke forestille mig nogen anbefaling fra et sådant rådgivende panel, hvordan det end måtte være sammensat, der står i vejen for, hvad markedet efterspørger, og/eller den opfattede nødvendighed af at konkurrere med andre aktører, der er involveret i AI-udvikling.
'Det er opmuntrende at se kraften i medarbejderaktivisme'
Tess Posner, administrerende direktør for AI4ALL
Det er fantastisk at se virksomheder, organisationer og forskere arbejde på at skabe etiske rammer for AI. Teknologiindustrien oplever vokseværk på dette område - at finde ud af, hvordan man gør dette rigtigt, er udfordrende og vil tage tid og gentagelser. Vi mener, at det er en mulighed for fortsat at spørge, hvilke stemmer der skal inkluderes, og sørge for at inkludere forskellige stemmer og stemmer, der kan være direkte påvirket af resultaterne af de beslutninger, der er truffet. Det er opmuntrende at se kraften i medarbejderaktivisme, der påvirker forandringer omkring dette og andre tekniske spørgsmål.