211service.com
Google udpeger et AI-råd til at afværge kontroverser, men det viser sig at være kontroversielt
Jeremy havn
Udvikling og kommercialisering af kunstig intelligens har vist sig at være et etisk minefelt for virksomheder som Google. Virksomheden har set sine algoritmer beskyldt for at opretholde race- og kønsbias og sætte skub i bestræbelserne på at bygge autonome våben.
Søgegiganten håber nu, at et team af filosoffer, ingeniører og politiske eksperter vil hjælpe det med at navigere i de moralske farer, som kunstig intelligens præsenterer uden presseskandaler, medarbejderprotester eller juridiske problemer.
Kent Walker, Googles senior vicepræsident for globale anliggender og chief legal officer, annoncerede oprettelsen af et nyt uafhængigt organ til at gennemgå virksomhedens AI-praksis på EmTech Digital, en AI-konference i San Francisco arrangeret af MIT Technology Review.
Walker sagde, at gruppen, kendt som Advanced Technology External Advisory Council (ATEAC), ville gennemgå virksomhedens projekter og planer og producere rapporter for at hjælpe med at afgøre, om nogen af dem strider mod virksomhedens egne AI-principper. Rådet vil ikke have en fast dagsorden, sagde Walker, og det ville ikke have beføjelse til at nedlægge veto mod projekter selv. Men han sagde, at gruppens rapporter vil hjælpe med at holde os ærlige.
Den første ATEAC vil byde på en filosof, en økonom, en ekspert i offentlig politik og flere forskere inden for datavidenskab, maskinlæring og robotteknologi. Flere af de udvalgte forsker aktivt i spørgsmål som algoritmisk bias. Den fulde liste er som følger: Alessandro Acquisti, Bubacarr Bah, De Kai, Dyan Gibbens, Joanna Bryson, Kay Coles James, Luciano Floridi , og William Joseph Burns .
Men det er op til teknologivirksomheder at bevise, at de er oprigtige omkring etiske bekymringer. Annonceringen har allerede fremkaldt et tilbageslag fra nogle AI-eksperter, der sætter spørgsmålstegn ved inklusion af Gibbens og James.
Førstnævnte er grundlægger og administrerende direktør for et dronefirma, et valg, der virker tonedøvt, efter at Google stod over for et medarbejdertilbageslag og en storm af negativ presse for sit engagement i Maven, et projekt, der skal levere cloud AI til det amerikanske luftvåben til analysen af dronebilleder. Nedfaldet fik Google til at annoncere et sæt af AI principper i første omgang. Sidstnævnte er formanden for den konservative tænketank The Heritage Foundation, der har skubbet en anti-LGBTQ-dagsorden, og hvis organisation blandt andet har spredt misinformation om klimaforandringer.
Den kontroversielle meddelelse kommer midt i en række skandaler, som Google og andre store teknologivirksomheder har stået over for i forbindelse med udvikling og brug af kunstig intelligens. For eksempel de algoritmer, der bruges til ansigtsgenkendelse og filtrering af jobansøgere har vist sig at udvise racemæssig skævhed.
Walker sagde på scenen, at Google allerede undersøger sine AI-projekter omhyggeligt. Han bemærkede, at virksomheden har valgt ikke at levere teknologi til ansigtsgenkendelse på grund af frygt for, at den kunne blive misbrugt. I et andet tilfælde sagde han, at virksomheden havde valgt at frigive en læbelæsende AI-algoritme på trods af bekymringer om, at den kunne blive brugt til overvågning, fordi det blev vurderet, at de potentielle fordele opvejede risiciene.
Hos EmTech erkendte Walker, at rådet ville være nødt til at overveje nye AI-risici, og han identificerede misinformation og AI-drevet videomanipulation som særlige bekymringer. Hvordan opdager vi dette på tværs af vores platforme? Vi arbejder meget hårdt på det her, sagde han. Vi er en søgemaskine, ikke en sandhedsmaskine.