211service.com
Harvard-forskere ønsker at undervise Kongressen om AI
Foto af Harvard Square Chensiyuan/Wikimedia commons
Da Facebooks topchef Mark Zuckerberg vidnede foran den amerikanske kongres, indså teknologieksperter hurtigt, hvor dårligt informerede hans spørgere var. Så meget som Kongressen ønskede at regulere tech-behemothen, var det klart, at de ikke havde nogen idé om hvordan. I stedet lod de ham slippe af sted med storslåede påstande om, hvordan AI ville løse alle virksomhedens problemer.
For Dipayan Ghosh, en forsker ved Harvard Kennedy School (HKS), understregede høringen det presserende behov for at bringe amerikanske politiske beslutningstagere op på hastigheden om store teknologispørgsmål – og AI i særdeleshed.
AI er en enorm teknologi, men der er virkelig fremtrædende problemer, som vi har set tage sit eget liv i samfundet, siger Ghosh, der var teknologipolitisk rådgiver i Obama-administrationen. Vi er nødt til at informere folk i magtpositioner om, hvordan disse systemer rent faktisk fungerer, så næste gang de iværksætter en reguleringsindsats, vil de ikke være dårligt informerede.
Ghosh er co-instruerende en nyt AI-politisk initiativ , lanceret i dag med Tom Wheeler, en seniorforsker ved HKS og formanden for US Federal Communications Commission under Obama.
Finansieret af HKS's Shorenstein Center for medier, politik og offentlig politik, vil initiativet fokusere på at udvide det juridiske og akademiske stipendium omkring AI-etik og -regulering. Det vil også være vært for en boot camp for medlemmer af den amerikanske kongres for at hjælpe dem med at lære mere om teknologien. Håbet er, at med disse kombinerede bestræbelser vil Kongressen og andre politiske beslutningstagere være bedre rustet til effektivt at regulere og beskytte den voksende indvirkning af AI på samfundet.
I løbet af det seneste år har en række højprofilerede teknologiskandaler gjort konsekvenserne af dårligt implementeret kunstig intelligens i stigende grad tydelige. Dette inkluderer brugen af maskinlæring til at sprede desinformation gennem sociale medier og automatisering af forudindtaget og diskriminerende praksis gennem ansigtsgenkendelse og andre automatiserede systemer.
I oktober, på det årlige AI Now Symposium, understregede teknologer, menneskerettighedsaktivister og juridiske eksperter gentagne gange behovet for systemer til at holde AI ansvarlige.
Regeringen har den lange udsigt, sagde Sherrilyn Ifill, præsident og direktør for NAACP Legal Defense Fund. De har på mange måder ansvaret for at formidle historien til de virksomheder og andre virksomheder, der udvikler disse teknologier.
Men regeringen mangler viden til at bære dette ansvar, siger Ghosh. Hvis du spørger et medlem af Kongressen, om AI er en del af desinformationsproblemet, kan de sige 'det tror jeg ikke' eller 'Jeg ved det ikke', siger han.
Som en del af initiativet bad Ghosh og Wheeler omkring 30 førende eksperter inden for datalogi, filosofi, økonomi og andre områder om at veje ind i spørgsmål, herunder diskrimination, retfærdighed, gennemsigtighed og ansvarlighed.
Disse perspektiver vil blive offentliggjort i løbet af de følgende måneder, begyndende med tre i denne uge: Catherine Tucker, professor ved MIT Sloan School of Management, om den økonomiske kontekst af algoritmisk bias; M.C. Elish og Danah Boyd, henholdsvis forskningsleder og grundlægger af Data & Society Research Institute, om etikken i, hvornår og hvordan man bruger AI-systemer uden at forværre eksisterende uretfærdighed; og Joseph Turow, professor ved Annenberg School for Communication, om de diskriminerende konsekvenser af hyperpersonlig markedsføring.
Initiativet vil være vært for en boot camp i Washington, DC i februar næste år for medlemmer af Kongressen og deres teknologipolitiske personale for at hjælpe med at oversætte artiklerne til produktive politiske diskussioner. Lejren vil undersøge, hvad det vil sige at designe AI etisk, og hvilke lovgivningsmæssige foranstaltninger der kan træffes for at afbøde skaden og fremme dens fordele.
Ghosh erkender, at det nuværende politiske klima gør det vanskeligt at bringe begge parter på linje mod ethvert mål, men han håber, at de vil finde fælles fodslag om spørgsmålets hastende karakter.