211service.com
Kongressen ønsker at beskytte dig mod forudindtaget algoritmer, deepfakes og anden dårlig AI
Simone Nironha
Sidste onsdag indførte amerikanske lovgivere en ny regning der repræsenterer en af landets første store bestræbelser på at regulere AI. Der kommer sandsynligvis flere.
Det antyder et dramatisk skift i Washingtons holdning til en af dette århundredes mest magtfulde teknologier. For kun et par år siden havde politikere ringe tilbøjelighed til at regulere kunstig intelligens. Nu, hvor konsekvenserne af ikke at gøre det bliver mere og mere håndgribelige, er et lille kontingent i Kongressen ved at fremme en bredere strategi for at tøjle teknologien.
Selvom USA ikke er alene i denne bestræbelse - Storbritannien, Frankrig , Australien og andre har alle for nylig udarbejdet eller vedtaget lovgivning for at holde tech-virksomheder ansvarlige for deres algoritmer - landet har en unik mulighed for at forme AI's globale indflydelse som Silicon Valleys hjemsted. Et problem i Europa er, at vi ikke er frontløbere på udviklingen af kunstig intelligens, siger Bendert Zevenbergen, tidligere teknologipolitisk rådgiver i Europa-Parlamentet og nu forsker ved Princeton University. Vi er en slags modtagere af AI-teknologi på mange måder. Vi er helt klart den anden lag. Det første niveau er USA og Kina.
Det nye lovforslag, kaldet Algorithmic Accountability Act, vil kræve, at store virksomheder reviderer deres maskinlæringssystemer for skævhed og diskrimination og træffer korrigerende handlinger rettidigt, hvis sådanne problemer blev identificeret. Det ville også kræve, at disse virksomheder reviderer ikke kun maskinlæring, men alle processer, der involverer følsomme data – inklusive personligt identificerbare, biometriske og genetiske oplysninger – for privatlivs- og sikkerhedsrisici. Skulle det vedtages, vil lovforslaget lægge reguleringsbeføjelser i hænderne på US Federal Trade Commission, agenturet med ansvar for forbrugerbeskyttelse og antitrustregulering.
Lovudkastet er det første produkt af mange måneders diskussion mellem lovgivere, forskere og andre eksperter for at beskytte forbrugerne mod de negative virkninger af AI, siger Mutale Nkonde, en forsker ved Data & Society Research Institute, som var involveret i processen. Det kommer som svar på flere højprofilerede afsløringer i det seneste år, der har vist den vidtrækkende skade, algoritmisk bias kan have i mange sammenhænge. Disse inkluderer Amazons internt ansættelsesværktøj der straffede kvindelige kandidater; kommercielle ansigtsanalyse- og genkendelsesplatforme, der er meget mindre nøjagtige for mørkere kvinder end lysere mænd; og for det meste for nylig en Facebook-annonceanbefalingsalgoritme, der sandsynligvis fastholder beskæftigelses- og boligdiskrimination uanset annoncørens specificerede målgruppe.
Relateret historie
Relateret historie Bias kan snige sig ind på mange stadier af den dybe læringsproces, og standardpraksis inden for datalogi er ikke designet til at opdage det.Lovforslaget er allerede blevet rost af medlemmer af AI-etik- og forskningsmiljøet som et vigtigt og tankevækkende skridt hen imod at beskytte mennesker mod sådanne utilsigtede forskellige påvirkninger. Fantastisk første skridt, skrev Andrew Selbst, en teknologi- og juridisk forsker ved Data & Society, videre Twitter . Vil kræve dokumentation, vurdering og forsøg på at imødegå forudsete påvirkninger. Det er nyt, spændende og utroligt nødvendigt.
Det vil heller ikke være det eneste skridt. Forslaget, siger Nkonde, er en del af en større strategi for at bringe regulatorisk tilsyn med alle AI-processer og -produkter i fremtiden. Der vil sandsynligvis snart komme endnu et lovforslag for at imødegå spredningen af desinformation, herunder deepfakes, som en trussel mod den nationale sikkerhed, siger hun. Endnu en regning indført tirsdag ville forbyde manipulerende designpraksis, som teknologigiganter nogle gange bruger for at få forbrugerne til at opgive deres data. Det er et flerstrenget angreb, siger Nkonde.
Hver regning er bevidst ekspansiv og omfatter forskellige AI-produkter og dataprocesser på en række forskellige domæner. En af de udfordringer, som Washington har kæmpet med, er, at en teknologi som ansigtsgenkendelse kan bruges til drastisk forskellige formål på tværs af brancher , såsom retshåndhævelse, bilindustrien og endda detailhandel. Fra et regulatorisk synspunkt er vores produkter branchespecifikke, siger Nkonde. De tilsynsmyndigheder, der ser på biler, er ikke de samme tilsynsmyndigheder, der ser på kontrakter i den offentlige sektor, som ikke er de samme tilsynsmyndigheder, der ser på apparater.
Kongressen forsøger at være betænksom over, hvordan man omarbejder den traditionelle lovgivningsramme for at imødekomme denne nye virkelighed. Men det vil være vanskeligt at gøre det uden at påtvinge forskellige sammenhænge en ensartet løsning. Fordi ansigtsgenkendelse bruges til så mange forskellige ting, bliver det svært at sige: 'Det er reglerne for ansigtsgenkendelse,' siger Zevenbergen.
Nkonde forudser, at denne reguleringsbevægelse i sidste ende vil give anledning til et nyt kontor eller agentur, der er specifikt fokuseret på avancerede teknologier. Der vil dog være store forhindringer undervejs. Mens beskyttelse mod desinformation og manipulerende dataindsamling har opnået støtte fra to partier, er den algoritmiske ansvarlighedslov sponsoreret af tre demokrater, hvilket gør det mindre sandsynligt, at det bliver vedtaget af et republikansk-kontrolleret senat og underskrevet af præsident Trump. Derudover er det i øjeblikket kun en håndfuld medlemmer af Kongressen, der har et dybt nok teknisk greb om data og maskinlæring til at nærme sig regulering på en passende nuanceret måde. Disse ideer og forslag er en slags niche lige nu, siger Nkonde. Du har disse tre eller fire medlemmer, der forstår dem.
Men hun er fortsat optimistisk. En del af den fremadrettede strategi inkluderer at uddanne flere medlemmer om problemerne og bringe dem med ombord. Efterhånden som du uddanner dem om, hvad disse lovforslag omfatter, og efterhånden som regningerne får medsponsorer, vil de flytte mere og mere ind i centrum, indtil regulering af tech-industrien er en no-brainer, siger hun.
Denne historie dukkede oprindeligt op i vores Webby-nominerede AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, tilmeld dig her gratis.