Dette er netop blevet en stor uge for AI-regulering

FTC dørkoncept

Fru Tech | Unsplash





Det er en bumper-uge for regeringens tilbagetrækning af misbrug af kunstig intelligens.

I dag udgav EU sit længe ventede sæt af AI regler , hvoraf et tidligt udkast lækket i sidste uge . Reglerne spænder vidt, med restriktioner på masseovervågning og brugen af ​​kunstig intelligens til at manipulere mennesker.

Men en hensigtserklæring fra US Federal Trade Commission, skitseret i en kort blogindlæg af personaleadvokat Elisa Jillson den 19. april, kan have flere tænder i den nærmeste fremtid. Ifølge posten planlægger FTC at gå efter virksomheder, der bruger og sælger partiske algoritmer .



En række virksomheder vil køre bange lige nu, siger Ryan Calo, professor ved University of Washington, der arbejder med teknologi og jura. Det er egentlig ikke kun dette ene blogindlæg, siger han. Dette ene blogindlæg er et meget skarpt eksempel på, hvad der ser ud til at være en havændring.

EU er kendt for sin hårde linje mod Big Tech, men FTC har i det mindste de seneste år taget en blødere tilgang. Agenturet er beregnet til at overvåge urimelig og uærlig handelspraksis. Dets mandat er snævert – det har ikke jurisdiktion over statslige agenturer, banker eller nonprofitorganisationer. Men det kan træde til, når virksomheder misrepræsenterer evnerne ved et produkt, de sælger, hvilket betyder, at firmaer, der hævder deres ansigtsgenkendelsessystemer, prædiktive politialgoritmer eller sundhedsværktøjer ikke er forudindtaget, kan nu være i skudlinjen. Hvor de har magt, har de enorm magt, siger Calo.



Tager affære

FTC har ikke altid været villig til at udøve den magt. Efter kritik i 1980'erne og 90'erne om, at det var for aggressivt, bakkede det op og valgte færre kampe, især mod teknologivirksomheder. Dette ser ud til at ændre sig.

I blogindlægget advarer FTC leverandører om, at påstande om AI skal være sandfærdige, ikke-bedrageriske og understøttet af beviser.

Lad os for eksempel sige, at en AI-udvikler fortæller kunderne, at deres produkt vil give '100 % uvildige ansættelsesbeslutninger', men algoritmen blev bygget med data, der manglede race- eller kønsdiversitet. Resultatet kan være bedrag, diskrimination – og en FTC-lovhåndhævelsesaktion.



FTC-aktionen har bipartisk støtte i Senatet, hvor kommissærerne blev spurgt i går hvad mere de kunne gøre, og hvad de havde brug for for at gøre det. Der er vind bag sejlene, siger Calo.

I mellemtiden, selvom de trækker en klar streg i sandet, er EU's AI-regler kun retningslinjer. Ligesom med GDPR-reglerne, der blev indført i 2018, vil det være op til de enkelte EU-medlemslande at beslutte, hvordan de skal implementeres. Noget af sproget er også vagt og åbent for fortolkning. Tag en bestemmelse mod subliminale teknikker ud over en persons bevidsthed for at forvrænge en persons adfærd materielt på en måde, der kan forårsage psykisk skade. Gælder det nyhedsfeeds på sociale medier og målrettet annoncering? Vi kan forvente, at mange lobbyister forsøger eksplicit at udelukke reklame- eller anbefalingssystemer, siger Michael Veale, et fakultetsmedlem ved University College London, som studerer jura og teknologi.



Relateret historie

Europa vedtager strengere regler for overvågningsteknologi Målet er at gøre salget af teknologier som spyware og ansigtsgenkendelse mere gennemsigtigt i Europa først og derefter på verdensplan.

Det vil tage år med juridiske udfordringer i domstolene at gennemtrænge detaljerne og definitionerne. Det vil først være efter en ekstremt lang proces med efterforskning, klage, bøde, appel, modanke og indbringelse til EU-Domstolen, siger Veale. På hvilket tidspunkt starter cyklussen igen. Men FTC har på trods af sit snævre mandat autonomi til at handle nu.

En stor begrænsning, der er fælles for både FTC og Europa-Kommissionen, er manglende evne til at tøjle regeringers brug af skadelig AI-teknologi. EU’s regler omfatter udskæringer til statslig brug af f.eks. overvågning. Og FTC har kun tilladelse til at gå efter virksomheder. Det kunne gribe ind ved at stoppe private leverandører i at sælge partisk software til retshåndhævende myndigheder. Men at implementere dette vil være svært i betragtning af hemmeligholdelsen omkring sådanne salg og manglen på regler om, hvad offentlige myndigheder skal erklære, hvornår indkøb af teknologi .

Alligevel afspejler denne uges meddelelser et enormt verdensomspændende skift i retning af seriøs regulering af AI, en teknologi, der er blevet udviklet og implementeret med lidt tilsyn indtil videre. Etiske vagthunde har i årevis efterlyst restriktioner for uretfærdig og skadelig kunstig intelligens.

EU ser, at sine regler bringer kunstig intelligens ind under eksisterende beskyttelse af menneskelige frihedsrettigheder. Kunstig intelligens skal tjene mennesker, og derfor skal kunstig intelligens altid overholde menneskers rettigheder, sagde Ursula von der Leyen , formand for Europa-Kommissionen, i en tale forud for udgivelsen.

Regulering vil også hjælpe AI med dets billede problem . Som von der Leyen også sagde: Vi vil opmuntre vores borgere til at føle sig trygge ved at bruge den.

skjule