211service.com
Hvad skal man gøre, når en robot er den skyldige part
Skal regeringen regulere kunstig intelligens? Det var det centrale spørgsmål første workshop i Det Hvide Hus om de juridiske og forvaltningsmæssige konsekvenser af kunstig intelligens, afholdt i Seattle tirsdag.
Vi observerer, at problemer omkring kunstig intelligens og maskinlæring dukker op overalt i regeringen, sagde Ed Felten, vicechef i Det Hvide Hus. Vi er ikke i nærheden af at regulere AI bredt … men udfordringen er, hvordan man sikrer, at AI forbliver sikker, kontrollerbar og forudsigelig, efterhånden som den bliver smartere.
Et af hovedformålene med workshoppen, sagde en af dens arrangører, juraprofessor ved University of Washington Ryan Calo , var at hjælpe offentligheden med at forstå, hvor teknologien er nu, og hvor den er på vej hen. Tanken er ikke, at regeringen skal træde ind og regulere kunstig intelligens, men snarere at bruge dens mange andre løftestænger, såsom koordinering mellem agenturerne og indkøbsmagt, sagde han. Deltagerne omfattede teknologiiværksættere, akademikere og medlemmer af offentligheden.
I en hovedtale bemærkede Oren Etzioni, administrerende direktør for Allen Institute for Artificial Intelligence, at vi stadig er i maskinlæringens mørke middelalder med AI-systemer, der generelt kun fungerer godt på velstrukturerede problemer som brætspil og motorvejskørsel. Han gik ind for en samarbejdstilgang, hvor kunstig intelligens kan hjælpe mennesker til at blive sikrere og mere effektive. Hospitalsfejl er den tredje førende dødsårsag i USA, sagde han. AI kan hjælpe her. Hvert år dør folk, fordi vi ikke bruger AI ordentligt på hospitaler.
Oren Etzioni, administrerende direktør for Allen Institute for Artificial Intelligence, til venstre, taler med deltagere på workshoppen i Det Hvide Hus om kunstig intelligens.
Ikke desto mindre anser Etzioni det for alt for tidligt at tale om regulering af AI: Dyb læring er stadig 99 procent menneskeligt arbejde og menneskelig opfindsomhed. ’Min robot gjorde det’ er ikke en undskyldning. Vi er nødt til at tage ansvar for, hvad vores robotter, AI og algoritmer gør.
Et panel om kunstig visdom fokuserede på, hvornår disse menneske-AI-interaktioner går galt, som f.eks. algoritme designet til at forudsige fremtidige kriminelle lovovertrædere der ser ud til at være raceorienteret. Problemet handler ikke om AI-agenterne selv, det handler om mennesker, der bruger teknologiske værktøjer til at undertrykke andre mennesker inden for finans, strafferet og uddannelse, sagde Jack Balkin fra Yale Law School.
Adskillige akademikere støttede ideen om et informationsselskab: at give folk, der indsamler big data og bruger kunstig intelligens, de juridiske pligter som god tro og troværdighed. For eksempel kan teknologer blive holdt ansvarlige, hvis de bruger data af dårlig kvalitet til at træne AI-systemer eller forstener fordomme baseret på race, alder eller køn i de algoritmer, de designer.
Da statslige institutioner i stigende grad er afhængige af AI-systemer til beslutningstagning, vil disse institutioner have brug for personale, der forstår de begrænsninger og skævheder, der er iboende i data og AI-teknologi, bemærkes Kate Crawford , en samfundsforsker hos Microsoft Research. Hun foreslog, at eleverne blev undervist i etik ved siden af programmeringsfærdigheder.
Bryant Walker Smith fra University of South Carolina foreslog reguleringsfleksibilitet for hurtigt udviklende teknologier, såsom førerløse biler. Individuelle virksomheder bør gøre en offentlig sag for sikkerheden af deres autonome køretøjer, sagde han. De bør etablere foranstaltninger og derefter overvåge dem i løbet af deres systemer. Vi har brug for en mangfoldighed af tilgange til at informere den offentlige debat.
Dette var den første af fire planlagte workshops i de kommende måneder. To vil tage fat på AI til socialt gode og spørgsmål omkring sikkerhed og kontrol, mens den sidste vil grave dybere ned i teknologiens sociale og økonomiske implikationer. Felten meddelte også, at Det Hvide Hus om kort tid ville udsende en anmodning om information for at give offentligheden en mulighed for at veje ind i fremtiden for kunstig intelligens.
Elefanten i rummet var selvfølgelig novembers præsidentvalg. I en blogindlæg tidligere på måneden afslørede Felten et nyt underudvalg for National Science and Technology Council for Machine Learning og Artificial Intelligence, der fokuserede på at bruge AI til at forbedre statslige tjenester mellem nu og slutningen af administrationen.