AI-forskere ønsker at studere AI på samme måde som samfundsforskere studerer mennesker

En konceptuel illustration af en forsker, der studerer AI Tsjisse Talsma

Meget blæk er blevet spildt på AI-systemernes sorte boks – og hvordan det gør os ubehagelige, at vi ofte ikke kan forstå, hvorfor de træffer de beslutninger, de tager. Efterhånden som algoritmer er kommet til at formidle alt fra vores sociale og kulturelle til økonomiske og politiske interaktioner, har dataloger forsøgt at reagere på stigende krav om deres forklarlighed ved at udvikle tekniske metoder til at forstå deres adfærd.

Men en gruppe forskere fra den akademiske verden og industrien argumenterer nu for, at vi ikke behøver at trænge ind i disse sorte bokse for at forstå og dermed kontrollere deres effekt på vores liv. Det er trods alt ikke de første uudgrundelige sorte kasser, vi er stødt på.

Vi har udviklet videnskabelige metoder til at studere sorte bokse i hundreder af år nu, men disse metoder er primært blevet anvendt på [levende væsener] indtil dette punkt, siger Nick Obradovich, en MIT Media Lab-forsker og medforfatter til en nyt papir udgivet i sidste uge i Natur . Vi kan udnytte mange af de samme værktøjer til at studere de nye black box AI-systemer.

Avisens forfattere, en mangfoldig gruppe forskere fra industri og akademisk verden, foreslår at skabe en ny akademisk disciplin kaldet maskinadfærd. Det nærmer os at studere AI-systemer på samme måde, som vi altid har studeret dyr og mennesker: gennem empirisk observation og eksperimentering.

På denne måde er en maskinbehavorist for en datalog, hvad en samfundsforsker er for en neuroforsker. Førstnævnte søger at forstå, hvordan en agent – ​​hvad enten den er kunstig eller biologisk – opfører sig i sit habitat, når den sameksisterer i grupper, og når den interagerer med andre intelligente agenter. Sidstnævnte søger at dissekere beslutningstagningsmekanikken bag denne adfærd.

Vi ser fremkomsten af ​​maskiner med handlekraft, maskiner, der er aktører, der træffer beslutninger og træffer handlinger selvstændigt, sagde Iyad Rahwan, en anden Media Lab-forsker og hovedforfatter på papiret, i en blogindlæg ledsager udgivelsen. Derfor skal de studeres som en ny klasse af skuespillere med deres egne adfærdsmønstre og økologi.

Dette betyder ikke at antyde, at AI-systemer har udviklet en form for fri vilje. (Det har de bestemt ikke; de ​​er kun glorificerede matematiske modeller.) Men det er meningen, at det skal gå væk fra at se AI-systemer som passive værktøjer, der kan vurderes udelukkende gennem deres tekniske arkitektur, ydeevne og muligheder. De bør i stedet betragtes som aktive aktører, der ændrer og påvirker deres omgivelser og mennesker og maskiner omkring dem.

Så hvordan ville dette overhovedet se ud? En maskinadfærdsforsker kan for eksempel forhøre sig om, hvilken indflydelse stemmeassistenter har på et barns personlighedsudvikling. Eller de kan undersøge, hvordan online dating-algoritmer har ændret, hvordan mennesker mødes og bliver forelskede. I sidste ende ville de studere de nye egenskaber, der opstår fra mange mennesker og maskiner, der sameksisterer og samarbejder sammen.

Vi er alle ét kæmpe menneske-maskine-system, siger Obradovich. Vi er nødt til at erkende det og begynde at studere det på den måde.

Det er vigtigt at bemærke, at de fleste af disse ideer ikke er nye. Robotikere har for eksempel længe undersøgt menneske-computer-interaktion. Og feltet for videnskab, teknologi og samfund har det, der er kendt som aktør-netværksteorien, en ramme for at beskrive alt i den sociale og naturlige verden – både mennesker og algoritmer – som aktører, der på en eller anden måde forholder sig til hinanden. Men for det meste er hver af disse bestræbelser blevet fortyndet i separate discipliner. At samle dem under én paraply hjælper med at tilpasse deres mål, formalisere et fælles sprog og fremme tværfaglige samarbejder. Det vil hjælpe os med at finde hinanden, siger Obradovich.

På trods af at de er i en særskilt disciplin fra AI-forskere, bør maskinadfærdsforskere stadig arbejde tæt sammen med dem. Efterhånden som sidstnævnte opdager nye måder AI-systemer opfører sig på og påvirker mennesker, kan førstnævnte bringe disse erkendelser til at påvirke systemets design. Jo mere hver disciplin kan drage fordel af den andens ekspertise, jo mere vil de være i stand til at sikre, at kunstige midler gavner mennesker frem for at skade dem.

Vi har brug for ekspertise fra forskere fra alle adfærds- og beregningsdiscipliner, siger Obradovich. At finde ud af, hvordan man lever med maskiner, er et problem, der er for stort til, at en disciplin kan løse alene.

skjule