Software, der overvåger eleverne under prøver, fastholder ulighed og krænker deres privatliv

Foto af Iris Wang på Unsplash

Corona-pandemien har været en velsignelse for testproctoring-industrien. Omkring et halvt dusin virksomheder i USA hævder, at deres software nøjagtigt kan opdage og forhindre snyd i onlinetests. Eksamen , HonorLock , Proctorio , ProctorU , Svar og andre er vokset hurtigt, siden gymnasier og universiteter skiftede til fjernklasser.

Selvom der ikke er nogen officiel opgørelse, er det rimeligt at sige, at millioner af algoritmisk proctorerede tests finder sted hver måned rundt om i verden. Proctorio fortalte New York Times i maj var denne forretning steget med 900 % i løbet af de første par måneder af pandemien, til det punkt, hvor virksomheden i april gennemførte 2,5 millioner test på verdensplan.

Jeg er universitetsbibliotekar, og jeg har set virkningerne af disse systemer på tæt hold. Min egen arbejdsgiver, University of Colorado Denver, har en kontrakt med Proctorio.

Det er blevet klart for mig, at algoritmisk proctoring er en moderne overvågningsteknologi, der forstærker hvid overherredømme, sexisme, dygtighed og transfobi. Brugen af ​​disse værktøjer er en krænkelse af elevernes privatliv og ofte en krænkelse af borgerrettigheder.

Hvis du er studerende, der tager en algoritmisk proctored test, er det sådan her det virker: Når du begynder, begynder softwaren at optage din computers kamera, lyd og de websteder, du besøger. Den måler din krop og holder øje med dig i hele eksamensperioden og sporer dine bevægelser for at identificere, hvad den betragter som snydadfærd. Hvis du gør noget, som softwaren anser for mistænkeligt, vil det advare din professor om at se optagelsen og give dem en farvekodet sandsynlighed for din akademiske uredelighed.

Afhængigt af hvilket firma der har lavet softwaren, vil det bruge en kombination af maskinlæring, AI og biometri (inklusive ansigtsgenkendelse, ansigtsgenkendelse eller øjensporing) til at gøre alt dette. Problemet er, at ansigtsgenkendelse og -genkendelse har vist sig at være det racist , sexistisk , og transfobisk over , og over , og over igen.

Generelt har teknologi en mønster for at forstærke strukturel undertrykkelse synes godt om racisme og sexisme . Nu dukker de samme skævheder op i testproctoring-software, der skader marginaliserede studerende uforholdsmæssigt meget.

En sort kvinde på mit universitet fortalte mig engang, at når hun brugte Proctorios testproctoring-software, fik det hende altid til at skinne mere lys på hendes ansigt. Softwaren kunne ikke validere hendes identitet, og hun blev nægtet adgang til test så ofte, at hun var nødt til at gå til sin professor for at lave andre arrangementer. Hendes hvide jævnaldrende havde aldrig dette problem.

Lignende former for diskrimination kan ske, hvis en studerende er trans eller ikke-binær. Men hvis du er en hvid cis-mand (som de fleste af de udviklere, der laver software til ansigtsgenkendelse), vil du sandsynligvis have det fint.

Studerende med børn bliver også straffet af disse systemer. Hvis du nogensinde har prøvet at besvare e-mails, mens du passer børn, ved du, hvor umuligt det kan være at få selv et par uafbrudte minutter foran computeren. Men adskillige proctoring-programmer vil markere støj i rummet eller enhver, der forlader kameraets udsigt, som ondsindet. Det betyder, at studerende med medicinske tilstande, der skal bruge badeværelset eller ofte administrere medicin, vil blive betragtet som lignende mistænkelige.

Ud over alle de måder, hvorpå proctoring-software kan diskriminere studerende, er algoritmisk proctoring også en betydelig krænkelse af privatlivets fred. Disse produkter filmer elever i deres hjem og kræver ofte, at de udfører rumscanninger, som involverer at bruge deres kamera til at vise deres omgivelser. I mange tilfælde kan professorer til enhver tid få adgang til optagelserne af deres studerende og endda downloade disse optagelser til deres personlige maskiner. De kan også se hver elevs placering baseret på deres IP-adresse.

Privatliv er altafgørende for bibliotekarer som mig, fordi lånere stoler på os med deres data. Efter 9/11, da Patriot Act bemyndigede det amerikanske ministerium for indenrigssikkerhed til få adgang til bibliotekets protokol i deres søgen efter terrorister begyndte mange bibliotekarer at bruge software, der slettede en protektors optegnelse, når en bog blev returneret. Produkter, der krænker folks privatliv og diskriminerer dem, går imod min faglig etos , og det er dybt bekymrende at se sådanne produkter ivrigt vedtaget af højere uddannelsesinstitutioner.

Denne nidkærhed ville være lidt mere forståelig, hvis der var nogen beviser for, at disse programmer faktisk gjorde, hvad de hævder. Så vidt jeg ved, er der ikke en enkelt peer-reviewed eller kontrolleret undersøgelse, der viser, at proctoring-software effektivt opdager eller forhindrer snyd. I betragtning af, at universiteter er stolte af at træffe evidensbaserede beslutninger, er dette en iøjnefaldende forglemmelse.

Heldigvis er der bevægelser i gang til forbyde proctoring software og forbyde ansigtsgenkendelsesteknologier på campusser , såvel som kongressens lovforslag at forbyde den amerikanske føderale regering at bruge ansigtsgenkendelse. Men selvom ansigtsgenkendelsesteknologi blev forbudt, kunne proctoring-software stadig eksistere som et program, der sporer bevægelser af elevernes øjne og kroppe. Selvom det måske er mindre racistisk, ville det være det stadig diskriminere mod mennesker med handicap, ammende forældre og mennesker, der er neuroatypiske. Disse produkter kan ikke reformeres; de bør opgives.

Snyd er ikke den trussel mod samfundet, som testfirmaer vil have dig til at tro. Det udvander ikke værdien af ​​grader eller forringer institutionelt omdømme, og studerende forsøger ikke at snyde sig til at blive din kirurg . Teknologien har ikke opfundet betingelserne for snyd, og det vil ikke være det, der stopper det. Det bedste, vi på de videregående uddannelser kan gøre, er at starte med den radikale idé om tillidsfulde elever . Lad os vælge medfølelse frem for overvågning.

Shea Swauger er akademisk bibliotekar og forsker ved University of Colorado Denver.

skjule