Bør gymnasier virkelig sætte smarte højttalere i sovesale?

Da Mateo Catano vendte tilbage til sit andet år som bachelor ved Saint Louis University i efteråret 2018, fandt han sig selv sammen med en ny værelseskammerat - ikke en anden studerende, men en kropsløs hjerne i form af en Amazon Echo Dot.

Tidligere samme sommer havde informationsteknologiafdelingen på SLU installeret omkring 2.300 af de smarte højttalere - en til hvert af universitetets kollegieværelser, hvilket gjorde skolen til den første i landet til at gøre det. Hver enhed var forprogrammeret med svar på omkring 130 SLU-specifikke spørgsmål, lige fra bibliotekets åbningstider til placeringen af ​​registratorens kontor (skolen døbte dette AskSLU). Enhederne inkluderede også de grundlæggende stemmefærdigheder, der er tilgængelige på andre Dots, inklusive alarmer og påmindelser, generel information og muligheden for at streame musik.

Denne historie var en del af vores januar 2020-udgave

• Se resten af ​​problemet
• Abonner

For Catano var prikken en velkommen tilføjelse. Han kunne godt lide at høre vejret først om morgenen og vide, hvilke spisesale der var åbne. Og hvis han skal være ærlig, kunne han lide virksomheden. At bo i en single, AskSLU fik mig helt sikkert til at føle mig mindre ensom, siger han. Og jeg kunne godt lide status som at være på det første universitet, der gjorde dette.

Catanos reaktion var præcis, hvad SLU-administratorer håbede på. I efteråret annoncerede jesuiter-institutionen planer om at udvide stemmefærdighederne i sine Echo Dots ved at inkludere både tekstbeskeder og chatbot-funktioner.

Ingen idé om de langsigtede virkninger

Vi er på randen af ​​en ny æra med smarte højttalere på campus. Skoler så vidtfavnende som Arizona State University, Lancaster University i Storbritannien og Ross University School of Medicine i Barbados har vedtaget stemmefærdighedsteknologi på campus. Nogle, herunder Northeastern University, har taget teknologien et skridt videre og giver nu studerende adgang til økonomi, kursusplaner og karakterer og udestående gebyrer via stemmeenheder.

I slutningen af ​​2018 annoncerede Bostons Emerson College, at det var en af ​​18 modtagere af et tilskud fra Amazon til at fremme stemmeaktiveret teknologi på campusser, en del af teknologigigantens Alexa Innovation Fellowship. Emerson har skabt et dedikeret stemmelaboratorium, hvor eleverne kan interagere og eksperimentere med Alexa-færdigheder, og det planlægger at installere Alexa-enheder på steder som teatre og uden for elevatorbanker.

Administratorer på nogle af disse skoler fortalte mig, at de tror, ​​at Alexa vil styrke tilmeldingen og reducere frafaldsprocenten. Flere sagde også, at de tror på, at stemmeteknologi kan øge deres elevers succes og øge deres generelle lykke.

Der er dog masser af mennesker på campus, der ser en mørk side.

Når det kommer til at implementere lytteenheder, hvor der forekommer følsomme samtaler, har vi simpelthen ingen idé om, hvilken langsigtet effekt det kan have på deres fremtid, hvis samtaler optages og opbevares af Amazon – endda, ganske muligt, på deres helbred og velvære, siger Russell Newman, en Emerson-professor, der forsker i kommunikations- og kommunikationspolitikkens politiske økonomi.

Vi ved stadig ikke rigtig, hvor meget data stemmefærdighedsværter som Amazon – eller tredjeparter, der er afhængige af Amazon – høster, eller hvad de laver med disse oplysninger.

Andre fakultetsmedlemmer, jeg talte med, gentog Newmans indvendinger. Hvad hvis data indsamlet fra studerendes samtaler påvirkede deres chancer for at få et realkreditlån eller et job senere? Hvad hvis det blev brugt mod udenlandske studerende at få dem udvist, muligvis til hjemlande, hvor de kunne blive fængslet for deres politiske holdninger?

Ret. Så givet alle risiciene, hvorfor er gymnasier så ivrige efter at fylde deres campusser med AI-aktiverede mikrofoner? Hvad giver det dem?

AI til undsætning

Gymnasier og universiteter står over for flere truende kriser. Efter år med stigende tilmeldingstal oplever amerikanske skoler fald i optagelser, en tendens, der forventes at forværres i løbet af det næste årti. En særrapport fra november 2019 fra Chronicle of Higher Education forudsiger hurtige fald på selv landets mest selektive institutioner. Institutionelle indtægter er gået i stå – Moody's Investors Service udsendte negative udsigter for videregående uddannelser for regnskabsåret 2019, med undtagelse af universiteter i syd. I tre år har Undervisningsministeriet forsøgt at skære milliarder fra økonomisk støtte og støtte til fattigere studerende, selvom kongressen har afvist nedskæringerne. Statens bidrag til de offentlige universiteters budgetter har haltet siden sidste recession. Private gymnasier kæmper også; mere end en fjerdedel af dem er nu i minus. I de seneste år har 20 private, nonprofit gymnasier lukket dørene, og mange flere overvejer at fusionere eller konsolidere.

I mellemtiden undlader halvdelen af ​​alle studerende, der går på college, at opgradere inden for seks år. Forskere giver en række forskellige forklaringer. Nick Bowman, professor i uddannelse ved University of Iowa, peger på, at nutidens studerende er ældre end de traditionelle 18- til 22-årige. Mange har fuldtidsjob. Nogle tager sig af børn eller søskende eller aldrende forældre. Og med et gennemsnit på 35.000 kroner i studielånsgæld efter fire år i skole, kan udsigten til at droppe ud være fristende.

For mange universitetsadministratorer tilbyder AI tiltalende løsninger på disse vanskeligheder. Winston-Salem State University, et historisk sort universitet med mange lavindkomst- og førstegenerations universitetsstuderende, har haft mangeårige problemer med at hjælpe hver enkelt, der går ind i klasse, med at nå nøgledeadlines som at indsende gymnasieudskrifter og vaccinationsoptegnelser, udfylde formularer til økonomisk støtte og lave boligindskud. Vi indså, at mange af vores studerende måske ikke forstår college-tilmeldingsprocessen og måske ikke er i stand til at stole på familier eller støttesystemer til at afkode det for dem, siger Jay Davis, universitetets leder af medierelationer.

For to år siden samarbejdede WSSU med et teknologifirma ved navn AdmitHub for at tilbyde en AI-chatbot ved navn Winston for at hjælpe studerende med at navigere i tilmeldingsprocessen. Davis siger, at appen med succes besvarer omkring tre fjerdedele af elevernes spørgsmål, og at der har været en dramatisk stigning i antallet af studerende, der opfylder deres økonomiske krav og indsender alle de nødvendige dokumenter for at fuldføre deres ansøgning. I år er WSSU vært for sin største førsteårsklasse i mere end et årti, og Davis siger, at Winston spillede en stor rolle i det.

Adgang til dine ord, for evigt

Jeg brugte flere timer på at lege med chatbots på en håndfuld gymnasier og universiteter. De stillede alle spørgsmål om skolens maskot, hvor jeg kunne finde middag, og hvornår den næste sports- eller alumni-netværksbegivenhed var. Men de pjækkede andre. Da jeg fortalte en, at jeg var syg, informerede det mig om, at studentersundhedscentret ikke ville udstede en skriftlig undskyldning for manglende undervisning. Jeg spurgte den, hvor studentersundhedscentret var; det svarede med universitetsrejsetider for potentielle studerende. Jeg fortalte en anden, at jeg følte mig deprimeret, og det henviste mig til et føderalt studiestøtteprogram.

Campus-programmørerne på den anden side af disse enheder fortalte mig alle, at færdighederne ville blive bedre, efterhånden som flere studerende brugte dem - hvilket selvfølgelig er det, der gør AI så effektiv. Men det er også det, der gør trusler mod vores privatliv så virkelige, siger Vitaly Shmatikov, professor i datalogi ved Cornell Tech. Teknikvirksomheder, siger Shmatikov, er notorisk uigennemsigtige med hensyn til privatliv og sikkerhed. Det, han og andre forskere har lært om dem, er i høj grad ved hjælp af reverse-engineering og nogle kvalificerede gætværk, og resultaterne bekymrer Shmatikov en hel del.

For det første, siger han, træner virksomheder som Amazon deres talegenkendelsesalgoritmer på optagelser af tidligere brugerinteraktioner for at gøre dem bedre til for eksempel at forstå hensigten med et spørgsmål. Han siger, at alle de involverede virksomheder er meget usikre på, hvor meget data der rejser mellem dem. Der er intet løfte til brugeren om, at deres data ikke forlader en bestemt enhed, siger Shmatikov. Vi ved stadig ikke rigtig, hvor meget data stemmefærdighedsværter som Amazon – eller tredjeparter, der er afhængige af Amazon – høster, eller hvad de laver med disse oplysninger. Amazon svarede ikke på flere anmodninger om kommentarer.

Shmatikov siger, at det er rimeligt at antage, at en virksomheds sky har dato- og tidsstemplede optagelser af elevernes anmodninger til en smarthøjttaler, og enhederne kan endda optage de samtaler, eleven kunne have haft med andre mennesker før eller efter at have talt til den. Efterhånden som stemmeidentifikation og lokaliseringsfærdigheder forbedres, bliver det i stigende grad muligt at knytte disse optagelser til en individuel person. Det er ikke som en skole, der ransager dit skab; det er mere som en skole, der for evigt optager alt, hvad der nogensinde har været i dit skab, og hvad du og dine venner sagde, hver gang du åbnede det, og så lader et væld af kommercielle enheder søge i den information.

Embedsmænd ved Arizona State University og Saint Louis University siger, at de ikke sammenkæder oplysninger som studerendes økonomi, helbredsjournaler og karakterer (data kendt som autentificerede, da det kræver, at en studerende linker til personlige konti), før de er mere sikre på sikkerhedsforanstaltninger. Teknologien, der blev brugt på Northeastern, blev udviklet af et lille team ledet af Somen Saha, dengang en ansat ved universitetet. Saha skabte til sidst et uafhængigt firma kaldet n-Powered, som udviklede en app kaldet MyHusky, der er tilgængelig gennem Alexa. Dens privatlivsside anerkender dog også, at vi bruger Amazons platform til at få dette til at fungere. Amazon gemmer oplysninger om brug, som kan slettes efter anmodning.

Shmatikov siger, at brug af et universitets egen software og begrænsning af brugen af ​​chatbots til generelle spørgsmål kan begrænse en teknologivirksomheds adgang til studerendes oplysninger, men det vil ikke løse problemet helt. Han peger på følsomme spørgsmål som, om sundhedscentret tilbyder STD-test eller recepter til behandling af tilstande som skizofreni: teknisk set er disse ikke knyttet til en specifik elev, men det er ikke for svært at finde ud af, hvem der spørger, og eleverne er måske ikke klar over det. disse er ikke altid anonyme forespørgsler. Plus, siger Shmatikov, så længe en virksomhed som Amazon konverterer elevmeddelelser til datasignaler, har den adgang til elevens information – for evigt.

Skræmmende konsekvenser

Privatliv er en bekymring for enhver bruger af en AI-enhed, men det fakultet, jeg talte med til denne historie, insisterer på, at der er særligt skræmmende konsekvenser for videregående uddannelse.

Universitetsstuderende er måske den mest eftertragtede kategori af forbrugere, siger Emersons Newman. De er de sværeste at nå og de mest tilbøjelige til at sætte trends. Som et resultat, siger han, er deres data nogle af de mest værdifulde og de mest sandsynlige, der bliver udvundet eller solgt. Og for uddannelsesinstitutioner at være medskyldige i at varetage studerende for virksomhedernes vinding er, siger han, fundamentalt modsat deres missioner.

Sarah T. Roberts, assisterende professor i informationsstudier ved UCLA, siger, at skoler, der indgår aftaler med teknologivirksomheder, i det mindste potentielt sætter deres elevers trivsel på spil. En studerendes tid på et college eller universitet bruges til at udforske ideer og prøve nye identiteter, uanset om det er politisk overbevisning eller køn og seksualitet, siger Roberts. Viden om, at de bliver optaget, mens de gør det, vil uden tvivl forhindre eleverne i at føle, at de kan sige deres mening. Det er også værd at huske, siger hun, at mange studerende kommer fra lande, hvor det kan være farligt at afsløre deres seksualitet eller politiske overbevisninger.

På Northeastern oprettede en studerende en online underskriftsindsamling, der krævede, at universitetet skulle fjerne alle Alexa-enheder. Det lyder til dels: Alexas er veldokumenterede som hemmelige lytteapparater, der bruges til at hjælpe med at skærpe Amazons markedsføringstaktik .... I det mindste tvinger Northeastern University en uvedkommende enhed i studerendes rum, som ingen bad om. I værste fald krænker de hensynsløst deres studerendes privatliv på foranledning af en virksomhedsdonor. I begyndelsen af ​​december havde andragendet 125 underskrifter.

Hos Emerson har studerende og andre fakultetsmedlemmer sluttet sig til Newman i at oprette et udvalg, der skal udarbejde et udkast til privatlivspolitikker for campus. I det mindste, siger han, vil han gerne se advarselsskilte placeret overalt, hvor et lytteapparat er placeret. Han siger, at administrationen hidtil har været samarbejdsvillig, og at installationen af ​​eventuelle enheder er blevet forsinket.

Vi har brug for en sikker måde at eksperimentere med disse teknologier og forstå konsekvenserne af deres brug i stedet for blot at fortsætte en blind march mod overvågning med det formål at skabe profit, siger Newman. Det er sofistikerede applikationer med livslange konsekvenser for de personer, der analyseres af dem, til ende, som endnu ikke er kendt. Vi skal alle være virkelig velovervejede og betænksomme her.

Kathryn Miles er freelanceskribent og forfatter til Quakeland: On the Road to America's Next Devastating Earthquake . Hendes historie The Little Coin That Ate Quebec dukkede op i maj/juni 2018-udgaven.

skjule