Visker dit Siri 'fingeraftryk' væk

Selv i en tid med forsvindende privatliv deler folk, der bruger Apples digitale assistent Siri, en klar bekymring. Optagelser af deres faktiske stemmer, der stiller spørgsmål, der kan være personlige, rejser over internettet til en ekstern Apple-server til behandling. Så bliver de opbevaret der; Apple vil ikke sige, hvor længe.

Denne stemmeoptagelse er, i modsætning til de fleste af de data, der produceres af smartphones og andre computere, en egentlig biometrisk identifikator. Et stemmeaftryk – hvis det afsløres ved et uheld, hack eller stævning – kan knyttes til en bestemt person. Og med det nuværende boom i talegenkendelsesapps er Apple ikke den eneste, der samler sådanne data.

Der kan være en måde at holde denne identifikator mere privat. Forskere siger, at Apple og andre, der udvikler stemmegenkendelsesapplikationer som Siri, kunne klare en del af databehandlingen direkte på telefonen. Så i stedet for at sende den fulde optagelse ud, kunne de overføre specifik information, der er sværere at endegyldigt linke til en person.

Måske noget, der identificerer, bør du blive ved telefonen, siger Prem Natarajan, executive vice president hos Raytheon BBN Technologies i Cambridge, Massachusetts, et stort center for forskning i talegenkendelse. Han siger, at det kunne være klogere for Apple at overføre funktioner fra tale – og ikke selve talen.

Selvom denne tilgang ville lægge mere byrde på telefonens processor og batteri, ville det ikke skade kvaliteten af ​​talegenkendelsen. Jeg tror, ​​det er sikkert at sige, at ikke at have adgang til [fuld stemme]-signalet ikke pålægger nogen meningsfuld straf, siger Natarajan. Begrænsning af mængden af ​​biometriske data, der bliver delt, ville følge eksemplet med enheder som Microsofts Kinect, som af hensyn til privatlivets fred er blevet udviklet til at holde sådanne data ombord.

Trudy Muller, en talskvinde for Apple, bekræftede, at stemmeoptagelser gemmes, når brugere stiller et talt spørgsmål som Hvad er vejret nu? Disse data bruges kun til Siris drift og for at hjælpe Siri med at forbedre sin forståelse og anerkendelse, sagde hun. Muller tilføjede, at virksomheden tager privatlivets fred meget alvorligt og bemærkede, at spørgsmål og svar, som Siri sender over internettet, er krypteret, og at optagelser af din stemme ikke er knyttet til andre oplysninger, Apple har genereret om dig. (Siri uploader dog din kontaktliste, placering og liste over gemte sange for at hjælpe den med at reagere på dine anmodninger.)

Selvom stemmeaftryk ikke er så unikke som fingeraftryk, kan de positivt identificere højttaleren under mange omstændigheder. Det amerikanske Department of Homeland Security bruger stemmeaftryk til at identificere hyppige rejsende, der har tilmeldt sig et system, der muliggør hurtig grænsepassage.

For at se, hvorfor stemmeaftryk kunne have betydning, kan du overveje mordsagen mod Casey Anthony, Florida-moderen, der sidste år blev frikendt efter hendes to-årige datters død, Caylee. På et tidspunkt pegede anklagere på internetsøgninger - efter chloroform og andre belastende udtryk - foretaget fra den anklagedes computer. Anthonys mor vidnede om selv at have indtastet søgeordet som en stavefejl af klorofyl. Hvis søgningerne var blevet foretaget med stemme på Siri, ville det måske have været muligt for anklagere – og nævninge – at afgøre, hvem der rent faktisk sagde chloroform. (Apple afviste at sige, om det nogensinde har modtaget en stævning for nogens stemmeaftryk.)

I mellemtiden, hvis du dikterede en upassende tekst eller spurgte Siri om et følsomt medicinsk spørgsmål, og Apple blev hacket (eller en ondsindet medarbejder frigav data), ville ikke kun den pinlige kommunikation blive frigivet, men det ville være i din egen stemme. Natarajan siger, at biometri kan rejse helt nye privatlivsspørgsmål. For eksempel kan en person, der søger efter placeringen af ​​en protest mod et undertrykkende regime, være i problemer, hvis dataene blev tilgængelige for den pågældende regering. Hvis man har en gruppe mennesker, der spørger om protester, har man nu desværre stemmebiometri til de mennesker, siger han.

Nogle iagttagere, herunder store teknologivirksomheder, rejser bredere spørgsmål om Siri. Sidste måned Teknologigennemgang rapporterede, at IBM havde bedt sine ansatte om ikke at bruge funktionen, en beslutning, som IBM sagde, var motiveret af behovet for at beskytte kontaktlister og andre følsomme virksomhedsoplysninger. Det er en bekymring, som andre organisationer bør dele, mener nogle eksperter. Hvis jeg skulle drive et efterretningsagentur eller en stor virksomhed, ville jeg ikke tillade sådan en tjeneste internt, siger Radu Sion, en datalog ved Stony Brook University og en førende forsker i cloud computing-sikkerhed.

Siris stemmegenkendelse fungerer således: du siger et spørgsmål eller en anmodning, og stemmeoptagelsen sendes til en Apple-server. Der nedbrydes optagelsen i en proces kaldet feature extraction, som numerisk transformerer lydbølgen og trækker relevante funktioner ud. Disse køres gennem en talegenkendelsesmotor for at fortolke, hvad du siger, og gengive det til tekst. Siri bruger derefter ressourcer, der kan omfatte internettet, din kontaktliste (Ring til far) eller din placering (Hvor er den nærmeste thailandske mad?) til at reagere på dit behov.

Der er ingen grund til, at det første job med udtræk af funktioner ikke kunne udføres direkte på telefonen, så nogle elementer kunne blive der. Tonehøjdemønster er for eksempel vigtigt for at identificere taleren, men ikke for at genkende, hvad der blev sagt. Fra et teknologisk perspektiv kan du sende de ting, som genkenderen skal arbejde på, men ikke den fulde bølgeform, siger Natarajan. Selvom dette måske ikke er en perfekt løsning, siger han, ville det meningsfuldt forbedre privatlivets fred - og måske endnu vigtigere, opfattelsen af ​​privatlivets fred, fordi du ikke kan rekonstruere stemmesignalet fra funktionerne.

James Glass, seniorforsker ved MIT og leder af dets Talte sprogsystemer gruppe , siger, at indbygget behandling, også kendt som distribueret talegenkendelse, er blevet undersøgt indgående. Det giver ikke fuldstændig beskyttelse, advarer han: Biometriske metoder, der gør højttaleridentifikation ... bruger typisk lignende signalrepræsentationer som dem, der kun udfører talegenkendelse. Så at udføre lokal [behandling] ville ikke fuldstændig anonymisere dataene, hvis det var dit mål.

Han tilføjer, at den nemmeste måde at anonymisere et stemmeaftryk på er at adskille optagelserne fra andre data, såsom mobiltelefonnummeret. Det ville betyde, at det ville være sværere for systemer at tilpasse til din stemme og forespørgsler, men nogle mennesker foretrækker måske den mulighed, hvis det gav dem mere privatliv, siger han. Det er den holdning, jeg vil gå ind for, da den ligner, hvordan nogle apps beder om tilladelse til at bruge din placering lige nu.

Efterhånden som flere stemmeapplikationer dukker op i flere indstillinger, vil beskyttelsen af ​​biometriske identifikatorer blive vigtigere, siger Andrew Sudbury, medstifter af Abine, et online-privatlivssoftwarefirma i Boston, der hjælper forbrugere med at blokere sporing af deres onlineaktiviteter. Det er virkelig næsten et vandskel-øjeblik, da dette kommer til at varsle en meget hurtig stigning i stemmegenkendelse, der bliver brugt mange steder, siger han. Og det bliver nemmere at gøre et ret godt stykke arbejde med at identificere folk gennem deres stemme.

En af grundene til, at Apple måske ønsker at gemme fulde stemmeaftryk, er at bevare muligheden for at levere sådanne tjenester. I teorien kunne en talegenkender vide, at det er dig, der taler, ikke din ægtefælle eller barn, og give dig personligt tilpassede svar. Det ville være ret fedt, hvis du ringede ind fra en anden telefon, og de kunne identificere dig, siger Natarajan.

En stor database med folks faktiske stemmer er, hvad der ville gøre dette muligt. Sådanne træk er stadig spekulative, advarer han. Men al innovation handler om at gøre ting, som ingen planlægger lige nu, siger han. Jeg vil også gerne have adgang til alle disse data.

skjule