Hvordan Apple tilpasser Siri uden at opsuge dine data

En kvinde bruger sin stemmeassistent på sin telefon. Kyonntra/Getty Images

Hvis du har en iPhone, har du muligvis bemærket en ændring i Siris adfærd i det seneste år. Stemmeassistenten på telefonen vågner, når du siger Hej Siri, men ikke når den samme sætning kommer fra dine venner eller familie.

Grunden til, at Apple gjorde dette, var fornuftigt: det ønskede en måde at forhindre, at alle iPhones i et rum reagerede, når én person udtaler wake-sætningen. Du tror måske, at Apple skal indsamle en masse af dine lyddata for at gøre dette. Det gør det overraskende nok ikke.

I stedet er den primært afhængig af en teknik kaldet fødereret læring, fortalte Apples chef for privatliv, Julien Freudiger, til et publikum på Neural Processing Information Systems-konferencen den 8. december. Fødereret læring er en privatlivsbevarende maskinlæringsmetode, som første gang introduceret af Google i 2017 . Det giver Apple mulighed for at træne forskellige kopier af en højttalergenkendelsesmodel på tværs af alle sine brugeres enheder ved kun at bruge de lokalt tilgængelige lyddata. Den sender derefter kun de opdaterede modeller tilbage til en central server for at blive kombineret til en mastermodel. På denne måde forlader rå lyd af brugernes Siri-anmodninger aldrig deres iPhones og iPads, men assistenten bliver hele tiden bedre til at identificere den rigtige højttaler.

Ud over fødereret læring bruger Apple også noget, der kaldes differential privacy for at tilføje et yderligere beskyttelseslag. Teknikken injicerer en lille mængde støj i enhver rå data, før den føres ind i en lokal maskinlæringsmodel. Det ekstra trin gør det ekstremt vanskeligt for ondsindede aktører at reverse-engine de originale lydfiler fra den trænede model.

Selvom Apple har været det ved at bruge differentieret privatliv siden 2017 er det kun blevet kombineret med fødereret læring fra iOS 13, som blev lanceret til offentligheden i september i år. Ud over at personalisere Siri, bliver begge teknikker nu også brugt til et par andre applikationer, herunder QuickType (Apples personlige tastatur) og funktionen Found In Apps, som scanner din kalender og dine mail-apps for navne på sms'ere og opkaldere, hvis numre ikke er i din telefon. Freudiger sagde, at virksomheden planlægger at udrulle privatlivsmetoderne til flere apps og funktioner snart.

I det seneste år er fødereret læring blevet mere og mere populært inden for AI-forskningssamfundet, efterhånden som bekymringer om databeskyttelse er vokset. I marts, Google frigivet et nyt sæt værktøjer, der gør det nemmere for udviklere at implementere deres egne fødererende læringsmodeller. Blandt mange andre anvendelser håber forskerne, at det vil hjælpe med at overvinde privatlivsudfordringer i anvendelsen af ​​AI til sundhedspleje. Virksomheder inklusive Owkin, Doc.ai og Nvidia er interesserede i at bruge det på denne måde.

Selvom teknikken stadig er relativt ny og har brug for yderligere forfining, tilbyder Apples seneste vedtagelse endnu et casestudie for, hvordan det kan anvendes i skala. Det markerer også et grundlæggende skift i den afvejning, som teknologiindustrien traditionelt har antaget mellem privatliv og nytte: Faktisk er det nu muligt at opnå begge dele. Lad os håbe, at andre virksomheder hurtigt fanger.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.

skjule