211service.com
Microsoft og Google ønsker at slippe kunstig intelligens løs på vores mest private data
Den nylige fremkomst af en kraftfuld maskinlæringsteknik kendt som deep learning har gjort computergiganter som Google, Facebook og Microsoft endnu mere sultne efter data. Det er det, der lader software lære at gøre ting som at genkende billeder eller forstå sprog.
Alligevel involverer mange problemer, hvor dyb læring kan være mest værdifuldt, data, som er svære at få fat i, eller som ligger i organisationer, der ikke er villige til at dele dem. Og som Apples administrerende direktør Tim Cook udtrykker det, er nogle forbrugere allerede bekymrede over, at virksomheder sluger deres personlige oplysninger.
Mange mennesker, der har følsomme datasæt som medicinske billeder, vil bare ikke dele dem af juridiske og lovgivningsmæssige hensyn, siger Vitaly Shmatikov , en professor ved Cornell Tech, der studerer privatliv. På en eller anden måde fratager vi disse mennesker fordelene ved dyb læring.
Shmatikov og forskere hos Microsoft og Google arbejder alle på måder at komme uden om dette privatlivsproblem. Ved at tilbyde måder at bruge og træne de kunstige neurale netværk, der bruges i dyb læring uden at skulle sluge alt, håber de at kunne træne smartere software og overbevise vogtere af følsomme data til at gøre brug af sådanne systemer.
Shmatikov og kollegaen Reza Shokri tester, hvad de kalder privatlivsbevarende dyb læring . Det giver en måde at få fordelen ved, at flere organisationer – f.eks. forskellige hospitaler – kombinerer deres data for at træne deep-learning software uden at skulle tage risikoen ved faktisk at dele dem.
Hver organisation træner deep-learning algoritmer på deres egne data og deler derefter kun nøgleparametre fra den trænede software. Disse kan kombineres til et system, der fungerer næsten lige så godt, som hvis det var trænet på alle data på én gang.
Cornell-forskningen blev delvist finansieret af Google, som har udgivet et papir på lignende eksperimenter og taler med Shmatikov om sine ideer. Virksomhedens forskere opfandt en måde at træne virksomhedens dybe indlæringsalgoritmer ved hjælp af data såsom billeder fra smartphones uden at overføre disse data til Googles sky.
Det kunne gøre det nemmere for virksomheden at udnytte de meget personlige oplysninger, der opbevares på vores mobile enheder, skrev de. Google afviste at stille nogen til rådighed for at diskutere den forskning, men Shmatikov mener, at virksomheden stadig arbejder på det.
Microsofts kryptografi-forskningsgruppe har udviklet sin egen løsning på maskinlærings privatlivsproblem. Det opfandt en måde at bruge trænet deep-learning-software på krypterede data og spytte krypterede svar ud. Tanken er, at et hospital for eksempel kunne bede Microsoft om at bruge en af disse Kryptonet at markere medicinske scanninger, der indeholder mulige problemer, og undgå det sædvanlige behov for at eksponere billederne for virksomheden.
Microsoft-forskerne greb det trick ved hjælp af en teknik kaldet homomorphic encryption, som gør det muligt at udføre matematiske operationer på krypterede data og producere et krypteret resultat (se 10 Breakthrough Technologies 2011: Homomorphic Encryption). De har testet ideen ved hjælp af deep-learning software, der genkender håndskrift, og et system, der estimerer en patients risiko for lungebetændelse ud fra hans vitale tegn.
Et CryptoNet kræver mere computerkraft end konventionel deep-learning-software for at udføre det samme arbejde. Men Kristin Lauter , der leder Microsofts kryptografiforskning, siger, at kløften er lille nok til, at CryptoNets kan blive praktiske til brug i den virkelige verden. Sundheds-, finans- og medicinalindustrien er der, hvor jeg tror, det er mest sandsynligt, at det bliver brugt først, siger hun.