Apple forsvarer sin nye anti-børnemisbrugsteknologi mod privatlivsproblemer

Foto af Rebecca Harris på Unsplash





Apple har pralet med et par ikoniske annoncer i løbet af virksomhedens 45-årige historie, fra de berømte 1984 Super Bowl-annonce til Mac til virksomhedens kamplystne 2019 annoncekampagne lover, at det, der sker på din iPhone, bliver på din iPhone.

På torsdag, Apple meddelte nye teknologier til at opdage materiale om seksuelt misbrug af børn (CSAM) direkte på iPhones – og pludselig ser det ud til, at det, der er på din iPhone, ikke længere altid bare bliver der. De kontroversielle nye funktioner rammer kernen af ​​bekymringer om privatliv, overvågning og teknologiaktiverede forbrydelser.

Apple siger, at disse nye funktioner bevarer privatlivets fred, når de bekæmper børnemishandling. For kritikere er det største spørgsmål dog ikke om, hvad teknologien kan gøre i dag; det handler om, hvad det kan blive til i morgen.



Vil Apples nye scanningsteknologi muliggøre endnu bredere overvågning rundt om i verden? Vil regeringer begynde at kræve, at Apple scanner for alle former for forbudt indhold på iPhones i deres lande?

Apple siger, at det nye detektionsværktøj, kaldet NeuralHash, kan identificere billeder af børnemishandling gemt på en iPhone uden at dekryptere billedet. Virksomheden siger også, at det har implementeret flere kontroller for at reducere risikoen for fejl, før billeder sendes til National Center for Missing and Exploited Children (NCMEC) og derefter til retshåndhævelse. (F.eks. skal scanneren registrere flere billeder i stedet for kun ét.) Funktionen udrulles i USA i år.

Google, Microsoft, Dropbox og andre store cloud-tjenester scanner allerede materiale, der er gemt på deres servere, for materiale om børnemisbrug, så den generelle forudsætning er ikke ny. Forskellen her er, at nogle af Apples scanninger vil finde sted på selve iPhonen - og Apple hævder, at dette er den definerende pro-privatlivsfunktion ved den nye teknologi.

I en briefing med journalister i fredags sagde Apple, at mens andre cloud-tjenester scanner næsten alt, hvad deres brugere uploader, er Apples scanning på enheden beregnet til kun at sende en ulæselig hash til virksomheden, en kode, der identificerer billeder, der afbilder børnemisbrug baseret på en database vedligeholdt af NCMEC i stedet for Apple.

Apple har også påpeget, at funktionen kun gælder for personer, der uploader billeder til iCloud (automatiske uploads er standardindstillingen på iPhones, men kan handicappet ). iCloud-konti er i øjeblikket ikke krypteret, så retshåndhævelsen kan allerede kigge ind i dem.



Hvorfor gør Apple så ikke bare, hvad andre store teknologivirksomheder gør, og scanner billeder, når de uploades til skyen i stedet for, når de stadig er på nogens telefon? Hvorfor bygge et nyt og komplekst sæt af teknologier, når det bare kunne tage eksisterende teknologi fra hylden?

Apples næste træk

Der er enormt meget, vi ikke ved om, hvad Apple laver nu, og hvad der kommer derefter. En populær teori er, at denne uges meddelelse vil være det første af flere træk i de kommende måneder.

Apples markedsføring har pralet om privatlivets fred i årevis. iPhone var en af ​​de første personlige enheder, der automatisk blev krypteret. iMessage er en af ​​de mest populære beskedapps med end-to-end-kryptering. Men mange Apple-kunder sikkerhedskopierer automatisk alt til deres iCloud-konti – og iCloud er aldrig blevet krypteret. Så selv i 2019 kunne den berømte iPhone-privatlivsannonce have brugt en lille stjerne.



Regeringer har i årevis udøvet et enormt pres på alle teknologivirksomheder, inklusive Apple, for at tillade retshåndhævere særlig adgang til ellers krypterede data for at forhindre, hvad de ser som den mest afskyelige forbrydelse. Børnemishandling er altid øverst på listen, tæt fulgt af terrorisme. Apples offentlige omfavnelse af kryptering har gjort nogle betjentes job vanskeligere - men det har også gjort nogle former for overvågning og magtmisbrug sværere.

Det store smuthul har altid været iCloud. Det skal politiet arbejde hårdt for at komme direkte ind i iPhones , men hvis de fleste af dataene allerede er på en ukrypteret iCloud-konto, vil en kendelse gøre det trick.

Relateret historie

Hackere finder måder at gemme sig inde i Apples murede have

iPhones låste tilgang til sikkerhed breder sig, men avancerede hackere har fundet ud af, at højere barrierer er gode til at undgå fangst.

Efter denne uges meddelelse tror nogle eksperter, at Apple snart vil annoncere, at iCloud vil blive krypteret. Hvis iCloud er krypteret, men virksomheden stadig kan identificere materiale om børnemisbrug, videregive beviser til retshåndhævelsen og suspendere gerningsmanden, kan det lette noget af det politiske pres på Apples ledere.

Det ville ikke lindre alle presset: de fleste af de samme regeringer, der ønsker, at Apple skal gøre mere mod børnemishandling, ønsker også mere handling vedrørende indhold relateret til terrorisme og andre forbrydelser. Men misbrug af børn er et reelt og betydeligt problem, hvor store teknologivirksomheder for det meste har fejlet til dato.

Apples tilgang bevarer privatlivets fred bedre end nogen anden, jeg er klar over, siger David Forsyth, formanden for datalogiafdelingen ved University of Illinois Urbana-Champaign, som gennemgik Apples system. Efter min vurdering vil dette system sandsynligvis øge sandsynligheden væsentligt for, at folk, der ejer eller driver trafik med [CSAM], bliver fundet; dette skal hjælpe med at beskytte børn. Harmløse brugere bør opleve minimalt eller intet tab af privatliv, fordi visuelle afledninger kun afsløres, hvis der er nok match til CSAM-billeder, og kun for de billeder, der matcher kendte CSAM-billeder. Nøjagtigheden af ​​matchningssystemet, kombineret med tærsklen, gør det meget usandsynligt, at billeder, der ikke er kendte CSAM-billeder, vil blive afsløret.

Hvad med WhatsApp?

Enhver stor teknologivirksomhed står over for den forfærdelige virkelighed med materiale om børnemisbrug på deres platform. Ingen har nærmet sig det som Apple.

Ligesom iMessage er WhatsApp en ende-til-ende krypteret meddelelsesplatform med milliarder af brugere. Som enhver platform af den størrelse står de over for et stort misbrugsproblem.

Jeg læste oplysningerne fra Apple i går, og jeg er bekymret, WhatsApp-chef Will Cathcart tweeted på fredag. Jeg synes, det er den forkerte tilgang og et tilbageslag for folks privatliv over hele verden. Folk har spurgt, om vi vil adoptere dette system til WhatsApp. Svaret er nej.

WhatsApp inkluderer rapporteringsfunktioner, så enhver bruger kan rapportere misbrug af indhold til WhatsApp. Selvom mulighederne langt fra er perfekte, rapporterede WhatsApp over 400.000 sager til NCMEC sidste år.

Dette er et Apple-bygget og drevet overvågningssystem, der meget nemt kan bruges til at scanne privat indhold for alt, hvad de eller en regering beslutter, at den vil kontrollere, sagde Cathcart i sine tweets. Lande, hvor iPhones sælges, vil have forskellige definitioner på, hvad der er acceptabelt. Vil dette system blive brugt i Kina? Hvilket indhold vil de betragte som ulovligt der, og hvordan vil vi nogensinde vide det? Hvordan vil de håndtere anmodninger fra regeringer over hele verden om at tilføje andre typer indhold til listen til scanning?

I sin briefing med journalister understregede Apple, at denne nye scanningsteknologi kun blev udgivet i USA indtil videre. Men virksomheden fortsatte med at hævde, at den har en track record i at kæmpe for privatlivets fred og forventer at fortsætte med at gøre det. På den måde kommer meget af dette ned på tillid til Apple.

Virksomheden hævdede, at de nye systemer ikke let kan uretmæssigt tilegnes af regeringshandlinger - og understregede gentagne gange, at fravalg var lige så nemt som at slå iCloud-sikkerhedskopi fra.

På trods af at det er en af ​​de mest populære meddelelsesplatforme på jorden, er iMessage længe blevet kritiseret for at mangle den slags rapporteringsfunktioner, som nu er almindelige på tværs af det sociale internet. Som et resultat har Apple historisk rapporteret en lille brøkdel af sagerne til NCMEC, som virksomheder som Facebook gør.

I stedet for at vedtage den løsning har Apple bygget noget helt andet – og de endelige resultater er et åbent og bekymrende spørgsmål for privatlivshøge. For andre er det en velkommen radikal forandring.

Apples udvidede beskyttelse til børn er en game changer, sagde John Clark, præsident for NCMEC, i en erklæring. Virkeligheden er, at privatliv og beskyttelse af børn kan eksistere side om side.

Stor risiko

An optimist ville sige, at aktivering af fuld kryptering af iCloud-konti, mens man stadig opdager materiale om børnemisbrug, er både en vinder mod misbrug og privatlivets fred – og måske endda et behændigt politisk træk, der afstumper antikryptering-retorikken fra amerikanske, europæiske, indiske og kinesiske embedsmænd.

En realist ville bekymre sig om, hvad der nu kommer fra verdens mest magtfulde lande. Det er en virtuel garanti for, at Apple vil få – og sandsynligvis allerede har modtaget – opkald fra hovedstæder, efterhånden som embedsmænd begynder at forestille sig overvågningsmulighederne ved denne scanningsteknologi. Politisk pres er én ting, regulering og autoritær kontrol er en anden. Men den trussel er ikke ny, og den er heller ikke specifik for dette system. Som virksomhed med en track record af stille, men rentable kompromis med Kina , Apple har meget arbejde at gøre for at overbevise brugerne om deres evne til at modstå drakoniske regeringer.

Alt ovenstående kan være sandt. Hvad der kommer næste vil i sidste ende definere Apples nye teknologi. Hvis denne funktion er bevæbnet af regeringer til at udvide overvågningen, så leverer virksomheden tydeligvis ikke sine løfter om privatlivets fred.

skjule