Denne opstart hævder, at dens deepfakes vil beskytte dit privatliv

D-ID D-ID

Som man siger: Hvis den ligner en and, svømmer som en and og kvaksalver som en and, er det sandsynligvis en and. Nu, hvis nogen i et videoklip er af samme race, køn og alder som dig, har de samme bevægelser og følelsesmæssige udtryk som dig - og faktisk er baseret på dig - og alligevel ikke ligefrem ligner dig ... er er det stadig dig?

Nej, ifølge Gil Perry, medstifter af det israelske privatlivsfirma D-ID . Og det, hævder han, er derfor, hans startup fungerer. D-ID tager videooptagelser - f.eks. optaget af et kamera inde i en butik - og bruger computervision og deep learning til at skabe et alternativ, der beskytter motivets identitet. Processen gør dig i videoen til en avatar, der har alle de samme egenskaber, men som ser lidt anderledes ud.

Fordelen for virksomheder er, at denne nye, anonymiserede video ikke længere giver den nøjagtige identitet af en kunde væk - hvilket, siger Perry, betyder, at virksomheder, der bruger D-ID, kan fjerne behovet for samtykke og analysere optagelserne til forretnings- og marketingformål. En butik kan for eksempel feed video af en glad udseende hvid kvinde til en algoritme, der kan vise den mest effektive annonce for hende i realtid. (Det er værd at bemærke, at legitimiteten af ​​følelsesgenkendelse er blevet udfordret, med en fremtrædende AI-forskningsgruppe, der for nylig opfordrede til, at brugen af ​​det forbydes fuldstændigt.)

Eksempler på D-IDs smarte anonymiseringstjeneste viser varierende grad af succes med at sløre identitet i video. I én demonstration , den tidligere britiske premierminister David Cameron ligner lidt David Cameron med et overskæg. I et andet stillbillede , en kvinde ser noget anderledes ud, men de to billeder virker stadig foruroligende ens. I en tredje, Brad Pitt bliver uigenkendeligt.

D-ID vil ikke nævne bestemte kunder, der bruger dets teknologi, men Perry sagde, at virksomheden primært arbejder med detailhandlere, bilfirmaer og store konglomerater, der implementerer CCTV i Europa. Ann Cavoukian, et D-ID rådgivende bestyrelsesmedlem og tidligere privatlivskommissær for den canadiske provins Ontario, siger, at løsningen er en total win-win.

Andre eksperter siger dog, at virksomheden fejlfortolker Europas generelle databeskyttelsesregel, ikke gør, hvad den skal, og - selvom den gør - sandsynligvis ikke burde gøre det alligevel.

GDPR overtrædelse?

Tre førende europæiske privatlivseksperter, der talte med MIT Technology Review, udtrykte deres bekymringer over D-IDs teknologi og dens intentioner. Alle siger, at D-ID efter deres mening faktisk overtræder GDPR. (Det kan dog være lovligt i områder uden for EU.)

Race er en særlig kategori under GDPR, hvilket betyder, at behandling af data, der udleder, at race er ulovlig uden udtrykkeligt samtykke, forklarer Gaëtan Goldberg, en databeskyttelsesadvokat hos GDPR-vagthunden NOYB. Overtrædelse af GDPR-reglerne kan resultere i bøder på €20 millioner eller 4 % af en virksomheds årlige omsætning, alt efter hvad der er højest.

Da han blev præsenteret for disse bekymringer, var David Mirchin, en privatlivsadvokat, der rådgiver D-ID, uenig med eksperterne. Han hævder, at der aldrig er et punkt, hvor D-IDs Smart Anonymization-løsning analyserer, afslører eller gemmer denne type følsomme data. Perry tilføjer, at D-ID også gerne anonymiserer etnicitetsdata. De eksterne advokater hævder dog, at blot at opdage ansigterne, uanset om de skal anonymiseres eller ej, er en overtrædelse.

Perry og Mirchin hævder også, at det er okay at fodre anonymiserede biometriske data til algoritmer. Men selvom GDPR ikke gælder for anonyme data, anonymiserer opstarten faktisk ikke videoen under alle omstændigheder, siger Michael Veale, en privatlivsekspert ved University College London. Den krypterede video vil ikke blive betragtet som anonym i henhold til GDPR. Med virkelig anonyme data kan et stykke information ikke linkes tilbage til en bestemt person, selv når den kombineres med andre data. Det er en høj bar.

Men selvom ændrede optagelser ikke ligner dig, kan de kombineres med andre oplysninger - lokalitetsdata taget fra for eksempel sociale medier eller kreditkortregistreringer - og spores tilbage. Plus, siger Veale, vil teknologien stadig ikke automatisk give virksomhederne carte blanche til at genbruge CCTV til ret useriøse forretningsformål, der ikke er noget med en seriøs offentlig interesse, som at bekæmpe kriminalitet.

Lovens ånd

At D-ID positionerer sig som en privatlivsløsning er afslørende. Da elementer af nye databeskyttelseslove som GDPR og California Consumer Privacy Act fortsat er åbne for fortolkning, viser nogle virksomheder sig geniale til at markedsføre sig selv. Disse teknologier overholder reglerne på en måde, der gavner de virksomheder, der ønsker at tjene penge på data, frem for de mennesker, hvis data bliver fanget. Dette er et brud på lovens ånd, siger kritikere. Britt Paris, en informationsvidenskabsforsker ved Rutgers University, kalder D-ID udnyttende og et eksempel på yderligere indgreb i datafikseringen af ​​hverdagen.

Men Cavoukian, D-ID-bestyrelsesmedlemmet, siger, at hun ikke er en privatlivsfundamentalist og mener, at der ikke er noget galt med at indsamle data, så længe folks nøjagtige identiteter er sløret.

Hvis du slet ikke ønsker, at der indsamles data om dig i dag og alder, selvom der ikke er noget privatlivsproblem, fordi dine identifikatorer er blevet fjernet, vil du ikke være i stand til at gå ret langt uden for dit hus. siger. Det er dagens realiteter.

Overvågning bliver mere og mere udbredt. En nylig undersøgelse fra Pew viste, at de fleste amerikanere tror, ​​at de konstant bliver sporet, men ikke kan gøre meget ved det, og markedet for ansigtsgenkendelse forventes at vokse fra omkring 4,5 milliarder dollars i 2018 til $9 milliarder i 2024 . Alligevel afholder overvågningens virkelighed ikke aktivister fra at slå tilbage. D-ID kan se sig selv som en mellemting mellem privatlivs-purisme og opsamling af rå data, men uden teknologien ville virksomheder, der er omfattet af GDPR, måske slet ikke bruge disse videodata.

Disse regler er der med et formål, ikke? siger Lilian Edwards, en GDPR-ekspert ved Newcastle Law School. [D-ID] siger 'Indsaml visuelle data, mens du overholder reglerne om privatlivets fred', og hvad det egentlig betyder, er 'Indsaml visuelle data, mens du undgår regler om privatlivets fred.' Du ved, loven er faktisk ikke helt dum.

skjule