Sådan forgifter du de data, som Big Tech bruger til at overvåge dig

Eric Risberg / AP

Hver dag efterlader dit liv et spor af digitale brødkrummer, som teknologigiganter bruger til at spore dig. Du sender en e-mail, bestiller noget mad, streamer et show. De får værdifulde datapakker tilbage for at opbygge deres forståelse af dine præferencer. Disse data føres ind i maskinlæringsalgoritmer for at målrette dig med annoncer og anbefalinger. Google indkasserer dine data for over 120 milliarder USD om året i annonceindtægter.

I stigende grad kan vi ikke længere fravælge denne ordning. I 2019 forsøgte Kashmir Hill, dengang reporter for Gizmodo, det berømt skar fem store teknologigiganter ud af hendes liv . Hun brugte seks uger på at være elendig og kæmpede for at udføre grundlæggende digitale funktioner. Teknikgiganterne følte i mellemtiden ikke engang en kløe.

Nu foreslår forskere ved Northwestern University nye måder at rette op på denne magtubalance ved at behandle vores kollektive data som et forhandlingskort. Tech-giganter kan have smarte algoritmer til deres rådighed, men de er meningsløse uden nok af de rigtige data at træne på.

I et nyt papir bliver præsenteret hos Foreningen for Datamaskiner Konference om retfærdighed, ansvarlighed og gennemsigtighed I næste uge foreslår forskere, herunder ph.d.-studerende Nicholas Vincent og Hanlin Li, tre måder, hvorpå offentligheden kan udnytte dette til deres fordel:

• Data strejker , inspireret af ideen om arbejdsstrejker, som involverer tilbageholdelse eller sletning af dine data, så et teknologifirma ikke kan bruge dem - for eksempel at forlade en platform eller installere værktøjer til beskyttelse af personlige oplysninger.
• Dataforgiftning , som indebærer at bidrage med meningsløse eller skadelige data. AdNauseam er for eksempel en browserudvidelse, der klikker på hver eneste annonce, der vises til dig, og dermed forvirrer Googles annoncemålretningsalgoritmer.
• Bevidst databidrag , som går ud på at give mening fuld data til konkurrenten af ​​en platform, du vil protestere på, såsom ved at uploade dine Facebook-billeder til Tumblr i stedet for.

Folk bruger allerede mange af disse taktikker for at beskytte deres eget privatliv. Hvis du nogensinde har brugt en annonceblokering eller en anden browserudvidelse, der ændrer dine søgeresultater for at udelukke bestemte websteder, har du engageret dig i at slå data og krævet et eller andet agentur over brugen af ​​dine data. Men som Hill fandt ud af, gør sporadiske individuelle handlinger som disse ikke meget for at få teknologigiganter til at ændre sig deres adfærd.

Hvad nu hvis millioner af mennesker skulle koordinere for at forgifte en teknologigigants data godt? Det kan måske bare give dem en løftestang til at hævde deres krav.

Det kan der allerede have været et par eksempler på. I januar slettede millioner af brugere deres WhatsApp-konti og flyttede til konkurrenter som Signal og Telegram, efter at Facebook annoncerede, at de ville begynde at dele WhatsApp-data med resten af ​​virksomheden. Udvandringen fik Facebook til forsinke dens politik ændres.

Bare i denne uge, Google også annonceret at det ville stoppe med at spore enkeltpersoner på tværs af nettet og målrette annoncer mod dem. Selvom det er uklart, om dette er en reel ændring eller blot en rebranding, siger Vincent, er det muligt, at den øgede brug af værktøjer som AdNauseam har bidraget til denne beslutning ved at forringe effektiviteten af ​​virksomhedens algoritmer. (Selvfølgelig er det i sidste ende svært at sige. Den eneste person, der virkelig ved, hvor effektivt en dataindsatsbevægelse påvirkede et system, er teknologivirksomheden, siger han.)

Vincent og Li mener, at disse kampagner kan supplere strategier såsom politisk fortalervirksomhed og arbejderorganisering i bevægelsen for at modstå Big Tech.

Det er spændende at se denne form for arbejde, siger Ali Alkhatib, en forsker ved University of San Franciscos Center for Applied Data Ethics, som ikke var involveret i forskningen. Det var virkelig interessant at se dem tænke på det kollektive eller holistiske syn: Vi kan rode med brønden og stille krav med den trussel, fordi det er vores data, og det hele går ind i det her brønd sammen.

Relateret historie

Sådan mistede vi kontrollen over vores ansigter

Den største undersøgelse nogensinde af ansigtsgenkendelsesdata viser, hvor meget stigningen i dyb læring har ført til et tab af privatliv.

Der er stadig arbejde at gøre for at gøre disse kampagner mere udbredte. Dataloger kunne spille en vigtig rolle i at lave flere værktøjer som for eksempel AdNauseam, som ville hjælpe med at sænke barrieren for at deltage i sådanne taktikker. Politikere kunne også hjælpe. Datastrejker er mest effektive, når de understøttes af stærke databeskyttelseslove, såsom EU's General Data Protection Regulation (GDPR), som giver forbrugere ret til at anmode om sletning af deres data. Uden en sådan regulering er det sværere at garantere, at et teknologifirma vil give dig mulighed for at skrubbe dine digitale optegnelser, selvom du fjerner din konto.

Og nogle spørgsmål mangler at blive besvaret. Hvor mange personer skal der til et datastrejke for at skade en virksomheds algoritme? Og hvilken slags data ville være mest effektiv til at forgifte et bestemt system? I en simulering, der for eksempel involverede en filmanbefalingsalgoritme, fandt forskerne ud af, at hvis 30 % af brugerne gik i strejke, kunne det reducere systemets nøjagtighed med 50 %. Men hvert maskinlæringssystem er anderledes, og virksomheder opdaterer dem konstant. Forskerne håber, at flere mennesker i maskinlæringsfællesskabet kan køre lignende simuleringer af forskellige virksomheders systemer og identificere deres sårbarheder.

Alkhatib foreslår, at forskere også bør forske mere i, hvordan man kan inspirere til kollektiv datahandling. Kollektiv handling er rigtig hård, siger han. At få folk til at følge op på den igangværende handling er en udfordring. Og så er der udfordringen med, hvordan man holder en gruppe mennesker, der er meget forbigående – i dette tilfælde kan det være folk, der bruger en søgemaskine i fem sekunder – til at se sig selv som en del af et fællesskab, der faktisk har lang levetid?

Disse taktikker kan også have nedstrømskonsekvenser, som kræver omhyggelig undersøgelse, tilføjer han. Kan dataforgiftning ende med blot at tilføje mere arbejde for indholdsmoderatorer og andre personer, der har til opgave at rense og mærke virksomhedernes træningsdata?

Men generelt er Vincent, Li og Alkhatib optimistiske om, at dataindsats kan blive til et overbevisende værktøj til at forme, hvordan teknologigiganter behandler vores data og vores privatliv. AI-systemer er afhængige af data. Det er bare et faktum om, hvordan de arbejder, siger Vincent. I sidste ende er det en måde, hvorpå offentligheden kan få magt.

skjule