Grænserne for Social Engineering

Ved at udnytte big data bygger forskere og planlæggere matematiske modeller for personlig og civil adfærd. Men modellerne kan skjule i stedet for at afsløre de dybeste kilder til sociale dårligdomme. Ved

• Nicholas Carr arkiv side

16. april 2014

I 1969, Playboy udgivet en lang, friløbende interview med Marshall McLuhan hvor medieteoretikeren og tresserikonet skitserede et portræt af fremtiden, der på én gang var forførende og frastødende. Han bemærkede digitale computeres evne til at analysere data og kommunikere beskeder og forudsagde, at maskinerne til sidst ville blive indsat for at finjustere samfundets funktion. Computeren kan bruges til at lede et netværk af globale termostater til at mønstre livet på måder, der vil optimere menneskelig bevidsthed, sagde han. Allerede nu er det teknologisk muligt at anvende computeren til at programmere samfund på gavnlige måder. Han erkendte, at en sådan centraliseret kontrol øgede spøgelset for hjernevask, eller langt værre, men han understregede, at programmeringen af ​​samfund faktisk kunne udføres ganske konstruktivt og humanistisk.

Interviewet dukkede op, da computere hovedsageligt blev brugt til mystisk videnskabelig og industriel tal-knusning. For de fleste læsere på det tidspunkt må McLuhans ord have lydt langt ude, hvis ikke nuttede. Nu virker de profetiske. Med smartphones allestedsnærværende, Facebook uundgåelige og bærbare computere som Google Glass dukker op, samfundet får et digitalt sensingssystem. Folks placering og adfærd spores, mens de går gennem deres dage, og den resulterende information overføres øjeblikkeligt til store serverfarme. Når vi først har skrevet de algoritmer, der er nødvendige for at analysere al den store data, mener mange sociologer og statistikere, at vi vil blive belønnet med en meget dybere forståelse af, hvad der får samfundet til at tikke.

Denne historie var en del af vores maj 2014-udgave

• Se resten af ​​problemet
• Abonner

En af big datas ivrigste fortalere er Alex Sandy Pentland, en dataforsker, der som direktør for MITs Human Dynamics Laboratory længe har brugt computere til at studere virksomheders og andre organisationers adfærd. I sin korte, men ambitiøse nye bog, Social fysik, Pentland hævder, at vores stærkt udvidede evne til at indsamle adfærdsdata vil give videnskabsmænd mulighed for at udvikle en kausal teori om social struktur og i sidste ende etablere en matematisk forklaring på, hvorfor samfundet reagerer, som det gør under alle mulige omstændigheder. Som bogens titel gør det klart, mener Pentland, at den sociale verden, ikke mindre end den materielle verden, fungerer efter regler. Der er statistiske regelmæssigheder inden for menneskelig bevægelse og kommunikation, skriver han, og når vi fuldt ud forstår disse regelmæssigheder, vil vi opdage de grundlæggende mekanismer for sociale interaktioner.

Pentlands idé om et datadrevet samfund er problematisk. Det ville tilskynde os til at optimere status quo i stedet for at udfordre den.

Ting gennemgået

• Socialfysik: Hvordan gode ideer spredes - lektionerne fra en ny videnskab

  Af Alex Pentland
  Penguin Press, 2014

  
  
  

Det, der har forhindret os i at tyde samfundets matematiske fundament indtil nu, mener Pentland, er en mangel på empirisk stringens i samfundsvidenskaberne. I modsætning til fysikere, der kan måle objekters bevægelser med stor præcision, har sociologer måttet nøjes med uklare observationer. De har været nødt til at arbejde med grove og ufuldstændige datasæt fra små stikprøver af befolkningen, og de har været nødt til at stole på folks notorisk mangelfulde erindringer om, hvad de gjorde, hvornår de gjorde det, og hvem de gjorde det med. Computernetværk lover at afhjælpe disse mangler. Ved at udnytte datastrømmene, der strømmer gennem gadgets, søgemaskiner, sociale medier og kreditkortbetalingssystemer, vil videnskabsmænd være i stand til at indsamle præcise oplysninger i realtid om adfærden hos millioner, hvis ikke milliarder af individer. Og fordi computere hverken glemmer eller fibrer, vil oplysningerne være pålidelige.

For at illustrere, hvad der ligger i vente, beskriver Pentland en række eksperimenter, som han og hans medarbejdere har udført i den private sektor. De går ind i en virksomhed og giver hver medarbejder et elektronisk ID-kort, kaldet et sociometrisk emblem, der hænger fra halsen og kommunikerer med de badges, som kollegerne bærer. Med mikrofoner, placeringssensorer og accelerometre overvåger badges, hvor folk går hen, og hvem de taler med, og noterer deres tonefald og endda deres kropssprog. Enhederne er i stand til at måle ikke kun kommunikations- og indflydelseskæderne i en organisation, men også personlige energiniveauer og egenskaber såsom ekstraversion og empati. I en sådan undersøgelse af en banks callcenter opdagede forskerne, at produktiviteten kunne øges blot ved at justere kaffepauseplanen.

Pentland kalder denne databehandlingsteknik for virkelighedsmining, og han foreslår, at lignende former for information kan indsamles i meget bredere skala af smartphones udstyret med specialiserede sensorer og apps. Indført i statistiske modelleringsprogrammer kan dataene afsløre, hvordan ting såsom ideer, beslutninger, humør eller sæsonbestemt influenza spredes i samfundet.

Den matematiske modellering af samfundet er ifølge Pentland muliggjort af menneskers medfødte medgørlighed. Vi kan tænke på os selv som rationelle aktører, i bevidst kontrol over vores valg, men det meste af det, vi gør, er refleksivt. Vores adfærd er bestemt af vores subliminale reaktioner på indflydelsen fra andre mennesker, især dem i de forskellige jævnaldrende grupper, vi tilhører. Socialfysikkens kraft, skriver han, kommer fra det faktum, at næsten alle vores daglige handlinger er sædvanlige, mest baseret på det, vi har lært af at observere andres adfærd. Når du har kortlagt og målt alle en persons sociale påvirkninger, kan du udvikle en statistisk model, der forudsiger denne persons adfærd, ligesom du kan modellere den vej, en billardkugle vil tage, efter at den rammer andre bolde.

At tyde folks adfærd er kun det første skridt. Det, der virkelig begejstrer Pentland, er udsigten til at bruge digitale medier og relaterede værktøjer til at ændre folks adfærd, for at motivere grupper og individer til at handle på mere produktive og ansvarlige måder. Hvis folk reagerer forudsigeligt på sociale påvirkninger, så kan regeringer og virksomheder bruge computere til at udvikle og levere omhyggeligt skræddersyede incitamenter, såsom budskaber om ros eller små kontante betalinger, til at justere indflydelsesstrømmene i en gruppe og derved ændre dens medlemmers vaner . Ud over at forbedre effektiviteten af ​​transit- og sundhedssystemer, foreslår Pentland, kan gruppebaserede incitamentsprogrammer gøre samfund mere harmoniske og kreative. Vores vigtigste indsigt, rapporterer han, er, at ved at målrette mod [et] individs jævnaldrende kan gruppepres forstærke den ønskede effekt af en belønning på målindividet. Computere bliver, som McLuhan forestillede sig, borgerlige termostater. De registrerer ikke kun samfundets tilstand, men bringer den i overensstemmelse med nogle foreskrevne idealer. Både sporingen og opretholdelsen af ​​den sociale orden er automatiseret.

I sidste ende, hævder Pentland, vil det at se på menneskers interaktioner gennem en matematisk linse befri os for slidte forestillinger om klasse- og klassekamp. Politiske og økonomiske klasser, hævder han, er forsimplede stereotyper af en flydende og overlappende matrix af jævnaldrende grupper. Peer-grupper, i modsætning til klasser, er defineret af fælles normer snarere end blot standardtræk såsom indkomst eller deres forhold til produktionsmidlerne. Bevæbnet med udtømmende information om individers vaner og associationer, vil borgerplanlæggere være i stand til at spore den fulde strøm af påvirkninger, der former personlig adfærd. Ved at opgive generelle kategorier som rig og fattig eller haves og have-nots, vil vi være i stand til at forstå mennesker som individer – også selvom disse individer ikke er mere end summen af ​​alt det gruppepres og andre sociale påvirkninger, der påvirker dem.

At erstatte politik med programmering kan lyde tiltalende, især i betragtning af Washingtons lammelse. Men der er gode grunde til at være nervøs over denne form for social engineering. Mest indlysende er de bekymringer om privatlivets fred, der rejses ved at indsamle stadig mere intime personlige oplysninger. Pentland foregriber sådan kritik ved at argumentere for en ny aftale om data, der giver folk direkte kontrol over de oplysninger, der indsamles om dem. Det er dog svært at forestille sig, at internetvirksomheder accepterer at opgive ejerskabet af den adfærdsmæssige information, der er afgørende for deres konkurrencefordel.

Selvom vi antager, at privatlivsproblemerne kan løses, forbliver ideen om, hvad Pentland kalder et datadrevet samfund, problematisk. Socialfysik er en variation af teorien om adfærdsisme, der fandt gunst på McLuhans tid, og den lider af de samme begrænsninger, som dømte dens forgænger. At definere sociale relationer som et mønster af stimulus og respons gør matematikken lettere, men den ignorerer de dybe, strukturelle kilder til sociale dårligdomme. Pentland kan have ret i, at vores adfærd i høj grad bestemmes af sociale normer og påvirkninger fra vores jævnaldrende, men hvad han ikke kan se er, at disse normer og påvirkninger i sig selv er formet af historie, politik og økonomi, for ikke at nævne magt og fordomme. Folk har ikke fuldstændig frihed til at vælge deres jævnaldrende grupper. Deres valg er begrænset af, hvor de bor, hvor de kommer fra, hvor mange penge de har, og hvordan de ser ud. En statistisk samfundsmodel, der ignorerer klassespørgsmål, som tager indflydelsesmønstre som givet snarere end som historiske kontingenter, vil have en tendens til at fastholde eksisterende sociale strukturer og dynamikker. Det vil tilskynde os til at optimere status quo i stedet for at udfordre den.

Politik er rodet, fordi samfundet er rodet, ikke omvendt. Pentland gør et prisværdigt stykke arbejde med at beskrive, hvordan bedre data kan forbedre social planlægning. Men som andre potentielle sociale ingeniører overskrider han. Når han lader sin entusiasme få overhånd, begynder han at tage metaforen om socialfysik bogstaveligt, selvom han erkender, at matematiske modeller altid vil være reduktive. Fordi den ikke forsøger at fange interne kognitive processer, skriver han på et tidspunkt, er socialfysik i sagens natur sandsynlighedsorienteret, med en irreducerbar kerne af usikkerhed forårsaget af at undgå den generative natur af bevidst menneskelig tanke. Hvad big data ikke kan tage højde for, er det, der er mest uforudsigeligt og mest interessant ved os.

Nicholas Carr skriver om teknologi og kultur. Hans nye bog , The Glass Cage: Automation and Us, udkommer i september.

skjule