Big Techs opmærksomhedsøkonomi kan reformeres. Sådan gør du.

Fru Tech | Getty

I denne uge gennemførte en voldelig pøbel det største angreb på Capitol, sædet for det amerikanske demokrati, i mere end 200 år, drevet af den falske tro på, at præsidentvalget var blevet stjålet. Hovedforfatteren af ​​den påstand var præsident Donald Trump, men pøblens villighed til at tro, at det i høj grad var et produkt af den opmærksomhedsøkonomi, som moderne teknologi har skabt.

Nyhedsfeeds på Facebook eller Twitter opererer efter en forretningsmodel, hvor man commodificerer milliarder af menneskers opmærksomhed om dagen, sorterer tweets, opslag og grupper for at afgøre, hvilke der får mest engagement (klik, visninger og delinger) – hvad der bliver mest følelsesladet reaktioner. Disse commodificerende opmærksomhedsplatforme har fordrejet den kollektive psyke. De har ført til snævrere og mere skøre syn på verden.

Bemærk: Dette essay er et tilpasset uddrag fra The New Posible: Visioner af vores verden hinsides krise , udgives den 26. januar 2021 af Cascade Books.

YouTubes anbefalingsalgoritmer, som bestemmer 70 % af den daglige visningstid for milliarder af mennesker, foreslår, hvad der er ment som lignende videoer, men faktisk driver seerne til mere ekstremt, mere negativt eller mere konspiratorisk indhold, fordi det er det, der holder dem på deres skærme længere. I årevis anbefalede YouTube thinspiration – anoreksi-fremmende videoer – til teenagepiger, der så videoer om slankekure. Og da folk så videnskabelige videoer af NASAs månelanding, anbefalede YouTube videoer om den flade jordkonspirationsteori. Det gjorde det flere hundrede millioner gange. Nyhedsfeeds og anbefalingssystemer som dette har skabt en nedadgående spiral af negativitet og paranoia, der langsomt afkobler milliarder af menneskers opfattelse af virkeligheden fra virkeligheden selv.

Relateret historie

Hvordan en internetløgn om Capitol-invasionen blev til en øjeblikkelig konspirationsteori Falske påstande om, at invasionen af ​​Kongressen blev iscenesat spredte sig i et hæsblæsende tempo – takket være aktivister, medierne og republikanske politikere.

At se virkeligheden klart og sandt er grundlæggende for vores evne til at gøre hvad som helst. Ved at tjene penge og varetage opmærksomhed har vi solgt vores evne til at se problemer og gennemføre kollektive løsninger væk. Dette er ikke nyt. Næsten hver gang vi tillader, at vores planets eller samfunds livsunderstøttende systemer bliver kommodificeret, driver det andre sammenbrud. Når du kommodificerer politik med AI-optimerede mikromålrettede annoncer, fjerner du integritet fra politik. Når du råvarer fødevarer, mister du kontakten til den livscyklus, der gør landbruget bæredygtigt. Når du omformer uddannelse til digitale indholdskilder, mister du den indbyrdes sammenhæng mellem menneskelig udvikling, tillid, omsorg og lærerlig autoritet. Når du commodificerer kærlighed ved at gøre folk til spillekort på Tinder, afbryder du den komplekse dans, der er involveret i at skabe nye forhold. Og når du kommodificerer kommunikation i bidder af opslag og kommentartråde på Facebook, fjerner du kontekst, nuancer og respekt. I alle disse tilfælde eroderer udvindingssystemer langsomt grundlaget for et sundt samfund og en sund planet.

Skiftesystemer for at beskytte opmærksomheden

E.O. Wilson, den berømte biolog, foreslog, at mennesker kun skulle køre halvdelen af ​​Jorden, og at resten skulle stå i fred. Forestil dig noget lignende for opmærksomhedsøkonomien. Vi kan og bør sige, at vi ønsker at beskytte menneskelig opmærksomhed, selvom det ofrer en del af overskuddet fra Apple, Google, Facebook og andre store teknologiselskaber.

Annonceblokkere på digitale enheder er et interessant eksempel på, hvad der kunne blive et strukturelt skift i den digitale verden. Er annonceblokkere en menneskeret? Hvis alle kunne blokere annoncer på Facebook, Google og websteder, ville internettet ikke være i stand til at finansiere sig selv, og reklameøkonomien ville miste enorme mængder af indtægter. Ophæver det resultat retten? Er din opmærksomhed en ret? Ejer du det? Skal vi sætte en pris på det? At sælge menneskelige organer eller slaver af mennesker kan imødekomme en efterspørgsel og generere profit, men vi siger, at disse varer ikke hører hjemme på markedet. Ligesom mennesker og deres organer, burde menneskelig opmærksomhed være noget, man ikke kan købe for penge?

Er din opmærksomhed en ret? Ejer du det? Skal vi sætte en pris på det? Ligesom mennesker og deres organer, burde menneskelig opmærksomhed være noget, man ikke kan købe for penge?

Covid-19-pandemien, Black Lives Matter-bevægelsen og klimaændringer og andre økologiske kriser har gjort flere og flere mennesker opmærksomme på, hvor ødelagte vores økonomiske og sociale systemer er. Men vi kommer ikke til rødderne af disse indbyrdes forbundne kriser. Vi falder for interventioner, der føles som det rigtige svar, men i stedet er fælder, der i det skjulte opretholder status quo. Lidt bedre politipraksis og kropskameraer forhindrer ikke politiets uredelighed. At købe en Prius eller Tesla er ikke nok til virkelig at nedbringe kulstofniveauet i atmosfæren. At erstatte plastiksugerør med bionedbrydelige vil ikke redde havene. Instagrams træk for at skjule antallet af likes ændrer ikke teenageres mentale sundhedsproblemer, når tjenesten er baseret på konstant social sammenligning og systemisk kapring af den menneskelige trang til forbindelse. Vi har brug for en meget dybere systemisk reform. Vi er nødt til at skifte institutioner for at tjene offentlighedens interesser på måder, der står mål med arten og omfanget af de udfordringer, vi står over for.

Hos Center for Humane Technology var en ting, vi gjorde, at overbevise Apple, Google og Facebook om at vedtage – i det mindste delvist – missionen om Time Well Spent, selvom det var imod deres økonomiske interesser. Dette var en bevægelse, vi lancerede gennem brede offentlige mediebevidsthedskampagner og fortalervirksomhed, og den opnåede troværdighed hos teknologidesignere, bekymrede forældre og elever. Det opfordrede til at ændre den digitale verdens incitamenter fra et kapløb om tid brugt på skærme og apps til et kapløb mod toppen for at hjælpe folk med at bruge tiden godt. Det har ført til reel forandring for milliarder af mennesker. Apple introducerede f.eks. skærmtidsfunktioner i maj 2018, der nu leveres med alle iPhones, iPads og andre enheder. Udover at vise alle brugere, hvor meget tid de bruger på deres telefon, tilbyder Screen Time et dashboard med forældrekontrol og app-tidsgrænser, der viser forældre, hvor meget tid deres børn bruger online (og hvad de laver). Google lancerede sin lignende Digital velvære initiativ omkring samme tid. Det inkluderer yderligere funktioner, vi havde foreslået, såsom at gøre det nemmere at tage stikket ud før sengetid og begrænse meddelelser. På samme måde introducerede YouTube meddelelser om Tag en pause.

Disse ændringer viser, at virksomheder er villige til at ofre sig, selv inden for milliarder af dollars. Ikke desto mindre har vi endnu ikke ændret kernelogikken i disse virksomheder. For en virksomhed at gøre noget imod sine økonomiske interesser er én ting; at gøre noget imod dets formål og måls DNA er en helt anden ting.

Arbejder mod kollektiv handling

Vi har brug for en dyb, systemisk reform, som vil flytte teknologivirksomheder til først og fremmest at tjene offentlighedens interesser. Vi er nødt til at tænke større over, hvor meget systemisk forandring der kan være mulig, og hvordan man kan udnytte befolkningens kollektive vilje.

Relateret historie

Evangeliske ledere efter svar online. De finder QAnon i stedet for. Hvordan den voksende pro-Trump-bevægelse forgriber sig på kirkegængere for at sprede sine konspirationsteorier.

For nylig på Center for Humane Technology interviewede vi Christiana Figueres, den tidligere administrerende sekretær for FN's konvention om klimaændringer (2010-2016) , til vores podcast Din udelte opmærksomhed. Hun var ansvarlig for det samarbejdende diplomati, der førte til Paris-aftalen, og vi lærte, hvordan hun var i stand til at gøre dette – at få 195 forskellige lande, mod alle odds, til at lave fælles, i god tro beslutninger om at håndtere klimaændringer. Figueres troede i begyndelsen ikke på, at det var muligt at få så mange lande til at blive enige, men hun indså, at en succes med at være vært for Paris-konventionen betød, at hun selv skulle ændre sig. Hun skulle oprigtigt tro på, at det var muligt at få landene til at forpligte sig til klimaindsats. Det var sådan, hun så kunne fokusere på at få de deltagende lande til at tro på muligheden for også at tage fat på klimaforandringerne. Hvor tidligere internationale klimaforhandlinger var slået fejl, bragte Figueres indsats nationer sammen for at blive enige om finansiering, nye teknologier og andre værktøjer til at holde den globale temperaturstigning under 2 eller endnu bedre 1,5 °C.

I tilfældet med tech-industrien har vi et forspring ved, at vi ikke behøver at overbevise hundredvis af lande eller millioner af mennesker. Færre end 10 personer driver det 21. århundredes mest kraftfulde digitale infrastruktur – de såkaldte FAANG-virksomheder, der omfatter Facebook, Amazon, Apple, Netflix og Alphabet (tidligere Google). Hvis disse personer tog sig sammen og blev enige om, at maksimering af aktionærernes profit ikke længere var det fælles mål, kunne den digitale infrastruktur være anderledes. Hvis Christiana Figueres kunne skabe konsensus mellem 195 nationer, kunne vi overveje muligheden for at gøre det med 10 tech CEO'er.

En ny økonomi for human teknologi

Flere økonomiske principper skal ændres, for at teknologien kan tilpasse sig menneskeheden og planeten. Et af disse er vækstparadigmet. Du kan simpelthen ikke udføre en logik om uendelig vækst på et begrænset substrat. Trangen til uendelig økonomisk vækst fører til en planetarisk økologisk krise. For teknologivirksomheder fører forfølgelsen af ​​den uendelige vækst af ekstraheret menneskelig opmærksomhed til en lignende krise for global bevidsthed og socialt velvære. Vi er nødt til at skifte til en opmærksomhedsøkonomi efter vækst, der placerer mental sundhed og velvære i centrum for vores ønskede resultater.

Flere økonomiske principper skal ændres, for at teknologien kan tilpasse sig menneskeheden og planeten.

En lille antydning af dette skift finder sted i lande, herunder New Zealand og Skotland, hvor organisationer som Wellbeing Economy Alliance arbejder på at skifte fra en økonomi, der fremmer bruttonationalproduktet (BNP) til en med disse alternative prioriteter. Ledere spørger, hvordan velfærd kan informere offentlighedens forståelse af politikker og politiske valg, vejlede beslutninger og blive et nyt grundlag for økonomisk tænkning og praksis.

Et andet skift i retning af en mere human teknologi kræver en bredere vifte af interessenter, som kan skabe ansvarlighed for den langsigtede sociale virkning af vores handlinger. Lige nu er det muligt for store teknologivirksomheder at tjene penge ved at sælge tyndere og tyndere falske stykker opmærksomhed – at sælge falske klik fra falske nyhedskilder til falske annoncører. Disse virksomheder tjener penge, selvom det, linket eller artiklen fører til, er voldsomt forkert og udbreder misinformation. Denne opportunisme forringer informationsøkologien ved at ødelægge vores evne til at stole på kilder til viden eller dele overbevisninger om, hvad der er sandt, hvilket igen ødelægger vores evne til god beslutningstagning. Resultatet er polarisering, misinformation og nedbrydning af demokratisk medborgerskab. Vi er nødt til at skabe mekanismer, der tilskynder deltagere i den digitale verden til at overveje længere tidsrammer og den bredere indvirkning, deres handlinger har på samfundet.

Her spiller den menneskelige vilje en vigtig rolle. Hvad nu hvis lederne bag Apples App Store-indtægtsfordelingsmodel – der fungerer som opmærksomhedsøkonomiens centralbank eller Federal Reserve – blot valgte at distribuere indtægter til app-producenter baseret ikke på hvis brugere købte flest virtuelle varer eller brugte mest tid på at bruge appen, men hvem af app-magerne samarbejdede bedst med andre apps på telefonen for at hjælpe alle medlemmer af samfundet til at leve mere efter deres værdier?

I sidste ende handler det om at sætte de rigtige regler. Det er svært for en enkelt aktør at optimere for trivsel og overensstemmelse med samfundets værdier, når andre aktører stadig konkurrerer om begrænsede ressourcer og magt. Uden regler og rækværk vinder de mest hensynsløse skuespillere. Det er derfor, lovgivning og politikker er nødvendige sammen med befolkningens kollektive vilje til at vedtage dem. Den større metakrise er, at de demokratiske processer for at skabe autoværn kører i et meget langsommere tempo end den teknologiske udvikling, der skal til for at gøre en forskel. Teknologien vil fortsætte med at udvikle sig hurtigere, end skaderne godt kan forstås af det 20. århundredes demokratiske institutioner. Teknologisektoren er selv nødt til at komme sammen, i samarbejde og finde måder at fungere på, så fælles samfundsmål placeres over hyperkonkurrence og profitmaksimering.

Endelig er vi nødt til at anerkende den massive asymmetriske magt, som teknologivirksomheder har over individer og samfund. De kender os bedre, end vi kender os selv. Enhver asymmetrisk magtstruktur skal følge tillids- eller omsorgspligtmodellen, eksemplificeret af en god lærer, terapeut, læge eller plejemedarbejder – det vil sige, den skal fungere i tjeneste for dem med mindre magt. Det må ikke operere med en forretningsmodel baseret på udvinding. Opgraderede forretningsmodeller for teknologi skal være generative: de skal behandle os som kunden og ikke produktet og tilpasse sig vores mest dybtliggende værdier og menneskelighed.

Mod at være menneske

E.O. Wilson har sagt: Problemet med menneskeheden er, at vi har palæolitiske følelser, middelalderlige institutioner og gudelignende teknologi. Vi er nødt til at omfavne vores palæolitiske følelser i alle deres faste svagheder og sårbarheder. Vi er nødt til at opgradere vores institutioner for at inkorporere mere visdom, forsigtighed og kærlighed. Og vi er nødt til at bremse udviklingen af ​​en gudelignende teknologi, hvis kræfter går ud over vores evne til at styre retningen af ​​det skib, vi alle er på.

Området for hvad der er muligt fortsætter med at udvide sig, men det opstår samtidig med eksponentielt udfordrende globale problemer, der kræver bedre information, lederskab og handling. I stedet for at acceptere et kapløb mod bunden, der nedgraderer og splitter os, kan vi sammen skabe et teknologilandskab, der muliggør et kapløb mod toppen – et kapløb, der understøtter vores sammenkobling, høflighed og dybe glans. Forandring, tror jeg, er menneskeligt mulig.

Tristan Harris er medstifter og præsident for Center for Humane Technology.

skjule