Er vi i ferd med å slutte å være mennesker?

I 2019 konkurrerer de store selskapene om å forutse og påvirke handlingene dine. Hva er igjen av oss mennesker da?

b
a

FOR INNTIL DRØYE hundre år siden levde vandreduene i Nord-Amerika, og det var milliarder av dem. De var litt mindre enn vanlige byduer, og bevegde seg rundt i flokker så enorme at de kunne formørke himmelen i dagevis. Hele skoger ble ødelagt av reirene deres, og den konstante jakten på mat ødela hele avlinger med korn og mais. Så menneskene begynte å jakte på dem. De var sosiale dyr, og jegerne hadde en egen måte å utnytte vandreduenes særegne empati: Noen få duer ble fanget som lokkedyr, og festet til pinner med øynene sydd igjen. Da de desperate fuglene flakset i panikk kom horder strømmende for å komme dem til unnsetning, og jegerne kunne slakte tusenvis av duer samtidig.

På midten av 1800-tallet var det ennå millioner av duer igjen, men allerede i 1914 døde den siste gjenlevende vandreduen i en dyrehage i Cincinnati. Alene hadde den ingen å orientere seg etter. Den sterke flokkmentaliteten deres hadde ledet dem til undergangen.

I sitt nye, monumentale verk The Age of Surveillance Capitalism, sammenlikner sosialpsykolog og historiker Shoshana Zuboff den effektive og nådeløse nedslaktingen av vandreduen med hvordan teknologiselskapene – eller, med Zuboffs egne ord, overvåkningskapitalistene – Google og Facebook tjener pengene sine. Der Marx’ påstand var at kapitalismen er som en vampyr som lever av å utnytte menneskers arbeid, er Zuboffs poeng at selskaper som Facebook og Google lever av å utnytte alle typer menneskelige erfaringer. Facebook utnytter menneskers behov for fellesskap, og lokker oss til det tosidige sosiale speilet, hvor vi kan sammenlikne og påvirke hverandre. Vi ser på hverandre, og glemmer at noen følger med. Hvorfor følger de med? Ifølge Zuboff er det ingen tvil: De vil utnytte menneskets naturlige empati og nysgjerrighet, og manipulere den ved å endre hvordan vi lever for at de skal tjene penger.

I motsetning til hos vandreduene, er det ikke menneskers liv som er i ferd med å gå tapt, men menneskers menneskelighet.

Det hadde ikke trengt å være sånn.

DA GOOGLE STARTET virksomheten sin på slutten av 90-tallet var det med et beundringsverdig ønske om å samle informasjon, til alles gode. Ja, søkene folk utførte ga Google informasjon, men det var data de brukte til å forbedre produktet, til å gjøre søkemotoren enda mer nøyaktig. Men da dotcom-boblen sprakk rundt årtusenskiftet ble investorene masete: De ville at selskapet skulle tjene ordentlige penger. Det løsnet da Google skjønte at det de i stor skala var i ferd med å skaffe seg var en oversikt over menneskelig atferd, og at det kunne brukes til å selge spådommer om hva folk kommer til å gjøre til annonsører.

Google-grunnlegger Larry Pages drøm om søkemotoren som en kunstig intelligens var plutselig innen rekkevidde.

LES OGSÅ: Elif Batuman glipper den røde tråden i debutboka som er ute på norsk NÅ

Ingenting av dette er nytt. Gang på gang har Googles og Facebooks overtramp blitt avslørt: Det ble tidlig avdekket at Google scannet g-mailene våre etter informasjon de kunne selge til annonsører, og da de kjørte verden rundt og filmet med Street view-bilene sine ble det avslørt at de også samlet inn privat wifi-informasjon. Ingen av avsløringene har stoppet dem, fordi vi er så lette å manipulere med stadig enklere hverdag og mer sømløse produkter. I stedet for å gjøre motstand, har vi latt oss distrahere. Og ikke bare har vi latt dem fortsette som før, vi har latt dem ekspandere. Google og Facebook har for lengst beveget seg ut av internett og inn i den virkelige verden: smart hjem-enheter, selvkjørende biler, droner og utvidet virkelighet. Alt handler om å skaffe stadig mer av det Zuboff kaller behavioral surplus, som igjen kan tiltrekke seg flere kunder.

Endringene skjer så sakte at vi rekker å tilpasse oss hvert trinn på stigen. Det er jo digg at man slipper å følge med på musikk lenger, at Spotify-algoritmene lager spillelister som er perfekt tilpasset musikksmaken vår. Og snart trenger vi ikke lenger utdanne filmskapere, fordi Netflix vet nøyaktig hva folk vil ha, og kan la maskinene lage underholdningen for oss.

«Det at du har noe å skjule er det som gjør deg menneskelig. Hvis du ikke har noe å skjule har du ingenting.»

HVORDAN HAVNET VI HER? En av årsakene er, ifølge Zuboff, et politisk system og ideologisk hegemoni, særlig i USA, som anser regulering av både teknologi og rikdom som den største av alle onder. Det hjalp heller ikke at overvåkningskapitalismens framvekst sammenfalt med USAs eskalering av krigen mot terror, der teknologiens stadig mer effektive overvåkningsmetoder var nøyaktig det etterretningsvesenet trengte. CIA hadde ingen interesse av å begrense Googles vekst og makt, snarere tvert imot.

Et annet svar er at vi har veldig vanskelig for å tro at noe helt nytt og revolusjonerende kan skje, selv når det er i ferd med å skje. Gjennom århundrene har man vært vant til å tenkte på store samfunnstrusler som noe som kom fra statlig hold, for eksempel fascisme som har forsøkt å ta kontroll over statsapparatet. Derfor var vi fullstendig uforberedt på å forsvare oss mot nye, digitale selskaper med originale navn ledet av unge genier som så ut til å kunne tilby oss nøyaktig det vi ville ha, helt gratis. Internettets frigjørende muligheter skygget for den faktiske utviklingen.

En av mytene Zuboff vil til livs er klisjéen «når tjenesten er gratis, er det fordi det er du som er produktet». Det er ikke du, brukeren, som er produktet, ifølge Zuboff. Brukerne er kilden til råmateriale som blir utvunnet og solgt. Du er ikke produktet, du er den brukte og forlatte skrotten etter at produktet er utvunnet. Produktet er måten du oppfører deg på, som har blitt røsket ut av deg. Produktet er spådommen om hva du kommer til å gjøre. Ingen bryr seg om hva du tidligere har gjort.

Dette henger sammen med en annen myte, som vi alle bruker til å rettferdiggjøre at vi lar dem overvåke oss: Jeg har ingenting å skjule, sier vi. Til det sier Zuboff, som gjennom 500 sider med undersøkelser av de siste tiårenes teknologiske og økonomiske utvikling aldri slipper ut av syne hva det er som gjør oss til mennesker: Det at du har noe å skjule er det som gjør deg menneskelig. Hvis du ikke har noe å skjule har du ingenting.


(Foto: Michael D. Wilson,CC BY-SA 4.0)

PROBLEMET ER HELLER IKKE, som mange synes å tro, at «privatlivet forsvinner». Det er ikke privatlivet vi blir fratatt, men retten til selv å bestemme hva som skal være privat. Hvis privatlivet ble borte, ville alle vite alt om alle, men det er ikke det som skjer. Det som skjer er at noen vet alt, og på den måten fratas vi muligheten til å bestemme selv. Spørsmålet er ikke bare om det truer vår rett til privatliv eller eller rettssikkerhet, men om det i fremtiden vil være mulig for oss å i det hele tatt være mennesker.

Facebook har dessuten ført til at det fremstår mer mistenkelig om det ikke finnes masse tilgjengelig informasjon om deg på internett. Hva skjer for eksempel når alle politikere har sextapes, fyllefilmer eller selfier hvor de gjør noe ulovlig? I beste fall får vi kanskje en ny moralsk standard hvor man i større grad godtar at folk er menneskelige. I verste fall får vi en verden hvor bare de kjedeligste og mest fornuftige er de eneste som vinner valg …

En annen tabbe man gjør er å tro at utviklingen først og fremst handler om reklame. Målrettede annonser var begynnelsen, ikke slutten. Det er ingen grunn til at tro at det bare er annonsører som har interesser av å betale for informasjon om hva folk sannsynligvis vil gjøre i framtiden. Manipuleringen av valg vi har sett de siste årene, blant annet under Brexit-avstemningen og valget av Trump, er kanskje bare en begynnelse.

LES OGSÅ: Alle er jævlige i debutboka til «Cat Person»-forfatteren

Zuboffs store styrke er at hun jevnlig, og alltid på riktig tidspunkt, løfter blikket og ser hvilken rolle de små tekniske spissfindighetene hun undersøker spiller i det store bildet, i teknologiens, kapitalismens og menneskehetens historie.

ET PROBLEM SYNES Å VÆRE at kritikk har blitt redusert til om man er for eller imot teknologi. Når vi har sett positive trekk ved utviklingen, for eksempel i alle de rare fellesskapene som oppstår på internett og som ikke ville oppstått noe annet sted, og som vi ikke ville vært foruten, har vi løpt overvåkningskapitalistenes ærend. Og på den andre siden, når noen har kritisert måten Google og Facebook holder på, har det ofte vært med argumenter som at facebook-venner ikke er ekte venner, og at man heller burde kalle det asosiale medier. Denne posisjonen er lett å latterliggjøre og avfeie som bakstreversk. Ingen har klart å bygge opp en ideologi- og maktkritisk posisjon som ikke er negativ til den teknologiske utviklingen i seg selv.

Og mens vi har kranglet, har Google og Facebook bare vokst og blitt enda rikere og mektigere. For hver nye tjeneste de bygger på den menneskelige informasjonen de har utvunnet fra dagliglivene våre, jo lenger unna kommer vi noe vi kan kalle et hjem. Et hjem som ikke bare er koordinater for smarte høyttalere, termostater, sikkerhetskameraer og lysbrytere, som holder oversikt over oppførselen og opplevelsene våre så de kan tilrettelegge, forbedre, manipulere livet vårt.

Facebook uten innhold: «Safebook» er en nettleser-plug in laget av kunstneren Benjamin Gross, som fjerner alt innholdet på Facebook, alle bilder, all tekst, alle likes.

Hvordan ser verden ut hvis vi havner der overvåkningskapitalistene vil? Facebook har lenge vært åpne om hva som er målet, og til og med skrytt av det: I fremtiden, har Mark Zuckerberg sagt, kommer de til å ha oversikt over alle bøker, filmer og sanger du noensinne har hørt, og all informasjonen de har samlet inn vil gjøre det mulig for å fortelle deg hvilken bar du skal dra til når du ankommer en fremmed by, og der vil bartender stå klar med favorittdrinken din. Med andre ord: De tegner et kart over alt som finnes i verden, og hvordan alt henger sammen.

Eller med enda noen andre ord: De jobber mot en fremtid der de har fullstendig oversikt. De vil vite alt. Ikke fordi de skal ta oss for noe vi har gjort, men for å med 100 prosent sikkerhet kunne si hva vi kommer til å gjøre. Å kunne forutse hva folk kommer til å gjøre har alltid vært reklamens og kapitalismens mål, men med vår tids overvåkningsteknologi er det for første gang overkommelig.

Spørsmålet Zuboff stiller er om dette er en fremtid hvor vi kan kalles mennesker, i noen som helst betydningsfull forstand av ordet.

LES OGSÅ: Cappelens Forslag mot kapitalismen, kjedebutikkene og Olav Thon

Hver nye avsløring gjør det stadig vanskeligere å vite hva som er sunn fornuft og hva som er paranoia. Skal man tape igjen kamera på dataen eller er det for mye? Stemmer det at facebook avlytter telefonen din og gir deg reklame basert på det du snakker med vennene dine om mens telefonen ligger i lomma? Man blir utmattet og ting virker håpløst, litt på samme måte som med global oppvarming. Hva skal man gjøre?

At all informasjonen Zuboff sammenfatter – hun byr på få avsløringer som ikke allerede er kjent for de som er interessert – ikke skaper større reaksjoner, at folk ikke ser alvoret, tyder kanskje bare på at det allerede har gått altfor langt, at vi allerede er forandret og at det ikke kan skje en oppvåkning, en bevisstgjøring, som kan være begynnelsen på en vei tilbake, en vei ut.

Vi har allerede gitt fra oss muligheten og evnen til å bestemme over egne liv.

Det er et surrealistisk paradoks, skriver Zuboff, at revolusjonen seiler under et flagg det kaller «personlig tilpasning», når det tvert imot oppløser, ignorerer og omformer alt det personlige ved oss.

«Technology is stuff that doesn’t work yet» er det noen som har sagt. Sånn sett er det kanskje et godt tegn at vi fortsatt snakker om disse tingene som teknologi: kanskje er ikke maskineriet helt velsmurt ennå. Men er det noen vei ut av dette helvetet? EUs reguleringstiltak GDPR er i hvert fall ikke et skritt i feil retning, men om det er for lite og for sent gjenstår å se. Og tross alt er bevisstgjøringen rundt omfanget av skyggesidene i ferd med å vokse, og at det faktisk ikke er verdt det lenger. Når en rasistisk terrorist filmer at han dreper 50 muslimer i en moské i New Zealand og sender det direkte på Facebook er det sjokkerende, men samtidig fremstår det med ett som en logisk konsekvens av retningen vi har beveget oss i lenge.

Den amerikanske presidentkandidaten Elizabeth Warren har tatt til orde for å for å bryte opp Google, Facebook og Amazon i mindre deler. Håpet er at man ved å bekjempe monopoliseringen kan oppfordre til innovasjon som kan skape forretningsmodeller som er bygget på noe annet enn å misbruke folks tillit, informasjon og personlighet. At noe så tungrodd og uinspirerende som amerikansk valgkamp tar opp disse spørsmålene er også kanskje et godt tegn.

LES OGSÅ: ÅRETS VERSTE: Facebook vil ha all makt, alle pengene og ingenting av ansvaret

MEN HVA KAN VI GJØRE, du og jeg, her og nå, fra og med i dag? Ingen av oss har noen gang lest gjennom terms of service, og vi kommer neppe til å begynne nå. Du kan, selvfølgelig, kappe av den teknologiske protesen og slette Facebook og Instagram (men hvis du gjør det, helst ikke gjør et stort nummer ut av det). Du vil kanskje merke fantomsmertene, men det er ikke farlig, og forhåpentligvis har du nok menneskelighet igjen til at det ikke er for sent.

Du kan også slutte å bruke Google. Problemet er bare at alternativene er så dårlige. Du får dårlige treff. Gjennom årene har Google lært deg å kjenne og vet hva du vil ha nesten uansett hvor elendig du formulerer søkene dine. Google vet hva du sannsynligvis leter etter, og gir deg det. I sterke øyeblikk vil du kanskje ha lyst til å motstå dette, og heller måtte lete litt mer, og kanskje oppdage noe uventet. Men i de svake øyeblikkene, som det nok for de fleste er flest av, er det beleilige ved å velge Google gjerne vanskelig å motstå.

Shoshana Zuboff har et håp om å vekke og bevisstgjøre oss, at vi skal organisere oss og bekjempe utviklingen. Men samtidig er det vanskelig å lese boka hennes og ikke tenke at det allerede er for sent. Løpet er kjørt. Vi er ikke lenger mennesker, og ikke ennå maskiner, men en ubrukelig mellomting, det verste fra begge verdener: rare mikrohjerner i vandrende kjøttfengsler, ikke i stand til å tenke på egen hånd, og ikke i stand til å løse våre egne eller noen andres problemer, kun i stand til å følge overvåkningskapitalistenes stadig bedre snarveier til valgene vi har valgt bort å velge.

LES OGSÅ: «The Crazy Rackelhahn» er et presist eksempel på hvordan et samfunn reagerer i møte med total nihilisme