Overvågningskapitalismens farlige fristelser

af i Digitalt/Politik & Samfund

INTERNET // KOMMENTAR – Du får en god, måske tilmed gratis tjeneste på nettet. Tjenesteudbyderen får dine data. Sådan lyder studehandlen, og det ligner et win-win. Den tidligere Harvard-professor Shoshana Zuboff ser dog noget andet, herunder kræfter, der truer demokratiet. Googles, Facebooks og de andres opsamling af ekstra data om vores opførsel muliggør styring af, hvad vi gør. Journalist Dorte Toft hørte Zuboff tale om dennes nye bog, ‘Overvågningskapitalismen Tidsalderi den selvsamme sal, hvor Google tre år før stolt havde den såre disruption-begejstrede daværende statsminister på scenen.

Jeg forføres og overgiver mig til den spinkle, ældre kvinde, der langsomt fortæller, hvorledes Google, Facebook og de andre datadrevne successer udgør en trussel mod demokratiet.

Nok får du og jeg lettelser, måske tilmed gratis tjenester, ved at afgive lidt privatliv, men giganterne suger langt flere data ud om, hvad vi mener og gør, og det er farligt, lyder det fra Shoshana Zuboff, som er professor Emerita ved Harvard Business School.

De forsøger at lave en verden, der passer dem, og hvis demokrati er i vejen, så væk med det. De tror, de ved bedre

Hun er også forfatter til den omdiskuterede bog The Age of Surveillance Capitalism, der i den danske version hedder Overvågningskapitalismens Tidsalder. Hendes værter ved konferencen Surveillance Capitalism or Digital Responsibility i fredags (27.9.) er Dansk Industri, IT Universitetet og Digitaliseringstyrelsen.

Ifølge Zuboff ved de datadrevne tech-selskaber mere om dig, end du selv gør, og det betyder, at de og deres kunder kan styre dig, dine køb, hvordan du stemmer, ja tilmed dit humør. Det er, hvad overvågningskapitalisterne er i færd med, mener hun.

Lige inden konferencen så jeg et eksempel på Twitter. Uber og lignende taxaserviceselskaber øger prisen, når de via din bestilling kan se, at din mobils batteri er ved at løbe tør for strøm. Så ved de, at du er nervøs for, om du når at få en taxa til tiden.

Uber har som bekendt snablen dybt inde i din mobil, lige som de fleste andre app-leverandører har – og med din velsignelse. Du klikkede ja, da du ville have tjenesten, der gjorde dit liv lettere.

Lovgivning står i vejen

Inde i salen i Industriens Hus i København gibbede det i mig, da Zuboff kom ind på, hvad Googles medstifter, Larry Page, har sagt om lovgivning også i relation til, at visse love er vedtaget, før internettet kom til verden.

”De siger med vægt bag ordene: ”Vi er innovatorer, og love står i vejen for innovation”. Men nye studier viser, at disse firmaer impeder [forsinker eller hindrer] innovation,” sagde Zuboff og fortsatte:

”De forsøger at lave en verden, der passer dem, og hvis demokrati er i vejen, så væk med det. De tror, de ved bedre.”

Det ”bedre”, de ved, handler ifølge Tech-firmaerne selv om styring via computation – kunstig intelligens med videre, til erstatning af ”det langsomme, besværlige demokrati”, forklarede hun.

Zuboff pointerede, at der sandelig findes gamle love, der er lige så nødvendige i dag, som da de blev vedtaget. Som eksempel nævnte hun Habeas Corpus, der fordrer, at en frihedsberøvet person skal have efterprøvet frihedsberøvelsens lovlighed ved en domstol. Udtrykket har sin oprindelse i 1679.

Skønmalerierne tre år tidligere

Oplevelsen af Zuboff i den propfyldte sal var næsten surrealistisk i relation til en konference, jeg overværede i samme sal tre år tidligere.

Konferencen hed Digital Frontrunners. Embedsværket var godt repræsenteret på stolene, og der var danske lovgivere på scenen, herunder den daværende statsminister Lars Løkke Rasmussen og uddannelsesminister Ulla Tørnæs.

Arrangøren var Google, og programmet rummede blandt andet en taler fra det såkaldte Singularity University, som er finansieret af Silicon Valey og kendt for visionære skønmalerier af den teknologiske udvikling. Hvilket også var, hvad konferencen gik ud på. Med andre ord handlede den om alt det gode, som det i forvejen dygtige Danmark skulle skynde sig at få gjort med digitaliseringen, fordi vores forspring var ved at blive udhulet.

Og de to ministre var selvfølgelig enige – jeg skrev om konferencen her.

Her, tre år efter, stod Zuboff så og talte om Google, altså den daværende arrangør som en trussel for demokratiet, på linje med en række andre datadrevne, populære selskaber. Der var ingen ministre i salen, så vidt jeg kunne konstatere, ej heller mange fra embedsværket eller folketingspolitikere, og vist slet ikke fra de borgerlig partier; men lige bag mig sad SF’s finans- og it-ordfører Lisbeth Bech Poulsen.

Zuboff-optimisme på Danmarks vegne

Zuboff overraskede mig og vist også SF-ordføreren ved at sige, at Danmark har muligheden for at sætte en Gold Standard for, hvordan samfund kan undgå at blive ødelagt af overvågningskapitalismen og hvordan der med lovgivning og aktivisme i befolkningen kan sættes en stopper for underminering af demokratiet. Hun talte også om, hvordan vi kan bevare friheden og den frie vilje, selv om den i sig selv indebærer netop den usikkerhed, som techselskaber og myndigheder vil afskaffe ved hjælp af kunstig intelligens.

De udtalelser fik mig til umiddelbart efter konferencen at skrive følgende tweet:

Var det  mon af høflighed over for de velbetalende værter, altså staten, et statsligt universitet og en brancheorganisation, der taler på erhvervslivets vegne? Var det en slags nudging af dem – et pres på ”I kan jo, hvis I gider”?

Eller er der virkelig sket så drastisk et skift på tre år i Danmark – et skift fra falden på halen for disruption-skønmalerierne, der lød fra scenen i 2016, også fra den daværende regering?

Er der mere end ”blot” angsten for at miste befolkningens tillid til tvangsdigitaliseringerne og dermed risikoen for civil ulydighed, der tæller, når politikerne de sidste halvandet år har messet satsning på dataetik hurtigere end en gris kan blinke, hvilket jeg tidligere også har skrevet om.

De valfarter til Wine and Dine and Seduction, bistået af ”eventbureauerne” Innovation Centre Denmark i Silicon Valley, og senere desuden af den danske tech-ambassørs kontor, også i Palo Alto

Min tvivl om en klar ændring kan være påvirket af et halvt århundredes observation på nært hold af teknologiudviklingen og brugen i Danmark. Det har været svært at forstå, hvor uvidende de danske politikere og embedsværket har valgt at være om teknologi som andet end mirakelløsningen til kontrol og effektivisering. De danske politikere er hoppet på al hype, nurset intensivt af de tech- og konsulentfirmaer, der i en given periode har de dominerende roller.

Blandt techfirmaerne var det først IBM med HP og Oracle på sidelinjen, så Microsoft og SAP, og nu er det Google og Singularity University samt visse andre datadrevne kendisfirmaer, som de inviterede politikere, embedsmænd og brancheorganisationer rejser til i USA for at besøge. De valfarter til Wine and Dine and Seduction, bistået af ”eventbureauerne” Innovation Centre Denmark i Silicon Valley, og senest desuden af den danske tech-ambassørs kontor, også i Palo Alto.

Kæresterierne, sammen med Danmarks velstand og velegnethed til digital infrastruktur, har givet politikerne muligheden for at bryste sig med, at Danmark er verdens mest digitaliserede land. Men hvordan går det med tvangsdigitaliseringen og med hensynet til de 8,5 procent af danskerne, der har måttet undtages fra tvangen?

Hvordan går det med effektiviseringen af den vigtigste motor for et velfærdssamfund, Skat? Og hvordan går det med respekten for borgernes privatliv? Her tænker jeg blandt andet på den enorme politiske appetit på at massere på data om samtlige i landet med kunstig intelligens med henblik på at spå om nogle få enkeltindividers skæbne?

Ram den, der har det skidt, med din annonce

Og det bringer mig tilbage til Zuboffs fortællinger om, hvorledes nutidens datadrevne selskaber, udnytter deres viden om enkeltpersoner. En ældre historie fra Facebook i Australien og New Zealand blev nævnt og gentaget. Et lækket dokument havde afsløret, at Facebook tilbød kunder mulighed for at annoncere over for 6,6 millioner særligt udvalgte unge, usikre mennesker i Australien og New Zealand på det tidspunkt, hvor hver person ville være mest til fals for tilbuddene.

Facebook havde via sine data, inklusive dem opsnappet fra indbyggede videokameraer, indkredset unge, når de følte sig “stressed, defeated, overwhelmed, anxious, nervous, stupid, silly, useless and a failure”. Facebook havde tilmed grafer over, hvornår de sårbare var mest påvirkelige hen over ugen.

En af de usikre unge mænd, der skal på date fredag? Vupti. Et par dage før placeres annoncen for den fede, maskuline sorte læderjakke ledsaget af en Buy-knap, sagde Zuboff.

The Guardians omtale af afslørende læk

The Guardian skrev om sagen ledsaget af beretningen om, hvorledes Facebook i forvejen var grebet i eksperimenter med blandt andet at påvirke knap 700.000 menneskers følelser fra glad til ked af det og omvendt. Noget, som Zuboff også nævnte.

Google ledte vejen

Ifølge professoren er det Google, der har vist vejen til absurd vækst for selskaber, der kender deres brugeres personlighed bedre end de pågældende selv. Et Google, der følte sin fremtid truet af dot.com-boblens kollaps i starten af 2000-tallet og af den deraf følgende nervøsitet hos investorer. Et Google, som derfor gik fra blot at få de data fra folk, der ville give en serviceforbedring for den enkelte, til også at høste ”overskudsdata” om opførsel, lokation, ansigt, stemme, humør, fingeraftryk – det hele. Googles nye politik satte gang i en eksplosiv vækst i omsætningen.

Profileringen muliggør ret gode forudsigelser om, hvad folk vil gøre og efterhånden muliggør de også påvirkning af, hvad mennesket gør, om i relation til at købe eller stemme. Påvirkningen sker typisk via belønninger eller straffe. Det er magten, de datadrevne firmaer har og sælger til deres kunder, fra finanssektoren eller staten. Og det er cirklen i overvågningskapitalismen, mener professoren. Fra at yde bedre service til magten til at styre mennesker.

Den med valgpåvirkning er bredt kendt i forbindelse med valget af Donald Trump til USA 45. præsident. Analysefirmaet Cambridge Analytica kunne takket være skrab af Facebook-data sikre en en-til-en markedsføring af valgpropaganda til de lettest påvirkelige, ud fra deres sympatier og antipatier.

Så længe vi kun tænker over udbytte kontra pris som individer, vinder de datadrevne firmaer

Jamen, er det nu så slemt det hele? Sådanne spørgmål blev rejst af moderatoren, journalist
Nynne Bjerre-Christensen, tidligere vært i DR2 Deadline. Hun forsøgte at udfordre Shoshana Zuboff i relation til folks udbytte af at bruge tjenester mod at afgive data. Vi opfatter det jo typisk, som om vi får fordele af handlen.

”Jeg kan jo se, hvad jeg får. Jeg har ingen mulighed for at se prisen for det,” sagde Bjerre-Christensen.

Svaret var, at så længe vi kun tænker over udbytte kontra pris som individer, vinder de datadrevne firmaer. For hvert lille stykke data, der opsuges fra den enkelte, uanset om det er direkte afleveret eller aflæst på anden måde, indgår i træningen af modeller til forudsigelse på en række forskellige områder. Modeller der med hvert enkelt bidrag fra enkeltmennesker bliver klogere på mennesker og dermed også på din nabo, foruden selvfølgelig på dig selv.

”Det med målrettede reklamer var bare starten for dem. Vi ville have dig som kunde. Nu lærer vi, hvorledes vi straffer dig og belønner dig ud fra data om din opførsel,” sagde Zuboff og fortalte om en længere snak med en ven.

Spiondims gav lavere bilforsikring

Prisen på hans bilforsikring gik op og ned real time, mens han kørte, ud fra observationer af hans blik og alskens andet, fanget af en lille boks fra forsikringsselskabet. Princippet var følgende: Installer dimsen som start på at få en billigere forsikring, og jo mere opmærksomt du kører, jo mere falder forsikringspræmien. Forsikringsselskabet styrede dermed hans opførsel, mener Zuboff, der også havde givet vennen andre eksempler.

”Spørg dig selv, om det er samfundet, du vil leve i eller i et frit samfund, hvor usikkerhed er et element der anerkendes og accepteres. Vi har jo værktøjerne dertil, for eksempel tillid mennesker imellem, love, regler, normer og værdier.”

Vennen endte med at returnere overvågningsdimsen.

Svigter ved de største udfordringer

Men ligefrem ødelæggelsen af demokratiet? Hvad baserede professoren den påstand på, spurgte Nynne Bjerre-Christensen.

”På den korte bane kan digitaliseringen berige og lette vores liv, men det kan være helt afgørende for samfundsudviklingen, at vi får brugt den til at håndtere udfordringer såsom i klimaet, sundhed, uddannelse.”

Det mener hun ikke, techgiganterne gør, selv om de, om nogen, har ressourcerne til at kunne gøre det i form af computerkraft, datakapacitet, dataloger og andre eksperter. Men de vælger at fortælle os, hvad de gør for hver af os, mener hun med henvisning til en reklame. Googles budskaber er blandt andet, at de hjælper dig med at finde vej, sige hallo på et fremmed sprog og oplyse om navnet på den 21. præsident.

For enøjet?

Her blev det for enøjet for mig, for jeg ved dog, at Google har postet millioner af dollars ind i forskning i, hvorledes der via kunstig intelligens kan fanges tegn på øjensygdomme hos diabetikere, lang tid før sygdommene normalt kan opdages. Der skrives også en del om techfirmaers arbejde med kunstig intelligens i relation til cancer, men jeg har godt nok ikke rigtig set noget hverken i relation til sult eller klima fra techgiganterne. Det kan jeg så have overset.

Løbet med privatlivets fred er imidlertid kørt, synes Zuboff at mene.

”Vi vil aldrig vide, hvad de har om os. Det kommer aldrig frem, heller ikke under GDRP [EU’s databeskyttelsesforordning, red.]. Det er deres helt egne, ejede data, en skyggeverden, der aldrig vil være til rådighed for os,” sagde hun.

Al den tale, der p.t. er om, at borgerne skal eje egne data, er ifølge Zuboff lidt til grin og også derfor støttet af it-selskaberne. De data udgør en ganske lille del. Den reelle viden om os ligger i de millioner af modeller, der løbende videreudvikles, påpeger hun.

Efter konferencen måtte jeg fundere over, om jeg blev forført af Shoshana Zuboff, fordi jeg hørte, hvad der bekræftede mit generelle sortsyn på, hvad der tegner sig – altså grundet ”confirmation bias.”

Alternativer mangler

Jeg bruger godt nok selv visse af overvågningskapitalisternes værktøjer, omend jeg er såre nøjsom med at downloade apps, slå placering til på mobilen, og dele ting fra privatlivet. Men bekymret er jeg, ikke mindst, når jeg læser historien om, at 11.000 danske læger bruger en Facebook-gruppe, hvor de både lægger personfølsomme data om patienter i, og hvor nogle idioter blandt lægerne gør grin med patienter.

Noget er forsømt i deres uddannelse, og i deres egen opmærksomhed overfor minusser ved de sociale medier. Snotdumt er det. Skadeligt. Men det afslører også, at lægerne åbenbart mangler en alternativ platform, og den slags fastholder – også alle os andre. Men hvorfor er der ikke i det konkrete tilfælde en sikker, letanvendelig offentligt ejet platform, hvor for eksempel svær diagnosticering kan drøftes læger imellem?

Måtte de 11.000 læger få læst nærmere på Zuboffs beskrivelser af overvågningen. Ikke, at professoren er sandsigersken over alt. Der ses jo flere kloge mennesker, som piller i hendes argumenter.

Kritik af Zuboff

Herhjemme har Mikkel Thorup, idéhistoriker og professor MSO i markedskultur ved Aarhus Universitet, fx pirket til Zuboff påstande i bogen om, at den store usynlige magt er noget helt nyt, og det gjorde han i Information.

Flest ord med kritik, i alt 16.500 ord, kommer dog fra videnskabshistorikeren Evgeny Morozov. Han er født i Hviderusland, har forsket i USA og har gennem mange år været bosat der. Hans egen mest kendte bog er fra 2011 og har titlen Net Delusion: The Dark Side of Internet Freedom.

Morozovs kritik af hendes bog fremgår af et indlæg i netmediet The Baffler med overskriften ”Capitalisms New Clothes”.

Halvvejs nede i teksten, er man i hvert fald ikke i tvivl om, at Morozov mener at have læst alt, der skal læses om kapitalismen, men at Shoshanna Zukoff ifølge ham enten ikke har eller har glemt det. Jeg selv opgav at læse færdigt. På Twitter koger han dog sin kritik af bogen ned til følgende:

Noget af et hold-kæft-bolche.

Om den tidligere Harvardprofessor med bogen er kravlet for langt ud i ”Ulven kommer” for at øge sin i forvejen store kendthed og indtjeningsmulighederne, er jeg ude af stand til at vurdere, selv om det ikke ville være første gang at prominente akademikere gør det.

Men tankevækkende viden bød hun på, og her endnu et eksempel:

Succesen for Pokémon Go

Det handler om spilappen Pokémon Go, downloaded og brugt af mange hundrede millioner mennesker verden over. Jeg har ikke selv leget med appen, men fulgte på nettet begejstringen over spillet, hvor man leder efter små Pokemon-figurer ude i virkeligheden, på gader og stræder, i parker og alskens andre steder.

Spillet benytter sig af mobilens GPS, altså lokationspræcisering, og såkaldt ”augmented reality” – ændret realitet. De små figurer ”klistres” ovenpå mobilkameraets videobillede, når det rettes mod rette sted. Forældre i massevis fortalte på nettet og i aviser om, hvor sjovt det var at gå på jagt med ungerne, og hvor herligt det var, at ungerne endelig fik rørt sig.

Bag Pokémon Go står firmaet Niantic, etableret af John Hanke. Den mand stod i mange år i spidsen for Google’s Geo-division, som omfatter Google Earth, Google Maps, StreetView med videre.

Niantic startede i 2010 som en del af Google, og blev i 2015 et selvstændigt selskab med millioner af dollars fra Google, Nintendo og Pokémon i ryggen. Og indtjeningen gælder ikke blot apps og tilkøb via appen.

Kom indenfor hos McDonalds

”Niantec blev betalt af etablissementet som for eksempel af McDonalds og Starbucks for at få footfall, fødder ind i forretningen. Lidt som teknikken til at få klik igennem, men hvor det var fingre på tastaturet, der gjorde the walk. Såkaldt gamification blev brugt til at lokke fødderne indenfor,” fortalte Shoshana Zuboff.

Hun specificerede ikke, hvilke data om børnenes, de unges og forældrenes færden, der gik videre til modellerne hos Google. Men smart er det at lade børnene trække læsset med at skaffe data, så Googles modeller om menneskers opførsel kan fodres med milliarder af små person- og stedrelaterede data.

Kendte du til Google medejerskab af Niantec og dermed Pokémon Go?

Næste mål er byerne

Ifølge Shoshana Zuboff gælder næste information warfare, som hun kalder det, fra Googles side, byer. Google vil hjælpe med at lave såkaldte Smart Cities, og Google kommer til at vide mere om byens, end byen selv gør, takket være de enorme tech-ressourcer. Det sker dog ikke under navnet Google, men Sidewalk Labs, der blandt andet er i gang i Toronto.

Herhjemme har Københavns kommune indledt et samarbejde med Google om kortlægning af luftforureningen i byen. En gratis håndsrækning til samfundet, fortalte Googles danske direktør. Ikke alle er enige, som det fremgår af et indlæg i Altinget.

Der findes som bekendt ingen “gratis frokost”.

PS: Hjemme igen fra konferencen dumper der en mail ind om IT Branchen, en forening der er talerør for tech-giganterne og andre it-selskaber. Foreningens udvalg for ”offentlig digitalisering” har i 2019 især fokus på at få ”fjernet juridiske, etiske og tekniske barrierer for bedre anvendelse af data”. De juridiske barrierer? Der skal nok være knaster visse steder, der skal høvles af. Men under udvalgets 2019-indsatsområder står intet, der peger på, at der også burde være behov for øget fokus på overholdelse af gældende lovgivning, ikke mindst om privatlivets fred. Teleovervågningen er ulovlig, ligeså er forsøg på profilering af borgere. Senest blev en sådan tilmed forsøgt listet ind i ny lovgivning, helt uden om kontrolinstansen, Datatilsynet, som beskrevet her i Politiken.


Topfoto: Dorte Toft.

Dorte Toft er journalist og forfatter. Hun indledte sin karriere som programmør, tog siden journalistudddannelsen, men fastholdt i sit mangeårige virke som journalist interessen for teknologiudviklingen.

I disse år er fokus især på kunstig intelligens, robotter, der skal færdes blandt mennesker, samt overvågningstruslen. Blandt de øvrige fokusområder kan nævnes svindel, chikane via nettet samt køn - også i relation til uddannelsesvalg og fordomme.

Toft har på CV'et blandt andet Dagbladet Børsen, Berlingske, Computerworld og DR, men hun har desuden mange års erfaring fra den "anden side af bordet." Gennem de seneste 15 år har hun været selvstændig, og blandt kunderne var Berlingske, hvor hun gennem 10 år førte bloggen Bizzen. Den opdateres dog ikke længere, men er stadig søgbar, hvilket ikke kun skyldes dækningen af teknologiudvikling og IT-politik, men også afdækningen af flere erhvervshistorier. Nogle erindrer måske, at bloggen var et væsentligt redskab, da Dorte Toft pustede Stein Bagger i nakken.

Dorte Toft er medforfatter til bøgerne ”Bedrag – IT Factory, grådighed og magtsyge” og ”Lykkelig i Nørdland – Hvem bygger fremtiden?”. Begge udkom på Gyldendal i 2009. En lille bog med titlen "Magtkampens A-Z", skrevet under pseudonym, er det også blevet til.

Del gerne hendes indlæg, hvis du finder det interessant nok.

Seneste artikler om Digitalt