Fra Cambridge til Christiansborg – hvorfor er vi ikke blevet klogere?

af i Danmark/Internationalt/Politik & Samfund

FV-2019 // DATABEHANDLING – For kun et år siden var vi vidne til Cambridge Analytica-misæren, den største skandale indenfor databehandling og sociale medier nogensinde. I denne uge blev Socialdemokratiet og Venstre kritiseret for at målrette politiske annoncer på Facebook. Kan man sammenligne de to sager? Og hvorfor er vi ikke blevet klogere?

I foråret 2018 bragte The Guardian en række artikler med ”whistlebloweren” Cristopher Wylie. Wylie havde i en årrække arbejdet for analysefirmaet Cambridge Analytica og her været med til at designe et værktøj, der kunne målrette annoncer på nettet. Det var ikke nødvendigvis et ulovligt værktøj. Men det var etisk problematisk, da det brugte data indsamlet på tvivlsom vis, og fordi det kunne bruges til at målrette indhold til brugere, som algoritmen udpegede til at være ekstra lette at manipulere med.

Wylies værktøj blev blandt andet købt og brugt af Steve Banons Trumpkampagne ved det amerikanske præsidentvalg og af Leave-kampagnen i forbindelse med Brexit-afstemningen. Om det havde betydning for de to valg, er umuligt at afgøre. Men da skandalen først rullede, havde det i hvert fald afgørende betydning for tilliden til Facebook og for firmaets aktiekurs, der styrtdykkede. Cambridge Analytica måtte dreje nøglen om.

Socialdemokratiet og Venstre udnytter, at Facebook har dataene til at profilere sine brugere og identificere hvem, der er partiernes potentielle vælgere

Tirsdag i denne uge bragte DR nyheden om, at Socialdemokratiet og Venstre bruger målrettet annoncering på Facebook i forbindelse med Folketingsvalget. De adspurgte eksperter i data- og medieret vurderede, at denne praksis er i strid med loven. Partierne og Facebook frikendte imidlertid sig selv. Så hvad er op og ned?

De to sager har visse lighedspunkter. Men er de virkelig ens? Det kræver et lidt nærmere blik på de konkrete sager og på målretning og profilering generelt. Lad os starte med det sidste.

Profilering udgør en dataetisk problemstilling

Profilering og målretning er en ældgammel metode, der søger at indsnævre en målgruppe baseret på forskellige kendte oplysninger. Tænk fx på en nakkefoldsskanning. Længden af et fosters nakkefold afslører en del af sandsynligheden for en række genetiske problemer, især Downs Syndrom. Ved at kombinere med andre data som moderens alder, blodprøvesvar og familiehistorik, beregner man en statistisk sandsynlighed for, om fosteret kunne være ramt af en sådan udfordring.

På baggrund heraf kan forældrene vælge at få foretaget en fostervandsprøve. Denne prøve udgør nemlig en risiko for spontan abort. Hvis sandsynligheden for en defekt er meget lille, vil man som regel ikke løbe den risiko. Således hjælper profileringen med at indsnævre tilbuddet om fostervandsprøve til en målgruppe, hvor det er særlig relevant.

Ifølge persondataforordningen (GDPR) må ingen behandle og bruge persondata om politisk tilhørsforhold uden klart og informeret samtykke. Facebook behandler imidlertid denne data uden skrupler. Socialdemokratiet og Venstre bruger den

Endnu mere lavpraktisk kan man kalde det begrundede fordomme. Hvis vi har oplevet bestemte egenskaber eller adfærd blandt individer, der deler karakteristika, vil vi som udgangspunkt forvente samme egenskaber og adfærd hos andre med tilsvarende karakteristika. Er tre ældre brødre i en familie kendt som skolens ballademagere, vil den fjerde bror garanteret blive mødt med negative forventninger. Han vil blive profileret som endnu en mulig ballademager, og en del af gårdvagternes opmærksomhed vil blive målrettet ham.

Som læseren allerede har gennemskuet, kan profilering altså bruges til både meget godt og meget skidt. På den ene side kan man målrette ressourcer, så de gør mest gavn. Men der er også store muligheder for at diskriminere og forskelsbehandle. Mange gange begge dele samtidig, for mens nakkefoldsskanninger kan forhindre unødige fostervandsprøver, har de også betydet, at der i dag stort ikke bliver født børn med Downs Syndrom. De er blevet valgt fra. Forståeligt nok har det fået en masse mennesker, der lever med Downs Syndrom til at overveje, om de også ville være blevet valgt fra, havde deres forældre haft muligheden.

Som sådan udgør profilering en særlig dataetisk problemstilling, der i mange år stod i skyggen af emner som datasikkerhed og overvågning. Men Cambridge Analytica-skandalen bragte den frem i lyset.

Algoritmer er ikke objektive og fordomsfrie

Digitaliseringen har nemlig åbnet for helt nye muligheder. Og det både i den offentlige og den private sektor. I det offentlige bruger man fx data til at identificere borgere, der skal kigges særlig efter i sømmene. Det kan handle om mistanke om socialt bedrageri eller vanrøgt af børn. Tidligere var det en menneskelig og faglig vurdering, hvem der skulle undersøges nærmere. Med dataværktøjer kan man være langt mere præcis i denne udvælgelse. Et andet mere jordnært eksempel er stikprøvetagning i toldvæsenet, hvor Skat til stadighed forsøger at gennemskue, hvilke pakker der skal åbnes for at afsløre svindel. Noget, som før i tiden var overladt til toldernes ”næse”.

At skadeeffekten er på samfundsplan og ikke individplan, gør det ikke mindre alvorligt

Udfordringen er, at algoritmer ikke er objektive og fordomsfrie. De kan sagtens diskriminere. Bor du i et område eller deler efternavn med mange, som laver socialt bedrageri, vil algoritmen sandsynligvis pege på dig som potentiel bedrager. Men i modsætning til den menneskelige vurdering er der ingen, som kan holdes ansvarlige for denne forskelsbehandling, når det er en algoritme, der har foretaget den. Og så er det i mange tilfælde slet ikke til at forklare, hvorfor algoritmen peger netop på dig som potentiel social bedrager, børnemishandler eller smugler. Det kaldes ”black box problematik”, altså at man ikke kan gennemskue algoritmens bevæggrunde. Herved forsvinder en stor del retssikkerhed, ligebehandling og transparens i den offentlige forvaltning.

I det private handler det mest om at målrette reklamer og tilbud. Fx analyserer en række telefonselskaber dine data for at vurdere, om du er i farezonen for at skifte udbyder, så de kan komme dig i forkøbet og tilbyde dig en rabat. I det hele taget vil de fleste firmaer gerne identificere og målrette ressourcer mod de potentielle kunder, der kan erobres, samt de nuværende, der kunne tænkes at søge nye græsgange. Det er her, pengene ligger. Man behøver ikke spilde ressourcer på de kunder, man aldrig får, eller dem, man aldrig vil miste. Er du en meget loyal kunde, bliver du altså belønnet med ingen rabat.

Socialdemokratiet og Venstres udnytter Facebooks data

Taler vi om Facebook og Google – de to store datadistributører – er alt dette taget til et ekstra niveau. På grund af mængden af data, de har til rådighed. Fordi de ikke er blege for at bruge alt, hvad de kan få fingrene i. Og fordi de fleste mennesker stadig tror, at de er brugere, som modtager en service. Det forholder sig omvendt. Vi er produktet, som Facebook og Google sælger til annoncørerne.

Det er ikke kun din interaktion med de konkrete platforme, der bidrager til at skabe din profil, altså dine Googlesøgninger og dine likes, kommentarer, shares osv. på Facebook. Gennem cookies og en omfattende udveksling af data, kan stort set alt, hvad du foretager dig på nettet, bruges imod dig. Ikke mindst din købsadfærd og dine geodata, som en lang række apps konstant henter fra din smartphone og sladrer videre om. Din gmail og dine messengerbeskeder bliver scannet. Og hvis din adfærd ligner personer, der godt kan lide Venstre, vil du snart begynde at modtage reklamemateriale der skal skræmme dig fra at stemme Socialdemokratisk. Eller omvendt.

Når Mette…

SCOOP: Direkte billeder fra Mette Frederiksens kontor, mens hun prøver på at føre en stram udlændingepolitik med rød blok.

Posted by Venstre, Danmarks Liberale Parti on Tuesday, May 28, 2019

 

På den måde kunne Christopher Wylie og Cambridge Analytica identificere de allermest modtagelige grupper – sårbare om man vil – for politisk manipulation. Ud over data fra Facebook (hvor de snød sig til særlig adgang ved sige, det var til videnskabelige formål), brugte de en viral personlighedstest for at lokke ekstra oplysninger ud om folk for at optimere analysen. Men ellers brugte de såmænd bare de værktøjer, ethvert firma og politisk parti har til rådighed, når de åbner Facebooks annoncemodul.

Og således altså også Socialdemokratiet og Venstre. Og nej, ingen af partierne misbruger data fra Facebook i strid med Facebooks retningslinjer. Ingen af dem har lavet en fordækt personlighedstest. Men de udnytter, at Facebook har dataene til at profilere sine brugere og identificere hvem, der er partiernes potentielle vælgere. De udnytter, at Facebook bruger al sin viden om dig mod dig – både din adfærd på deres egen platform, fra de tonsvis af cookies der ligger på dine devises og hvad de udveksler med andre – til at gætte dit politiske tilhørsforhold, og om det er relevant at målrette indhold til netop dig.

Lovgivningen er ret klar. Ifølge persondataforordningen (GDPR) må ingen behandle og bruge persondata om politisk tilhørsforhold uden klart og informeret samtykke. Facebook behandler imidlertid denne data uden skrupler. Socialdemokratiet og Venstre bruger den. Og du har med statsgaranti ikke givet klart og velinformeret samtykke til nogen af parterne om, at det er i orden.

Facebook og partierne forsvarer sig

Facebooks forsvar består i, at data ikke længere er brugernes, når de først har beriget dem med de ting de har købt ude i byen, og behandlet det hele med deres egen algoritme. Så er det Facebooks data. Det er en argumentation, der er opfundet til at udskyde konsekvenserne af GDPR, men den holder ikke. Det er et spørgsmål om tid før en række europæiske domstole underkender denne praksis. Desværre sikkert lang tid. Og indtil da tjener Facebook gode penge ved at fortsætte som hidtil.

Partiernes forsvar består i, at Facebook har lovet, at alt er i orden, og at datatilsynet ikke har sagt andet. Men heller ikke det danske datatilsyn, som tirsdag lovede at gå ind i sagen, kan komme til anden konklusion end, at det er ulovligt, hvad der sker. Men det gør de helt sikkert ikke før 5. juni.

Synes vi, at det er i orden – etisk set – at Facebook og politiske partier bruger vores digitale adfærd til at manipulere med os?

Andre vil fremhæve, at der slet ikke at tale om persondata, da platformene ikke interesserer sig for enkeltindivider, men bare store målgrupper og aggregerede tal. Det er naturligvis heller ikke holdbart. Selvfølgelig er det ulovligt at bruge data, afgivet i god tro, uden samtykke og uden vidende for at profilere dig, uanset om det bare er for at placere dig anonymt i en målgruppe. Det er stadig persondata, og der er stadig en mulig skadeeffekt. At skadeeffekten er på samfundsplan og ikke individplan, gør det ikke mindre alvorligt.

Og: Uanset hvad juristerne siger og hvor længe det skal tage, så bør vi stille os selv dette spørgsmål: Synes vi, at det er i orden – etisk set – at Facebook og politiske partier bruger vores digitale adfærd til at manipulere med os? Er det ok, at et like på en vens opslag eller delingen af en artikel bliver brugt til at placere dig i en bestemt målgruppe? Er det ok at bestemte partier betaler for at få adgang til denne målgruppe – og for at undgå at reklamere overfor dem, der nok alligevel ikke kan manipuleres med?

Vi må tage stilling til dem der misbruger vores data

Forskellen mellem Cambridge Analytica-skandalen og de to største danske partiers brug af Facebook er klar nok. Det var selvfølgelig langt mere fordækt, beregnende og avanceret, hvad Chris Wylie formåede.

Men ligheden er også klar. Vores internetadfærd bliver (stadig) brugt til at manipulere med os af politikere, der hverken respekterer loven eller almindelig god opførsel. Uden vores samtykke og på trods af, at loven i mellemtiden er blevet skærpet med GDPR. Partierne ved godt, at den juridiske konsekvens først ligger efter valget, og det udnytter de. Men hvorfor, de ikke tager bestik af den etiske konsekvens – at være på kant med anstændighed og ordentlighed – undrer mig. Er de slet ikke blevet klogere af sidste års skandale? Frygter de ikke, at deres stemmetal kunne komme til at ligne Facebooks aktiekurs? Har de ingen respekt for deres vælgere? Har de ingen integritet?

Det er afgørende, at vi tager stilling til dem – virksomheder og politiske partier – der misbruger vores data for egen vindings skyld. Så vi på et oplyst grundlag kan afgøre, om vi også skal tage afstand fra dem

Målretning og profilering er en central dataetisk problemstilling, der i mange år har været overset. Men Cambridge Analytica-skandalen viste os, at bagsiden af databehandlingsmedaljen er ganske mørk. Vi har at gøre med værktøjer og muligheder, der kan bringe samfundet meget godt. Men absolut også rigtig meget ondt. Derfor er det afgørende, at vi tager stilling til dem – virksomheder og politiske partier – der misbruger vores data for egen vindings skyld. Så vi på et oplyst grundlag kan afgøre, om vi også skal tage afstand fra dem.


Foto: Screendump fra Venstres valgvideo

Povl Heiberg Gad er kulturhistoriker med speciale i nazisme og arkitektur og erhvervs-ph.d.-studerende ved CBS, Center for Business Data Analytics. Hans forskningsfelt er Big Data kombineret med kvalitative studier af medlemsvandringer i fagforeninger samt dataetik.

Seneste artikler om Danmark