DATA // NY BOG – “Algoritmer og koder træffer i stigende grad beslutningerne for os. Dette sker ofte, uden at vi er opmærksomme på det,” skriver lektor og ph.d. Finn Wiedemann fra Institut for Kulturvidenskaber på SDU. “Skal vi på baggrund af de nye teknologiske forudsigelser gribe ind i fremtiden og på den måde måske tilsidesætte individer og fagpersonernes valg og vurderinger? Og hvad nu vi hvis vi tager fejl?” Ifølge Finn Wiedemann må brugen af data aldrig blive et mål i sig selv og bør løbende diskuteres i et etisk, demokratisk og værdibaseret perspektiv. Artiklen er baseret på bogen “Hvor kommer lyset fra?”, som udkommer i dag.
Alt er data. Duerne på Toftegårds Plads og duften fra bageren er data, hedder det i en digtsamling, som forfatteren Lone Hørslev udgav for et par år siden. Aktuelt er det dog en anden slags data, der påkalder sig størst interesse, nemlig digitale data. Når det profetisk formuleres af virksomhedsledere og analysechefer, at data er olie, guld eller bacon, er det ikke duerne på Toftegårds Plads eller duften fra bageren, der tænkes på.
Ved hjælp af kunstig intelligens, maskinlæring og advanced analytics kan vi ikke blot dokumentere fortiden, men har også fået adgang til data i realtid, ligesom vi kan begynde at forudsige fremtiden
I forsøget på at slå mønt af data bliver analyseenheder nedsat i mange virksomheder og organisationer. Dataingeniører bliver ansat. Bøger og rapporter bliver udgivet, og kurser og uddannelser bliver udbudt, så den værdifulde dataolie kan udvindes.
Brugen af data repræsenterer et kvantespring
Især de sidste fem til ti år har vi ved hjælp af digitale teknologier fået adgang til og mulighed for at indsamle, analysere og bruge data på en anden måde, end det hidtil har været tilfældet. Det er ikke længere kun forbeholdt statistikere og sociologer eller folk med særlige forudsætninger.
I dag har langt flere aktører mulighed for at indsamle og bruge stadig større mængder data, f.eks. såkaldt Big Data. Ved hjælp af kunstig intelligens, maskinlæring og advanced analytics kan vi ikke blot dokumentere fortiden, men har også fået adgang til data i realtid, ligesom vi kan begynde at forudsige fremtiden.
Brugen af data repræsenterer således et kvantespring sammenlignet med tidligere, hvor vi blot kunne fornemme og diskutere os frem til afgørelser eller bruge vores skøn eller erfaringer. Nu har vi objektive data eller sikker viden for, om vi er på rette eller forkerte vej.
Oraklet fra Delfi
Hvilke elever risikerer at falde fra? Hvilken fodboldspiller har flest fremadrettede afleveringer, og bør der satses på? Hvilke børn er udsatte og måske i risiko for senere at blive tvangsfjernet og kræver omkostningsfuld hjælp og støtte? Hvilke produkter vil forbrugerne købe? Hvilke sygdomme er der risiko for, at borgerne udvikler?
Spørgsmålet er, hvem det er, der tager ilden fra os mennesker? Svaret er, at det blandt andet er de store techfirmaer, som leverer systemerne, og de dataingeniører, der koder og indbygger særlige algoritmer i dem
Vi får i stigende grad adgang til forudsigelser om fremtiden, som det ellers tidligere kun var mytiske væsener som Vølven fra nordisk mytologi eller oraklet fra Delfi, der var i stand til at spå om.
Prometheus-myten
Den græske Prometheus-myte handler om, at Prometheus stjæler ilden fra guderne, og giver den til menneskene. Det medfører, at Prometheus bliver straffet af guderne. Han bliver lænket nøgen til en klippe, og en ørn hakker i hans lever dagen lang. Hver nat vokser den ud igen, og ørnen begynder forfra næste morgen.
I nogle versioner af myten forbarmer guderne sig over ham, og Prometheus bliver sluppet fri. Myten er rent historisk blevet udlagt på forskellige måder. Men de fleste er nok enige om, at ilden, som Prometheus stjæler, repræsenterer varme og kraft og dermed også magt, ligesom den også repræsenterer det modsatte, nemlig destruktive kræfter, hvis den bliver sluppet fri og kommer ud af kontrol.
Hvem tager ilden fra menneskene
Spørgsmålet er, hvem det er, der tager ilden fra os mennesker? Svaret er, at det blandt andet er de store techfirmaer, som leverer systemerne, og de dataingeniører, der koder og indbygger særlige algoritmer i dem.
Nogle gange sker det i samarbejde med statslige institutioner. Det gælder f.eks. i udpræget grad i Kinas tilfælde. De store techfirmaer leverer ikke blot systemerne, de lover også, at de vil gøre hverdagen og arbejdslivet nemmere eller smartere for os. Sammen med systemerne formidler de en række forestillinger om, hvordan fremtiden skal se ud. Teknikken er ikke neutral, men repræsenterer normative forestillinger om, hvordan vores liv og den sociale verden skal se ud.
Algoritmer og koder træffer i stigende grad beslutningerne for os. Dette sker ofte, uden at vi er opmærksomme på det
Der er indbygget en grammatik eller en række forestillinger om viden, uddannelse, formidling, mennesker og samfund ind i de systemer og tekniske løsninger og algoritmer, vi bruger og støtter os til, som er med til at omforme vores virkelighed. Der er tale om læringsmaskiner, som den digitale uddannelsesforsker Ben Williamson med en reference til Foucault bemærker det.
Hvem ejer ilden?
Prometheus giver som bekendt ilden til menneskene, som dermed kan udfordre gudernes magt. Techgiganterne giver ikke ilden til nogen. De beholder den selv, så de kan drage nytte af den, ofte med et kommercielt formål for øje, men nogle gange også, som det er tilfældet for institutioners og staters vedkommende, med et kontrol- og magtperspektiv for øje, sådan som f.eks. Edvard Snowden og Shoshana Zuboff har beskrevet det.
I dag er vi alle underlagt digitale systemer, som vi sjældent har efterspurgt eller deltaget i udviklingen af. Algoritmer og koder træffer i stigende grad beslutningerne for os. Dette sker ofte, uden at vi er opmærksom på det. Indtil for nylig skete det også uden nogen videre offentlig og politisk debat. Det var nærmest en naturlov, vi ikke kunne stille noget op imod. Digitale systemer, løsninger og platforme dikterede udviklingen og drev samfundet frem.
Digitaliseringens omkostninger
Efterhånden står det klart for mange, at den digitale og teknologiske udvikling ikke kun er entydigt positiv, men at der også følger demokratiske, etiske, sociale og kulturelle omkostninger og problemstillinger med.
Det handler ikke kun om, hvordan data bliver brugt med et kommercielt eller kontrolperspektiv for øje, men også om at digitaliseringen ikke nødvendigvis giver os de muligheder, som vi måske alt for naivt forestillede os, og som den ene digitale bølge efter den anden har lovet os.
Skal vi på baggrund af de nye teknologiske forudsigelser gribe ind i fremtiden og på den måde måske tilsidesætte individer og fagpersoners valg og vurderinger?
Digitaliseringen har ikke entydigt bidraget til at udvikle demokrati, skabt nye fællesskaber eller forbedret og intensiveret mulighederne for f.eks. undervisning, læring, udvikling og ledelse. Virkeligheden viste sig at være mere kompleks, nuanceret og ambivalent, end de teknologibegejstrede udviklere og fortalere lagde op til.
Skal vi forudsige fremtiden?
I kraft af den teknologiske udvikling har vi fået en række nye muligheder for at inddrage data, f.eks. mulighed for at påvirke vores omgivelser på nye måder og forudsige fremtiden. Disse nye muligheder skal vi selvfølgelig benytte os af, men vi skal tænke os godt om, når vi gør det, ligesom vi bør have blik for de konsekvenser og omkostninger, der følger med udviklingen.
Den nye teknologi giver mulighed for at inddrage og bruge data på en mere indgribende og overvågende måde, end det hidtil har været tilfældet, hvilket giver anledning til forskellige etiske og demokratiske spørgsmål og problemstillinger. Fordi vi måske kan forudsige, at de studerende falder fra, skal vi så gøre det?
Hvem har så ansvaret for, at vores eventuelle rettigheder krænkes?
De første sager om de etiske problemer, som de nye muligheder giver, har da også for længst ramt medierne, f.eks. Gladsaxe kommunes ide om at sammenkøre databaser gennem en intelligent robot, så man kunne forudsige, hvilke børn der eventuelt var udsatte og ville få problemer senere hen. Et initiativ som en række andre kommuner også interesserede sig for, men som datatilsynet vendte tommelfingeren ned over for.
Brugen af data må aldrig blive et mål i sig selv
Skal vi på baggrund af de nye teknologiske forudsigelser gribe ind i frem
tiden og på den måde måske tilsidesætte individer og fagpersoners valg og vurderinger? Og hvad nu vi hvis vi tager fejl? Hvem har så ansvaret for, at vores eventuelle rettigheder krænkes?
Er det systemets skyld, udviklerne af systemet, eller dem som besluttede, vi skulle bruge det, eller som tolkede på de data, som systemet gjorde tilgængelige? Kan vi som borgeren gøre indsigelser over for en mulig profilering og kategorisering?
Endelig vil der altid være undtagelser. Masser af undtagelser.
Brugen af data må aldrig blive et mål i sig selv og bør kontinuerligt diskuteres på et normativt grundlag, dvs. i et etisk, demokratisk og værdibaseret perspektiv. Efterhånden som de teknologiske muligheder gør det muligt for os at indsamle, analysere og bruge data nemmere og hurtigere, vil vi i de kommende år løbende komme til at tage stilling til de nævnte spørgsmål.
“Hvor kommer lyset fra? – Data i uddannelse og ledelse” af Finn Wiedemann.
Udkommer 15. april på Syddansk Universitetsforlag.
LÆS ALLE FINN WIEDEMANNS ARTIKLER HER
Topillustration: Del af billede malet af forfatterens far, billedkunstner Jørgen Wiedemann.
Modtag POV Weekend, følg os på Facebook – eller bliv medlem!
Hold dig opdateret med ugens væsentligste analyser, anmeldelser og essays i POV Weekend – hver fredag morgen.
Det er gratis, og du kan tilmelde dig her 
POV er et åbent og uafhængigt dansk non-profit medie.
Har du mulighed for at bidrage til vores arbejde? Bliv medlem her
