KOMMENTAR // POV BUSINESS – På it-fronten ses en tendens til at skyde gråspurve med kanoner og til at tro på, at Big Data er neutrale, men det holder ikke, også fordi fordomme smitter. Journalist Dorte Toft fortæller om en bog, der kigger kritisk på Big Data og kunstig intelligens. Uddrag af artiklen har tidligere været bragt i Prosabladet.
Dette indlæg er udtryk for skribentens holdning.
Alle holdninger, som kan udtrykkes inden for straffelovens og presseetikkens rammer, er velkomne, og du kan også sende os din mening her.
Et nyt begreb, Big Dick Data, er værd at notere sig. Det er tale om et akademisk begreb, som især gælder promoveringen af Big Data ud fra, jo flere data, jo mere it, jo bedre. Lidt i familie med pissoirtjekket af, hvem der har den største.
Personen, der betaler for Big Data-projektet, gøres til den mest fremsynede i dronningeriget. I hvert fald implicit af dem, der sælger teknologien ind, hvad enten de er konsulenter, techgiganter eller forskere.
Begrebet Big Dick Data har været savnet. Bare tænk på, da McKinseys gutter fik gjort skiftende skatteministre til kejserne, der intet tøj havde på. Politikerne blev fortalt, at de med centralisering og nyt, komplekst it-system ville kunne fyre tusindevis af ansatte i Skat og alligevel blive langt mere effektive.
Skats Big Dick-projekt har kostet milliarder i tabt skat. Det var åbenbart baseret på en grandios regnearksprognose renset for erkendelse af, at erfarne skattefolk er alle pengene værd
Bag begrebet Big Dick Data står lektorerne C. D’Ignazio, MIT ved Boston, og L. Klein, Emory University i Atlanta, og det lanceredes i deres bog Data Feminism fra 2020.
Frækheden i begrebet bruges på sædvanlig amerikansk vis som maddingen, journalister bider på. Men det udgør en smuk metafor.
Skats Big Dick-projekt har kostet milliarder i tabt skat. Det var åbenbart baseret på en grandios regnearksprognose renset for erkendelse af, at erfarne skattefolk er alle pengene værd, og præget af blind tiltro til, at centralisering altid er lig øget effektivitet.
Politikerne ignorerede varsler
Politikerne havde tilsyneladende heller ikke høje tanker om disse offentligt ansatte og ignorerede varsler om, at det ville blive lettere at snyde. Hvor skidt det gik, fremgår af en ældre artikel i Berlingske.
I sig selv er Big Data kun betegnelsen for enorme mængder data samlet systematisk på kryds og tværs af nutid og datid samt på tværs af interne og eksterne it-systemer.
I disse år lyder løsningen på alskens udfordringer at kombinere Big Data og kunstig intelligens. Skal der identificeres dårlige forældre, er det anbefalingen. Ligeså, når der skal spares, forudsiges kriminalitet og udvikles mirakelmedicin. Terrorisme kan elimineres, og borgerne skal bare forstå, at Big Data og kunstig intelligens med fokus på hver og en af dem er vejen til ”mere frihed”.
Realisering af våde drømme
Det, der sker i disse år, er realiseringen af våde drømme hos kontrolfreaks og andre med grundlæggende mistillid til mennesket.
Techbranchens lobbyister får politikere til at bide til bolle, hver gang det nyeste nye præsenteres som løsningen. Også direktioner i private koncerner forføres til at købe det nye, komplekse, selv om flere med fordel kunne have nøjedes med noget enklere, billigere og mindre risikabelt.
Menneskers fordomme kan smitte Big Data og forstærkes
Bogen Data Feminism kommer dog også ind på et andet emne, og det er, at man skal passe på med at stole på kombinationen af Big Data og kunstig intelligens.
Data er ikke altid neutrale, men præget af virkeligheden nu og historisk, af hvilke data der er overrepræsenteret i forhold til virkeligheden, og hvilke der er underrepræsenteret. Menneskers prioriteringer og fordomme har smittet af på Big Data og er blevet forstærket.
Kendt er for eksempel, at ansigtsgenkendelse er mest præcis, når det gælder hvide mænd, og fejler allermest, når det gælder ikke-hvide kvinder, hvilket for de fejlidentificerede kan få alvorlige konsekvenser.
Talegenkendelse fejler mindst, når hvide mænd taler. Kendt er desuden kønsstereotypers forstærkelse, når der udføres automatisk oversættelse af tekst fra et sprog til et andet.
Et ældre eksempel på, hvorledes hudfarve spiller en rolle, er den automatiske sæbedispenser, hvis “øje” – sensoren – kun udløste sæbe over hvide hænder. Gæt udviklernes hudfarve.
I bogen fortælles også, hvordan racefordomme er sluppet ind visse steder i politiets- og retsvæsenets støttesystemer i USA og forstærket af den kunstige intelligens.
Der mangler nogen, der undres
Men problemerne ligger ikke kun i de Big Data, som den kunstige intelligens oplæres på. De ligger også i, at der mangler nogen, der undres og råber gevalt i tide – hos opgavestiller og hos udvikler- og testgrupper. Der mangler diversitet.
Forfatterne håber med bogen Data Feminism at bidrage til, at fremtidens systemer hverken spejler fordomme eller forstærker dem, og at de på alle områder er etisk forsvarlige. Et håb er også at få sat en stopper for at skyde gråspurve med kanoner, altså Big Dick Data-projekterne. Et interview med en af forfatterne kan i øvrigt høres via et podcast fra IDA (Ingeniørforeningen).
Bogen, der kan læses gratis her, er især rettet mod akademia, men selv om den var skrevet i pixi-bogformat og uddelt gratis på alle ledelsesgange, ville det næppe ændre biz as usual. Der er for mange penge og for megen prestige i at fortsætte, og problemerne derved fejes for let under gulvtæppet, når det ikke ender katastrofalt. Som hos Skat. Intet gulvtæppe var stort nok.
LÆS MERE I POV AF DORTE TOFT HER.
Om blandt andet overvågningskapitalismens farlige fristelser,
de sadistiske trolls på nettet og de såkaldte deep fakes
Topillustration: BTH
Modtag POV Weekend, følg os på Facebook – eller bliv medlem!
Hold dig opdateret med ugens væsentligste analyser, anmeldelser og essays i POV Weekend – hver fredag morgen.
Det er gratis, og du kan tilmelde dig her 
POV er et åbent og uafhængigt dansk non-profit medie.
Har du mulighed for at bidrage til vores arbejde? Bliv medlem her
