algoritmer

Kan algoritmer være racistiske?

i POV Business/Digitalt af
INNOVATION // POV BUSINESS – Om få år er algoritmer med til at afgøre, hvilke produkter, virksomhederne udvikler. Derfor er det hamrende vigtigt, at vi begynder at diskutere algoritmers gennemsigtighed og beslutningsgrundlag lige nu. Det siger professor i innovation, Alf Rehn fra SDU, der forklarer, at en algoritme ikke ‘er’ noget, men hvis ikke vi forholder os til, hvilke kriterier, vi lægger ind for dens arbejde, kan vi reproducere f.eks. klichéer og fordomme.

Det er algoritmer, der fodrer vores hjerner på sociale medier. Algoritmer styrer også aktiemarkederne og træffer beslutninger om, hvilken behandling vi skal tilbydes på hospitalerne. Snart er de også med til at beslutte hvilke produkter, der udvikles.

“Der er sat et algoritme-kapløb i gang. Alle store virksomheder taler om det. Jeg siger, at om fem år vil store virksomheders beslutninger vedrørende innovation og investeringer være støttet af algoritmer og kunstig intelligens”, siger professor Alf Rehn fra Institut for Teknologi og Innovation.

Han er med i projektet ’Algoritmer, Data og Demokrati’, hvor forskere har modtaget 100 millioner kroner fra VILLUM FONDEN og VELUX FONDEN til at undersøge, hvordan kunstig intelligens påvirker demokratiet.

I takt med, at algoritmerne bestemmer mere og mere, er det vigtigt at diskutere de datasæt, vi putter ind i algoritmerne

“Vi taler meget om dark data. Når vi bruger Google, ved vi ikke, hvilke datasæt Google bruger for at finde de rigtige informationer.”

Det er dark data, og i takt med, at algoritmerne bestemmer mere og mere, er det vigtigt at diskutere de datasæt, vi putter ind i algoritmerne og deres gennemsigtighed, understreger han.

Algoritmer
“Det er mennesker, der styrer det datagrundlag, som algoritmerne træffer beslutninger ud fra, derfor er det hamrende vigtigt, at vi diskuterer algoritmers gennemsigtighed og beslutningsgrundlag,”. Alf Rehn er professor og på SDU’s afdeling for teknologi og innovation. Billede fra SDU.

Legetøj til hvide mænd

Som professor i innovation er Alf Rehn bekymret for, at vi går glip af vigtig udvikling, når algoritmerne skal grovsortere projekterne. Hvis vi ikke er meget bevidste om egne blinde vinkler i de data, vi klæder algoritmerne på med, ender vi med at reproducere flere af de produkter, vi i forvejen har.’

“Vi kalder det innovation bias. Hvis algoritmerne tænker: Vi har altid udviklet legetøj til Alf, så nu fortsætter vi med at udvikle ting til Alf, så er der mange mennesker i verden, som ikke nyder godt af denne innovation”, siger Rehn, som selv er en 48-årig højtuddannet hvid mand.

Han peger på, at langt størstedelen af udviklingen i dag sker for at tilfredsstille en minoritet: nemlig den privilegerede midaldrende vestlige mands behov for underholdning og for ikke at blive for tyk eller tabe håret. Samtidig dør over 700.000 børn af diarré hvert år.

Hvis algoritmerne ikke forstår de store problemer i verden og fortsat udvikler legetøj til mig, giver det globale demokratiske problemer

“Hvis algoritmerne ikke forstår de store problemer i verden og fortsat udvikler legetøj til mig, giver det globale demokratiske problemer.”

“Det er mennesker, der styrer det datagrundlag, som algoritmerne træffer beslutninger ud fra, derfor er det hamrende vigtigt, at vi diskuterer algoritmers gennemsigtighed og beslutningsgrundlag, før de bliver låst fast,” påpeger professoren.

algoritmer investeringer
Om få år vil investeringer blive valgt på baggrund af algoritmer. Foto: Gerd Altmann fra Pixabay

Er algoritmer racistiske?

Et forskningsresultat fra MIT Media Lab er blot ét lysende eksempel på, at algoritmer ikke er klogere end det datasæt, de bliver trænet med.

Efter at have undersøgt en bred vifte af ansigtsgenkendelsesteknologier kunne forskere i 2018 konkludere, at teknologierne havde meget lettere ved at identificere en hvid mand end nogen anden kombination af hudfarve og køn.

Det samme gjorde sig gældende, da Google i 2015 måtte undskylde, fordi en algoritme kategoriserede billeder af mørke mennesker som gorillaer.

“Det er ikke fordi algoritmen er racist, men algoritmen kommer til at reproducere de ubevidste bias, som de mennesker, der udvikler algoritmerne, har.”

“Hvis vi ikke forstår algoritmens begrænsninger, så er der risiko for, at vi mister en hel gren af udvikling, fordi algoritmen er programmeret til at fortætte med at udvikle legetøj til Alf”, forklarer Alf Rehn og fortsætter:

“Jeg siger ikke, at det hele bliver meget værre med algoritmestyret innovation. Faktisk har vi en gylden mulighed for, at det bliver bedre, men det sker ikke af sig selv”.

“Det sker kun, hvis vi er bevidste om blinde vinkler og forholder os kritisk omkring de data, vi fodrer algoritmen med. Hvis det lykkes, er der mulighed for, at algoritmer vil træffe bedre valg, end de valg mennesker træffer i dag.”

LYT TIL PROFESSOR ALF REHN HER:


LÆS MERE OM INNOVATION OG KUNSTIG INTELLIGENS HER


    FAKTA OM PROJEKTET:
  • Projektnavn: Algoritmer, Data og Demokrati
  • Projektpartnere: Københavns Universitet, Aalborg Universitet, Copenhagen Business School, DPU, Aarhus Universitet og Syddansk Universitet. Projektet ledes af professor Sine Nørholm Just fra Roskilde Universitet
  • Bevilling: VILLUM FONDEN og VELUX FONDEN har som en del af jubilæumsaktiviteter i 2021 besluttet at bevilge 100 millioner kroner til projektet
  • Projektperiode: 10 år.

Artiklen har været bragt hos SDU først. SDU er en af POV’s mediepartnere. Du kan læse originalen her.

Topillustration: Det er vigtigt at diskutere, hvad algoritmer styrer efter. Ellers forstår vi ikke den teknologi, der i stigende grad har indflydelse på vores alles valg. Billede fra Pixabay.

Facebook kommentarer

Modtag POV Weekend, følg os på Facebook – eller bliv abonnent!

Hold dig opdateret med ugens væsentligste analyser, anmeldelser og essays i POV Weekend – hver fredag morgen.
Det er gratis, og du kan tilmelde dig her Pil mod højre

POV er et åbent og uafhængigt dansk non-profit medie.
Har du mulighed for at bidrage til vores arbejde? Bliv abonnent her Pil mod højre

Birgitte Dalgaard er uddannet journalist og arbejder på det Tekniske Fakultet, Syddansk Universitet.

Seneste artikler om POV Business