Lussing til Wikipedia er lære for kunstig intelligens

i Digitalt/Kvinder/Viden af

KOMMENTAR//KØN – En kvindelig Nobelpristager var ikke fundet værdig til at få sit navn på Wikipedia. Det digitale opslagsværk er ”a man’s world”, ligesom udviklingen af den kunstige intelligens er det, skriver Dorte Toft. Hun advarer mod, at kvinders fravær fra skabelsen af den kunstige intelligens kan føre til misforhold imellem kønnene. 

Wikipedia fik en syngende lussing verden over i kølvandet på Nobel-prisuddelingen. Nobelpristageren i fysik, Donna Strickland, fandtes ikke. Nogen havde forsøgt, men indlægget af hende var blevet afvist. Hun var ikke ”kvalificeret” nok til en omtale, trods en række fornemme priser.

Mine tanker skred fra lussingen over til den kunstige intelligens. At opslagsværket Wikipedia har problemer i relation til køn er nemlig velkendt og velbeskrevet, men de tilsvarende problemer i kunstig intelligens i form af såkaldt machine learning er ikke så kendte.

Begge områder er mandedomæner, præget især af yngre mænd og ofte med gode IT-færdigheder.

Computerens system lærer af et kæmpeinput af data fra den virkelige verden, og derfor reflekteres også fordomme og vaner typisk. Skævheden bliver imidlertid langt mere skadelig end noget opslagsværk kan være, fordi den kunstige intelligens, og de beslutninger, den træffer, vil påvirke menneskers liv og muligheder langt mere.

Kvinder ligger som redt

Roden til problemerne med køn i den kunstige intelligens, gror i mine øjne fra det samme sted som Wikipedias. Begge områder er mandedomæner, præget især af yngre mænd og ofte med gode IT-færdigheder. Vendt 180 grader kan det siges, at kvinderne ligger, som de har redt, dog ”hjulpet” gevaldigt af mænd.

Det er kvinders store fravær fra skabelsen af Wikipedia, der medvirker til, at det går glat igennem at få omtale af en pornoskuespillerinde indskrevet på lige fod med en mandlig videnskabsmand, men derimod spænder ben for videnskabskvinder.

Opslagsværket er fortrinsvis skrevet af mænd, for mænd, om mænd og om mænds interesser. Vogterne i slusen for, hvad der optages, domineres af mænd (84 procent mænd i den engelsksprogede verden), og debatten om indlæg kan være afskrækkende rå – til tider kvindeforagtende.

Fysikeren Donna Stricklands mandlige samarbejdspartner, der også fik Nobelprisen, Gérard Mouro, har stået i Wikipedia siden 2005. Ingen havde forsøgt at få den tredje, Arthur Ashkin, med.

Forstørrelsesglas for fordomme

I Wikipedia som i det virkelige liv synes der at skulle flere meritter til for kvinder, end for mænd. Wikipedia bliver dermed et forstørrelsesglas for fordomme (ikke blot om køn). Den, der fører pennen, har sammen med vogterne i slusen den historiske magt.

Kvinders fravær fra skabelsen af kunstig intelligens bliver tilsvarende et forstørrelsesglas for kønsstereotyper. Det er især mænd, der står for, hvad kunstig intelligens skal bruges til, for de indledende algoritmer og for valget af de data, den kunstige intelligens skal oplæres på.

Problemet er allerede set i sprogteknologien. Senest fortælles danskerne, at Frances Arnold Frances, endnu en aktuel Nobelpristager, er en ”videnskabsmand” – Googles oversættelse af det kønsneutrale ord ”scientist”.

Ifølge Google oversættelse til dansk er dette en videnskabsmand. Frances Arnold får Nobelpris i kemi. Illustration: Niklas Elmehed. Copyright: Nobel Media AB 2018

Google er nok allerlængst fremme med sprogteknologi baseret på kunstig intelligens, men Google hænger fast i gamle normer for ”he, she og it”, så en oversættelse fra tyrkisk, hvor der er kønsneutral betegnelse, ender skævt. En læge bliver sat lig en mand, ligeså en advokat, en præsident, en skribent og meget mere.

Krig og sex

I de robotter, der især skal servicere og adlyde, om softwarerobotter som Siri eller i metal, køres også kønsstereotypisk. De skabes i det kvindelige billede.

Mænd prioriterer mænds forventninger og interesser. Det ses også ved udviklingen af militære dræberrobotter og sexrobotter.

Lad mig vove en påstand. Teknologi på sundhedsområdet, lige fra den administrative del, til diagnoser, til hjælpemidler, til analyser og hvad der ellers skal til, står mænd især for (der er jo masser af gysser i det).

…ifølge forskningen udtrykt i pixi-form, så lyttes der mere til mænd end kvinder, og viden fra kvinder betvivles i højere grad end viden fra mænd.

Havde der været en 50-50 kønsfordeling i prægning og udvikling, er mit gæt, at sundhedssektoren havde fået et kæmpespring frem til gavn for både patienter, sygehuspersonale og økonomi. Nu har sektoren i stedet stået i årevis i knæhøjt mudder af skåltaler om fantastisk IT til sundhedssektoren.

Men selv hvis kvinder engagerede sig på lige fod – i Wikipedia eller kunstig intelligens – ville der være problemer, for ifølge forskningen udtrykt i pixi-form, så lyttes der mere til mænd end kvinder, og viden fra kvinder betvivles i højere grad end viden fra mænd.

Når kvindehistorien skrives

Alligevel krydser jeg fingre for, at kvinder tager kampen op, inden det er for sent. Det koster. Det gjorde det også at sikre stemmeret, uddannelsesret, arveret og forældreret efter skilsmisse.

Overlader kvinder fortsat den kunstige intelligens til mænd burde det ende i de kvindehistoriske bøger, som måske det største svigt fra kvindeside nogensinde. Men det er jo lettere bare at klandre mænd for at have fejlet.

Jeg krydser dog også fingre for, at den større opmærksomhed som en del mænd efterhånden har over for skadevirkningerne af disse misforhold også slår igennem. Problemet er bare, at bevidstheden synes langt større uden for tech-branchen end i den, så vil den lytte, eller bliver det ved skåltalerne om fordelene ved diversitet?

Tegning: Niklas Elmehed. Copyright: Nobel Media AB 2018.

Dorte Toft er journalist, forfatter og halvpensionist. Hun kan ikke helt slippe arbejdet, men fik et puf i sommeren 2016, da Berlingske Business som led i sidste sparerunde opsagde det ti år lange samarbejdet om bloggen Bizzen (it og business). Berlingske holder dog Bizzen-bloggen søgbar, hvilket ikke kun skyldes dækningen af teknologiudvikling og it-politik, men også afdækningen af flere erhvervshistorier. Nogle erindrer måske , at bloggen var et væsentligt redskab, da Dorte Toft pustede Stein Bagger i nakken, men han er langt fra alene om den uønskede opmærksomhed. Dorte Toft begyndte sit arbejdsliv som programmør, men efter godt syv år tog hun journalistuddannelsen i Århus, hvilket hun kun sjældent fortryder. På hendes CV står bl.a. Berlingske, DR, Udenrigsministeriet, KMD, Computerworld og Dagbladet Børsen. Hun er medforfatter til bøgerne ”Bedrag – IT Factory, grådighed og magtsyge” og ”Lykkelig i Nørdland – Hvem bygger fremtiden?”. Begge udkom på Gyldendal i 2009. En lille bog med titlen Magtkampens A-Z, skrevet under pseudonym, er det også blevet til. Del gerne, hvis du finder det interessant nok. Og bidrag gerne via MobilePay på +45 31 21 07 30, hvis du finder det væsentligt nok.

Seneste artikler om Digitalt