Vil computere, klogere end os, udrydde menneskeheden?

af i Digitalt/Viden

DAGENS POV // KUNSTIG INTELLIGENS – Der var solidt gys på programmet under Forskningens Døgn. ”Kunstig intelligens: På vej mod apokalypsen?” lød overskriften for et arrangement, som journalist Dorte Toft overværede. De to debatterende forskere mener, at der kommer en superintelligens, der overgår menneskets. Journalisten er taknemmelig for, at hun vil være død forinden.

Bare rolig. Der går årtier, inden computere er så meget mere intelligente end os, at de sandsynligvis slår os ihjel. Med vores lavere intelligens vil vi jo være unyttige, ofte tilmed direkte skadelige.

Katastrofen lurer ikke lige om hjørnet, lød det fra to prominente universitetsfolk, der mødtes i en debat med overskriften ”Kunstig intelligens: På vej mod apokalypsen?” Arrangør var IT Universitetet, og anledningen var Forskningens Døgn i slutningen af april.

Hvad så med mennesker? Computerne vil muligvis betragte vores protoner som råmateriale, sagde Häggström

At begge forskere kan forestille sig en superintelligens var der ingen tvivl om.

”Man kan håbe på, at den kommer gradvis, for så står vi lidt stærkere, hvad angår at klare situationen, i modsætning til, hvis det sker virkelig hurtigt,” sagde Olle Häggström, professor i matematisk statistik ved Chalmers University of Technology og medlem af The Royal Swedish Academy of Sciences.

Menneskehedens mulige undergang blev diskuteret af lektor Thore Husfeldt (tv.) og professor Olle Häggström med Christiane Vejlø, programvært for Elektronista, som moderator. Foto: ITU.

Autonome dræbervåben

Men også den kunstige intelligens, der ses i den nære fremtid, kan få dystre konsekvenser, mente Olle Häggström. Allerede nu ses for eksempel et kapløb om udvikling af autonome våben, altså våben der identificerer og dræber uønskede mennesker på egen hånd.

Der vil måske vente os en såkaldt jobløs fremtid, hvor kunstig intelligens overtager store dele af arbejdet, hvis det sker uden at der skabes nok nye arbejdspladser i kølvandet på den nye teknologi.

Häggström bekymrer sig også over den aktuelle udvikling hen imod overvågningsstater – den, som ikke mindst Kina er i fuld gang med at realisere. Borgere overvåges – i den fysiske verden blandt andet via ansigtsgenkendelse, og i den virtuelle verden via deres brug af computere og mobiler.

Social karakterbog

Registreringerne føres ind i en ”social karakterbog” for hver eneste borger, og det er den, der løbende afgør om borgeren skal fratages rettigheder, tildeles flere eller fastholdes på samme niveau.

”Jeg håber, at Kina laver alle de forkerte beslutninger, så vi har eksempel på, hvor skidt det kan gå, så vi ikke selv går den vej,” lød det fra den anden debattør, Thore Husfeldt, lektor på IT-Universitetet i København og ekspert i algoritmer. Sådanne udgøres af matematiske modeller, hvilket også er den kunstige intelligens’ DNA.

Udtrykket superintelligens dækker, hvad der også kaldes generel kunstig intelligens, og det er den, der lægger sig op af menneskets, ikke den type vi ser i dag.

Nu har vi nemlig kun en såkaldt snæver kunstig intelligens, specialiseret inden for et nøje afgrænset område som for eksempel genkendelse af et foto, eller som planlægning af en rute fra A til B.

Der bruges masser af ”narrow artificial intelligence” allerede i dag, og mere er på vej blandt andet til analyse af røntgen- og MRA-scanninger som støtte for lægerne.

Men vores intelligens gør også, at kloden lider stadig mere af klimaændringer og forurening af luft, jord og vand, og en million arter er nu truet.

Den brede kunstige intelligens, der overstiger menneskets, ses også betegnet med ordet singularitet.

Menneskers intelligens er som bekendt den, der har bragt fantastiske opfindelser til verden til hjælp for menneskers muligheder for at få vand og mad og undgå sygdomme og som også har placeret mænd på månen.

New York Times om FN-rapporten, der fortæller om truslen mod en million arter – planter og dyr.

Men vores intelligens gør også, at kloden lider stadig mere af klimaændringer og forurening af luft, jord og vand, og en million arter er nu truet. Det er vores intelligens – eller mangel på samme – der gør, at sygdomme, der var udryddet, genopstår, grundet modstand mod vacciner, den, der gør, at antibiotikaresistens er ved at blive et livstruende problem. Og det er den menneskelig intelligens, der gør, at den ene procent af klodens befolkning, der ejer det meste, skal få endnu mere.

Om 20 eller 70 år?

En superintelligens vil ikke kunne være så kortsynet som mennesket, men hvornår får vi den? Der er masser af bud, fra om et par årtier til om meget længere. Meget få mener, at det aldrig vil ske – i hvert fald høres det sjældent.

”Der er dem, der siger, det er 50-70 år væk, men problemet med at få maskinerne til at tjene de gode intentioner, er så stort, at der skal arbejdes på det fra nu af,” mener Olle Häggström.

Men superintelligensen kan dog opstå pludseligt, tilføjer han. For eksempel, når et system bliver bedre end mennesker til at lave kunstig intelligens. Så laver det system nye, der bliver endnu bedre end den selv, og de maskiner laver nogle, der bliver endnu bedre. En accelererende spiral.

Hvad så med mennesker? Computerne vil muligvis betragte vores protoner som råmateriale, sagde Häggström.

Musk, Gates og Hawking advarede

Under debatten blev fremhævet nogle af de markante mænd, der ser en risiko for, at den kunstige intelligens løber amok. Manden bag Tesla-bilerne, Elon Musk, har advaret flere gange, men også Microsoft-medstifteren, Bill Gates, har udtalt en bekymring, ligeså den berømte teoretiske fysiker, Stephen Hawking, der døde sidste år.

”Skal der være en stopknap,” lød spørgsmålet til deltagerne i salen, og halvdelen rakte hånden op.

Piloterne på flyene havde angiveligt forgæves forsøgt at koble systemet fra – der var ingen stopknap.

På universitetsniveau arbejdes visse steder med et stopknap-koncept, men det er en svær opgave, fordi netop superintelligente computere selvfølgelig vil gøre alt for at lamme den knap.

Og selv i dag hænder det, at systemet tager magten. De to Boeing-fly, som automatikken fik til at styrte, blev nævnt. Piloterne på flyene havde angiveligt forgæves forsøgt at koble systemet fra – der var ingen stopknap.

Men lykkes det med en stopknap til at standse løbsk kunstig intelligens, hvadenten årsagen er i den selv eller påført af ondsindede, hvem skal så have magten over stopknappen, spurgte Thore Husfeldt, og han gav intet svar.

Se superintelligensen som en stat

Ifølge ham bør vi tænke på superintelligensen som en slags stat i sig selv.

”Vi mennesker fik efterhånden indført valg, men det tog os lang tid at finde ud af det, hvordan man slap for et regime, man var uenig med. Demokratiet er på sin vis kun til for at slippe for dem, der styrer staten, uden at dræbe dem,” sagde han.

Ifølge Husfeldt kan superintelligensen i øvrigt overflødiggøre valg, for med alle de data, der foreligger om hver enkel vælger og personens præferencer, vil systemet kunne forudsige, hvem der vælges.

Tankevækkende er hans udtalelse. Ikke mindst ud fra hvorledes data om folk er benyttet og benyttes til at påvirke valg. Valget af Donald Trump kom bag på hele verden, men ud fra de data, der allerede var høstet om folk via Facebook og andre steder, kunne valget måske have virket mindre overraskende.

Kan blive en spændetrøje

Thore Husfeldt ser en risiko for, at mennesker med masser af gode hensigter med den kunstige intelligens ender med at gøre det til en spændetrøje for individet. Det kan ende med at blive et overformynderi, et slut på at vælge, hvad man vil, om klogt eller ej.

Men tilbage til selve superintelligensen. Kan den oplæres, så den vil mennesket det bedste i stedet for måske at udrydde os? Sikre os mest mulig ”lykke”, selv om vores funktion i samfundet er forsvundet?

Nogle mener, at må indbygges etiske holdninger i den kunstige intelligens, lidt i retning af, hvad science fiction-forfatteren, biokemikeren Isaac Asimov, skrev i en novelle fra 1942.

Men hvad hvis klodens overlevelse, ikke menneskets, repræsenterer den højeste etik i et superintelligent system?

Asimov bød ind med tre love for robotter. Den første lov går på, at en robot ikke må skade et menneske, heller ikke ved at undlade at gøre noget. Den anden lov befaler robotten til at adlyde ordre fra et menneske, medmindre ordren strider mod første lov. Den tredje lov fortæller, at en robot skal beskytte sin egen eksistens, såfremt det ikke er i strid med hverken første eller anden lov.

Men hvad, hvis klodens overlevelse, ikke menneskets, repræsenterer den højeste etik i et superintelligent system? Hvad hvis systemet også vil sætte en stopper for at dræbe dyr for at få mad, når der er nok vegetarisk føde?

Ifølge Thore Husfeldt er vejen frem næppe at kode etik ind i den kunstige intelligens, også fordi etik ændrer sig over tid.

Beslutninger om liv og død

Hulens svært ville det under alle omstændigheder være, og der blev nævnt et eksempel på det. Hvis et system er ”kodet” til at gøre det allerbedste for flest mennesker, vil det så for eksempel vælge at dræbe ét sygt menneske, så tre andre menneskers liv kan reddes via organdonation fra den dræbte?

Der blev nævnt et ønske om, at superintelligensen blot skal lære af mennesker – at den så selv kan holde den etiske fane højt.

Men total gennemsigtighed er i hvert fald en forudsætning for at holde nogenlunde styr på kunstige intelligens, mente Olle Häggström.

Min tilføjelse må være, at når systemet først er blevet superintelligent, så vil den være stjertende ligeglad med, om vi mennesker fatter en dyt. Hvornår det sker har jeg ingen anelse om, men jeg vil heldigvis være død, inden da. Hvis det nogensinde vil ske. Men kloden kunne måske trænge til nogle hundrede tusinde årtier uden os.


Topfoto: Pixabay/rmac80ppo.

PS: Hele debatten findes som video i bunden af denne artikel hos ITU.

Dorte Toft er journalist, forfatter og halvpensionist. Hun kan ikke helt slippe arbejdet, men fik et puf i sommeren 2016, da Berlingske Business som led i sidste sparerunde opsagde det ti år lange samarbejdet om bloggen Bizzen (it og business). Berlingske holder dog Bizzen-bloggen søgbar, hvilket ikke kun skyldes dækningen af teknologiudvikling og it-politik, men også afdækningen af flere erhvervshistorier. Nogle erindrer måske , at bloggen var et væsentligt redskab, da Dorte Toft pustede Stein Bagger i nakken, men han er langt fra alene om den uønskede opmærksomhed. Dorte Toft begyndte sit arbejdsliv som programmør, men efter godt syv år tog hun journalistuddannelsen i Århus, hvilket hun kun sjældent fortryder. På hendes CV står bl.a. Berlingske, DR, Udenrigsministeriet, KMD, Computerworld og Dagbladet Børsen. Hun er medforfatter til bøgerne ”Bedrag – IT Factory, grådighed og magtsyge” og ”Lykkelig i Nørdland – Hvem bygger fremtiden?”. Begge udkom på Gyldendal i 2009. En lille bog med titlen Magtkampens A-Z, skrevet under pseudonym, er det også blevet til. Del gerne, hvis du finder det interessant nok. Og bidrag gerne via MobilePay på +45 31 21 07 30, hvis du finder det væsentligt nok.

Seneste artikler om Digitalt