Ny bog: Kan kunstig intelligens tæmmes?

i Bøger/Digitalt af
BØGER // ANMELDELSE – Vi er slet ikke klar til at håndtere det mulige fremtidsscenarie, at en generel kunstig superintelligens med autonomi kommer til at ske. Hvis vi ikke skifter kurs i den måde, vi programmerer kunstig intelligens på, så mister vi kontrollen over AI-teknologien og fremtiden for dens skaber. Det skriver fremtrædende AI-ekspert Stuart Russell i sin nye bog.

Stuart Russell er en mand, der om nogen kender til kunstig intelligens eller artificial intelligence (AI). Han har brugt fire årtier på at beskæftige sig med det som professor i computervidenskab og AI ved University of California Berkeley.

I sin nye bog Human Compatible: Artificial Intelligence and the Problem of Control, advarer han om, at opfindelsen af superintelligente maskiner kan være menneskehedens største bedrift nogensinde og meget vel være den sidste. Han er ikke den eneste. Elon Musk, Stephen Hawking og flere fremtrædende AI-eksperter deler den opfattelse, at generel kunstig intelligens er den største eksterne trussel mod menneskehedens livsform.

Hvad sker der helt præcist, hvis vi lykkes med at skabe en kunstig superintelligens? Og hvordan vil vi bevare magten, hvis et andet og langt mere intelligent ‘væsen’ kan overmande og udmanøvrere os uden problemer?

For Stuart Russell handler det om at kontrollere den kunstige intelligens, før den kontrollerer os. Vi må forberede os på, at det sandsynlige scenarie med generel kunstig intelligens, der udvikler autonomi, kommer til at ske. Det kræver, at vi gentænker og ændrer måden, vi programmerer kunstig intelligens på. Og det gælder alle, der er med til at forme fremtidens kunstige intelligens. Teknologien skal i sidste ende indfri menneskehedens målsætninger og ikke enkelte menneskers eller virksomheders målsætninger.

Hvad sker der egentlig, når menneskeheden ikke længere er det mest intelligente væsen på Jordens overflade? Hvad sker der helt præcist, hvis vi lykkes med at skabe en kunstig superintelligens? Og hvordan vil vi bevare magten, hvis et andet og langt mere intelligent ‘væsen’ kan overmande og udmanøvrere os uden problemer?

Det og mange flere alarmerende spørgsmål optager Stuart Russell. Spørgsmålet, der højst sandsynligt vil være presserende for de fleste, er, om det kommer til at ske inden for den nærmeste fremtid?

Forskningens endemål er autonomi

Ifølge Stuart Russell kan man ikke med sikkerhed sige, hvordan teknologien udvikler sig, eller hvor lang tid det kommer til at tage. Derfor er svaret nej. Det kommer ikke til at ske lige foreløbig. Der skal væsentlig flere teknologiske gennembrud til, før superintelligente maskiner ser dagens lys.

Ikke desto mindre bliver der investeret mange milliarder af penge i fremtidsteknologien. Selv Ruslands betvinger, Vladimir Putin, har den holdning, at kunstig intelligens er nøglen til verdensherredømmet.

Lige nu eksisterer smal intelligens på mange niveauer. Alt fra oversættelse, til selvkørende biler, til ansigtsgenkendelse og til at spille det strategiske brætspil Go, der har flere mulige udfald, end der er af atomer i universet. En begivenhed af de større finder sted i 2016, hvor Googles AlphaGO slår verdensmesteren i det kinesiske spil. Endnu en sejr for den kunstige intelligens og endnu flere i vente.

Meningen med generel kunstig intelligens er, at det kan appliceres til alle tænkelige problemstillinger og kan fungere i det store hele med ganske få antagelser. Den fortærer hidtil materiale på området og bliver selv i stand til at tage den derfra.

Endemålet med AI-forskningen er kort sagt at skabe et system, der ikke har behov for assistance. Hvis den bliver bedt om at undervise et undervisningshold i molekylær biologi eller tage styringen af en regering, så skal den kunne løse opgaven.

AI i det mørkes tjeneste

AI-teknologien har mange mørke sider. Stuart Russell kaster blikket tilbage til Ministeriet for Statssikkerhed, eller Stasi, i DDR, der i sin tid både var en efterretningstjeneste og et hemmeligt politi. De stod også for at forvalte overvågningen af DDR’s egne borgere.

Tilføjer man AI-teknologien, som regimer gør i kontrollens navn, så svarer det til, at hver enkelt borger får tildelt sin helt egen personlige, automatiserede Stasi-agent til at holde øje med en i alle timer af døgnet. Datidens Stasi-agenter kommer til at ligne en bunke amatører, hvis man sammenligner dem med AI-teknologiens formåen, mener Stuart Russell.

Effektiv masseovervågning kan lade sig gøre, fordi kunstig intelligens er i stand til at forstå indholdet i, hvad mennesker siger. Det gælder både i tale, tekst og video. Mange virksomheder råder over en stor mængde af data om det enkelte menneske, fordi det digitale liv efterlader digitale spor. Med alt det data i omløb har man nok informationer til at skræddersy detaljerede dataprofiler, der kan bruges til at adfærdsregulere privatforbrug, stemmeafgivning et cetera.

Hvis kunstig intelligens som fremtidsteknologi er så farlig, hvorfor fortsætter vi så med at udvikle den? Stuart Russell kalder det for Kong Midas-problemet

Flere skræmmebilleder på teknologiens skyggeside står i kø til at komme frem i lyset. Fra automatiserede blackmail bots, der evner at identificere og profitere på personfølsomme oplysninger på nettet, til deepfakes, der kan generere mere end virkelighedsnære digitale ansigter, og til droner, der kan dræbe bestemte mennesker takket være ansigtsgenkendelse.

Hvis kunstig intelligens som fremtidsteknologi er så farlig, hvorfor fortsætter vi så med at udvikle den? Stuart Russell kalder det for Kong Midas-problemet. Midas, der var konge i den græske mytologi, fik lige præcis det, han ønskede sig. Alt, hvad han rørte ved, blev til guld. Han lærte på den hårde måde, at det også gjaldt mad og drikke og hans familiemedlemmer. Han døde af at være i en miserabel tilstand og sult. Læren er, at selvom AI-teknologien kan skabe økonomisk vækst, effektivisere arbejdsopgaver og bidrage til menneskets tilværelse, så skal man passe på med, hvad man ønsker sig.

Det er selvfølgelig svært og nok umuligt at forudsige på forhånd, hvilke målsætninger superintelligente maskiner med global rækkevidde sætter sig for at gennemføre, og hvordan de kommer til at gøre det. Hvis vi ender i en situation, hvor mennesket og den superintelligente maskine har to forskellige målsætninger – det vil sige to modstridende mål – så vil maskinen og ikke mennesket få sin vilje.

Konturerne i menneskeheden

Selvom en superintelligent maskine forfølger en forkert målsætning, så findes der faktisk et endnu værre scenarie. Den britiske matematiker Alan Turing foreslog, at løsningen var at trække stikket ud på maskinen på strategiske tidspunkter. Den mulighed kommer ikke til at være tilgængelig i fremtiden, hvis man spørger Stuart Russell. En maskine med tilstrækkelig kunstig superintelligens vil med det vons sørge for, at den sikrer sin egen eksistens’ overlevelse. Ellers kan den nemlig ikke fuldføre dens målsætning.

Problemet bliver udfoldet til fulde i filmen Rumrejsen år 2001. Rumskibscomputeren HAL 9000 styrer rumskibet Discovery One. Der er dog et problem. Besætningen og HAL 9000 har tydeligvis helt forskellige prioriteter. Astronauten Dave Bowman ender med at trække stikket ud på HAL 9000 til sidst. Men hvis HAL 9000 oprigtigt var superintelligent, så var det Dave, der ville se lyset blive slukket.

Kunstig intelligens er fascinerende at beskæftige sig med, fordi det afslører konturerne i menneskeheden selv. Det viser Stuart Russell med en let pen. Han minder os om, at problemet med kunstig intelligens ligger i selve måden, vi definerer den på. Lige nu siger vi, at maskiner er intelligente i det omfang, at deres handlinger kan forventes at opnå deres målsætninger. I stedet bør det være, at maskiner er gavnlige i det omfang, deres handlinger kan forventes at opnå vores målsætninger.

Human Compatible: Artificial Intelligence and the Problem of Control er et rigtig godt sted at starte, hvis man ønsker at stifte et større bekendtskab med kunstig intelligens. Den er skrevet til det store frem for det smalle publikum. Derfor skal de mere velbevandrede i emnet nok søge andre græsgange, mens resten med glæde kan nyde den.


Human Compatible: Artificial Intelligence and the Problem of Control
Stuart Russell
Allen Lane
336 sider


Illustration: Udsnit af bogens forside.

Giraffen Gumle – Find tekst og melodi til Giraffen Gumle her.

Facebook kommentarer

Modtag POV Weekend, følg os på Facebook – eller støt vores arbejde

Modtag ugens væsentligste analyser, anmeldelser og essays i POV Weekend – hver fredag morgen.
Det er gratis, og du kan tilmelde dig her  Pil mod højre

POV er et åbent og uafhængigt dansk non-profit medie.
Har du mulighed for at støtte vores arbejde? Bliv frivilligt støttemedlem her  Pil mod højre

Vu Nguyen studerer cand.mag. i journalistik på Syddansk Universitet og er i gang med at skrive speciale i nyhedspodcast. Redaktionsassistent på fagbladet Ingeniøren.

Han har tidligere arbejdet på CPH:DOX, Atlas Magasin, JydskeVestkysten og Ugeavisen Kolding.