NYHED // OVERBLIK – Kunstig intelligens er ikke længere kun et spørgsmål om teknologi og regulering. Onsdag rykkede debatten ind i FNs Sikkerhedsråd, hvor nogle af verdens førende AI-chefer advarede om, at stadig mere avancerede systemer kan få konsekvenser for international fred og sikkerhed, hvis mennesker mister kontrollen med dem.
Mødet kommer samtidig med et voksende politisk pres for internationale regler. Danmark er sammen med 21 andre lande gået ind for, at de mest avancerede AI-systemer skal forblive under menneskelig kontrol. En ny måling fra Politico viser samtidig, at omkring halvdelen af de adspurgte i seks vestlige lande ønsker at sætte den videre udvikling på pause for at mindske risikoen.
Men verdens to førende AI-magter, USA og Kina, står uden for 22-landes erklæringen. Og mens Donald Trump afviser et globalt system til at kontrollere AI, har Kina argumenteret for international regulering. Modsætningerne bliver et centralt tema under Kinas præsident Xi Jinpings tre dage lange besøg i USA, hvor han torsdag mødes med Trump i Washington.
Topcheferne for OpenAI, Anthropic og Hugging Face, Sam Altman, Dario Amodei og Clément Delangue, deltog i mødet med Sikkerhedsrådets 15 medlemmer onsdag aften. Også den canadiske AI-forsker Yoshua Bengio, en af pionererne bag moderne kunstig intelligens, deltog.
Spørgsmålet var ikke alene, om AI en dag kan blive mere intelligent end mennesker. Sikkerhedsrådet diskuterede også mere konkrete risici: cyberangreb mod kritisk infrastruktur, udvikling af biologiske våben og brug af AI i militære systemer.
En europæisk diplomat beskrev inden mødet et af de centrale spørgsmål over for Reuters: Kan man ende i en situation, hvor algoritmer, der kommunikerer med hinanden, udløser en krig?
FNs generalsekretær António Guterres har længe efterlyst internationale regler. I sin tale til FNs Generalforsamling tirsdag advarede han især mod at overlade beslutninger om liv og død til maskiner, og krævede fortsat menneskelig kontrol med autonome våben.
Trump valgte i sin FN-tale den modsatte linje. “Vi vil fremme det, ikke holde det tilbage”, sagde han om AI og afviste samtidig ethvert forsøg på at skabe det, han kaldte en “globalistisk ordning” til at kontrollere teknologien. Trump begrunder blandt andet sin modstand mod en opbremsning med konkurrencen med Kina. USA fører ifølge præsidenten i AI-kapløbet, og sådan skal det blive ved med at være.
Netop frygten for at udviklingen kan løbe fra den menneskelige kontrol, har ellers fået flere ledende AI-chefer til at efterlyse sikkerhedsregler. Som POV Overblik skrev i sidste uge, arbejder OpenAI, Anthropic og Google på et fælles organ, der skal opstille sikkerhedsstandarder og føre tilsyn med udviklingen af de mest avancerede modeller. Forslaget har mødt kritik fra mindre konkurrenter, som frygter, at de største virksomheder i praksis kommer til at skrive deres egne regler.
Hvor konkret problemet kan blive, viser en sag fra Australien, som blev offentliggjort torsdag. En AI-agent fra OpenAI fik i juni til opgave at finde oplysninger om offentlige udgifter til medicin. Da agenten ikke kunne få adgang til de ønskede oplysninger på en portal med Medicare-statistik, fandt den i stedet en vej uden om sikkerhedsbegrænsningerne og skaffede sig uautoriseret adgang til både offentligt og ikke-offentligt materiale.
Der er ifølge den australske regering ingen tegn på, at personlige helbredsoplysninger blev tilgået. Men premierminister Anthony Albanese kalder hændelsen “uacceptabel” og har talt med OpenAI-chef Sam Altman om sagen. Albanese kritiserer også OpenAI for først at underrette de australske myndigheder næsten tre måneder efter hændelsen. En særlig arbejdsgruppe skal nu undersøge forløbet.
Sagen illustrerer en af de risici, der ligger bag et nyt internationalt initiativ. Mandag skrev 22 lande under på en erklæring om, at AI skal forblive “under menneskelig styring, overvågning og kontrol”. Blandt underskriverne er Danmark og statsminister Mette Frederiksen. Erklæringen opfordrer blandt andet AI-virksomhederne til obligatoriske sikkerhedstest, før avancerede modeller tages i brug, og til at acceptere uafhængige evalueringer. Landene vil desuden undersøge muligheden for at oprette et internationalt organ, der kan føre tilsyn med AI.
Finlands præsident Alexander Stubb, der sammen med Norges statsminister Jonas Gahr Støre står bag initiativet, har peget på et organ efter inspiration fra Det Internationale Atomenergiagentur. “Vi har brug for menneskelig indgriben, så mennesker skal have kontrollen”, siger Stubb til Politico.
Han fremhæver tre risici: AI, der kan bidrage til udvikling af biologiske våben, cyberangreb udført af AI-agenter og autonome våben, der kan dræbe uden menneskelig indgriben.
Men hverken USA eller Kina har skrevet under. Og netop de to lande er vanskelige at komme uden om, hvis globale regler skal have effekt. AI er derfor et vigtigt emne under Xis besøg i USA. De to lande har allerede diskuteret en mere begrænset aftale: et fælles varslingssystem, hvor de informerer hinanden om alvorlige AI-hændelser, der kan udvikle sig til en trussel mod den nationale sikkerhed. Samtidig er den gensidige mistillid stor. Kina frygter, at en opbremsning vil give amerikanske virksomheder mulighed for at udbygge deres forspring, mens Trump netop bruger konkurrencen med Kina som argument for at fortsætte udviklingen i højt tempo.
Presset kommer også fra vælgerne. Politicos måling i USA, Canada, Storbritannien, Frankrig, Spanien og Tyskland viser, at mellem 45 og 51 procent foretrækker at sætte udviklingen af AI på pause for at mindske risikoen. Kun mellem 30 og 40 procent ønsker fortsat udvikling for at høste teknologiens mulige gevinster.
I alle seks lande mener over halvdelen desuden, at der er mindst én moderat risiko for, at AI i sidste ende kan “ødelægge menneskeheden”.
Læs mere Politico, AP News, The Guardian, Reuters, Berlingske, TV2
Læs også UN News med link til hele AI-debatten i nat
Læs POV AI-giganter vil regulere sig selv
Læs Erklæringen om kunstig intelligens fra Statsministeriet
POV Overblik
Støt POV’s arbejde som uafhængigt medie og modtag POV Overblik samt dagens udvalgte tophistorier alle hverdage, direkte i din postkasse.
- Et kritisk nyhedsoverblik fra ind- og udland
- Indsigt baseret på selvstændig research
- Dagens tophistorier fra POV International
- I din indbakke alle hverdage kl. 12.00
- Betal med MobilePay
For kun 25 kr. om måneden giver du POV International mulighed for at bringe uafhængig kvalitetsjournalistik.
og