NYHED // OVERBLIK – Tre af verdens største AI-virksomheder, OpenAI, Anthropic og Google, vil oprette et fælles organ, der skal opstille sikkerhedsstandarder og føre tilsyn med udviklingen af de mest avancerede AI-systemer. Forslaget kommer få dage efter, at flere af branchens egne topchefer advarede om, at udviklingen går for hurtigt og bør bremses.
Men spørgsmålet er, om virksomhederne selv skal have lov til at fastlægge reglerne. Forslaget møder allerede kritik fra mindre konkurrenter, mens USA’s præsident Donald Trump afviser advarslerne om AI som overdrevne og fastholder, at USA ikke må sætte tempoet ned i kapløbet med Kina.
Samtidig rykker diskussionen ind på den politiske scene. Torsdag mødes repræsentanter for alle 27 EU-lande i Bruxelles for at diskutere regulering og internationale regler for AI. EU har allerede vedtaget sin egen AI-lov, men ønsker et bredere internationalt samarbejde om de risici, der følger med de mest avancerede modeller.
OpenAI bekræftede tirsdag, at virksomheden sammen med Anthropic og Google arbejder med ideen om et fælles standardiseringsorgan. Forslaget kommer oprindeligt fra Google DeepMinds topchef Demis Hassabis og er inspireret af den amerikanske Financial Industry Regulatory Authority, FINRA, der fører tilsyn med mæglere og værdipapirvirksomheder.
Hassabis foreslog allerede i juli et organ, som blandt andet skulle teste de mest avancerede AI-systemer, inden de bliver frigivet til offentligheden. Det skal have adgang til både tekniske eksperter og den omfattende computerkraft, som er nødvendig for at afprøve modellerne.
“Finansieringen skal være betydelig og sandsynligvis hovedsagelig komme fra industrien for at tiltrække teknisk talent i verdensklasse og levere de nødvendige computerressourcer til test i stor skala”, skrev Hassabis.
Repræsentanter for OpenAI, Anthropic og Google har gennem de seneste uger mødtes regelmæssigt for at diskutere et fælles standardiseringsorgan, skriver Berlingske. Der er dog endnu ikke lagt en plan for, hvordan virksomhederne skal nå til enighed om organet.
Forslaget kommer midt i den diskussion om AI-sikkerhed, som POV Overblik sammen med en række andre medier skrev om mandag. I weekenden opfordrede Anthropics topchef Dario Amodei til at sænke tempoet i udviklingen af nye AI-modeller. Han fik opbakning fra blandt andre OpenAI-chef Sam Altman, Elon Musk og Demis Hassabis.
Advarslerne er også kommet fra forskere, som har forladt nogle af virksomhederne. Den tidligere Anthropic- og OpenAI-medarbejder Jacob Coxon advarede i sidste uge om, at virksomhederne “gambler med vores liv”. Mandag skrev den tidligere Google DeepMind-forsker Bilal Chughtai, at han mener, at AI potentielt kan “slå os alle ihjel”, og at tiden til at forhindre det kan være ved at løbe ud.
Men netop fordi forslaget kommer fra de største virksomheder selv, har det også mødt kritik. Aidan Gomez, topchef og medstifter af den canadiske AI-virksomhed Cohere, beskylder de dominerende amerikanske AI-selskaber for at være ved at danne et “kartel” under dække af sikkerhed.
“AI har brug for sikkerhedsregler. Det er ikke dér, uenigheden ligger, og det har det aldrig været. Uenigheden handler om, hvem der skriver dem, hvem der får lov til at være med, og hvis interesser reglerne beskytter”, skrev Gomez søndag.
I USA er udsigten til politisk regulering foreløbig begrænset. Kongressen er splittet, og Trump har afvist de seneste advarsler fra AI-branchen som “fup” og en “sammensværgelse”. Han mener, at en opbremsning vil svække USA i konkurrencen med Kina.
Trump har fået opbakning fra Nvidia-chef Jensen Huang, som mandag sagde, at forestillingen om, at AI kan udslette menneskeheden, “ikke er baseret på videnskab”. Andre ledende republikanere, herunder vicepræsident JD Vance, har ifølge Deutsche Welle været mere forsigtige.
I Europa går udviklingen i en anden retning. Repræsentanter for alle EU-landene mødes torsdag i Bruxelles i EUs AI-råd, der følger gennemførelsen af AI-forordningen. Ifølge en dagsorden, som Politico har set, skal EU-Kommissionen orientere om den europæiske og internationale AI-politik og give medlemslandene en teknisk briefing om de seneste hændelser med AI.
EU har allerede regler, der pålægger virksomheder som OpenAI og Anthropic at vurdere og begrænse risikoen for at miste kontrollen over en AI-model. Men reglerne gælder ikke globalt, og EU-Kommissionens næstformand med ansvar for teknologisk suverænitet, Henna Virkkunen, efterlyste fredag internationale regler og et tættere samarbejde.
Diskussionerne torsdag skal blandt andet handle om arbejdet med AI i G7, G20 og FN. Brando Benifei, Europa-Parlamentets ledende forhandler på AI-området, mener, at EU bør presse på for et globalt samarbejde. “Vi har brug for internationalt samarbejde. Vi har brug for USA, og vi har brug for Kina”, siger han til Euronews.
Læs mere DW, France24, Reuters, Berlingske, Politico
POV Overblik
Støt POV’s arbejde som uafhængigt medie og modtag POV Overblik samt dagens udvalgte tophistorier alle hverdage, direkte i din postkasse.
- Et kritisk nyhedsoverblik fra ind- og udland
- Indsigt baseret på selvstændig research
- Dagens tophistorier fra POV International
- I din indbakke alle hverdage kl. 12.00
- Betal med MobilePay
For kun 25 kr. om måneden giver du POV International mulighed for at bringe uafhængig kvalitetsjournalistik.
og