Den kinesiske regering har erklæret, at landet inden år 2030 skal være verdensdominerende indenfor kunstig intelligens. Allerede nu er kineserne begyndt at mærke virkningen. De bliver detaljeret overvåget i det offentlige rum – og snart også privat – så det næsten overgår science fiction. Kunstig intelligens, dataintegration og ansigtsgenkendelse er nemlig big business. Og samtidig er der ingen udsigt til vedtagelse af den lovgivning, som skal beskytte borgerne. Det skriver Jan Larsen, som fortæller om en kinesisk hverdag med overvågning fra 176 millioner kameraer.
Det begyndte egentlig ret muntert først på året, da nogle af de første resultater af brugen af kunstig intelligens spredte sig i Kina. Muligheden for at koble et kamera sammen med en database, der kan genkende ansigtstræk, blev nemlig på dette tidspunkt installeret på det offentlige toilet i parken ved Himlens Tempel, en af Beijings største turistattraktioner.
Som på de fleste offentlige toiletter i Kina er der ikke papir på selve toilettet, så det skal trækkes, før man går ind. Derfor tager mange en dobbeltration toiletpapir – for en sikkerheds skyld.
Det overforbrug satte den nye overvågningsteknologi imidlertid en stopper for, ved at samme person kun måtte trække den afmålte ration toiletpapir én gang. Når kamera og database kunne genkende en persons ansigt, skulle der mindst gå ni minutter før vedkommende kunne få udleveret næste ration papir.
Big data og AI er big business
Snart fulgte så, denne sommer, det første store officielle kinesiske udspil om mål for og finansiering af kunstig intelligens (herefter forkortet til den meget brugte engelske forkortelse: AI for Artificial Intelligence).
Den ambitiøse plan er at udvikle sektoren og høste de kommercielle gevinster, som det hedder. Det kommercielle mål går imidlertid samtidig belejligt nok hånd i hånd med at udvikle det kinesiske systems i forvejen markante overvågningsevner ved at tage dette et par trin op ad den teknologiske stige.
Billederne viser, at overvågningskameraerne er koblet til en stor ansigtsgenkendelses-database og er i stand til på et splitsekund at vise, hvem der befinder sig på gaderne
Regeringen mener, at AI-sektoren i Kina samlet vil have en værdi på 400 milliarder kroner allerede i 2025 med udsigt til at blive en eksportvare af dimensioner. En plan, der ikke kan lade sig gøre uden en massiv indsprøjtning af offentlige midler – og med et tættere samarbejde mellem regeringen og private aktører end, der allerede er i dag.
Det væsentligste for Kina er dog aspekterne omkring kontrol og overvågning. Et af målene med AI er at sikre den sociale stabilitet. Det fremgår direkte af planen, at AI-sektoren skal hjælpe med til at sikre den offentlige lov og orden ved at udvikle udstyr, der bl.a. kan analysere videoklip og genkende ansigter og kroppe.
Ifølge nyhedsbureauet Bloomberg har regeringen allerede bedt et af landets største statslige udviklingsfirmaer, China Electronics Technology Group, om at udvikle software, der kan indsamle og integrere data om borgernes job, hobbyer, forbrugsvaner og anden adfærd, der skal kunne forudse kriminalitet og terror handlinger, før disse sker.
Benyttet i trafik og ved festival
Men allerede nu er der talrige eksempler på brugen af AI i Kina. Dog i en skala der i begyndelsen kun går efter mindre lovovertrædelser. Flere steder har politiet taget den nye teknologi i brug i trafikken. I Shanghai og Shenzhen bliver trafiksyndere overvåget blot for sekunder efter at få deres portræt vist på en storskærm på gaden.
Nogle af de første billeder, der er sluppet ud fra overvågningscentraler, viser, at systemet er en del mere ”intelligent” end blot at spotte trafiksyndere.
Billederne dokumenterer, at overvågningskameraerne er koblet til en stor ansigtsgenkendelses-database, der på et splitsekund er i stand til at vise, hvem der befinder sig på gaderne. Alder, køn og farve på tøjet dukker øjeblikkelig op i en lille fakta-boks i samme øjeblik personen træder ind i kameraets synsfelt.
Samme teknik blev også brugt, da den store kinesiske øl-by Qingdao for en måned siden holdt den årlige Øl Festival med flere millioner besøgende. Uden de var vidende om det, fik alle 2,3 mio. gæster taget deres billede fra de 18 overvågningskameraer med tilkoblet AI-teknologi. Hvert ansigt blev registreret og sammenlignet med politiets nationale database.
Det første forsøg med denne massive overvågning førte til arrestation af 49 personer, hvoraf 25 var eftersøgt for forbrydelser, en snes andre med en fortid/nutid som narkomaner.
Totalt vurderes der at være 176 millioner almindelige overvågningskameraer i hele Kina
Desuden blev 50 af festivalens gæster identificeret som forbundet med f.eks. økonomisk kriminalitet eller prostitution. Ifølge kinesiske medierapporter var politiet meget begejstrede for det nye værktøj.
Installering af kameraer i taxier og metro har endvidere ført til ansigtsgenkendelse af forbrydere i andre byer rundt om i Kina. Ifølge det statslige TV, CCTV (China Central TV), er der nu mere end 20 millioner overvågningskameraer med tilknyttet database i Kina. Totalt vurderes der at være 176 millioner almindelige overvågningskameraer i hele Kina.
Systemet, der kobler kameraer og database sammen kaldes ”Skynet” og var oprindelig designet til at finde embedsmænd mistænkt for korruption. Hvis navnet lyder bekendt, så var det også det navn der blev benyttet i Terminator-filmene:
I det hele taget har de kinesiske AI-forskere været flittige sci-fi biografgængere og fundet inspiration i andre Hollywood film, såsom Steven Spielberg science fiction thrilleren ”Minority Report”, hvor myndighederne bruger genetisk mutation og teknologi til at forudse, hvor og hvornår forbrydelser vil finde sted
Kina satser på et forspring i kunstig intelligens
Når Kina forsøger at lægge sig i spidsen for udviklingen med kunstig intelligens, er det ikke fordi kinesiske firmaer er foran vestlige konkurrenter. Men flere faktorer betyder, at de snart kan få det afgørende forspring.
Og når regeringen med partilederen, Xi Jinping, i spidsen satser på et område, er det altid sikret al mulig støtte fra myndighederne. Først og fremmest i form af finansiel støtte; det er kæmpesummer, firmaerne, der deltager i kampagnen får i støtte, sikkerhed og lån.
Nu er Kina ikke nogen retsstat med uafhængige domstole; de er i ”sikker” forvaring hos det kommunistiske parti. Mere overraskende er det måske, at der slet ikke findes nogen specifik datalovgivning i Kina
Hertil kommer den sædvanlige politiske og lovgivningsmæssige beskyttelse, der typisk vil sikre, at udenlandske firmaer i kun begrænset omfang får adgang til det kinesiske marked. Og så er der systemfordelene: Firmaerne får lov til at eksperimentere og til at strække og bøje og regler og guidelines til det yderste i tæt samarbejde med staten og provinsregeringerne.
Desuden er kineserne som bekendt ikke begrænset af krav om demokratiske regler og principper om borgerindflydelse eller høringer.
Og endelig som noget af det allervigtigste: adgangen til de nationale databaser – eller retten til at lave nye. For systemer som ”Sky Net” ved præcis, hvem der er hvem i Kina.
Alle kinesere skal ved 16-års alderen have taget det første foto til det nationale ID-kort, som alle skal bære på sig. Alle data og fotos er samlet i den statslige database, så det er let at genkende og finde folk.
Når oplysningerne fra overvågningskameraerne dukker op kan de sammenlignes med materialet i den store database.
Lovgivningen findes endnu ikke
Nu er Kina som bekendt ikke nogen retsstat med uafhængige domstole; disse er i ”sikker” forvaring hos det kommunistiske parti. Mere overraskende er det måske, at der slet ikke findes nogen specifik datalovgivning i Kina.
Ambitionen med Citizen Score er at indsamle alle disse data online om hver borger og hvert firma i en kæmpe database. Den giver løbende hver enkelt kineser en karakter på en skala baseret på deres kommercielle adfærd, politiske holdninger, sociale adfærd og juridiske ”kredit”
Det har selvfølgelig skabt frygt for, at regeringens åbne adgang til de enorme mængder personlige data om borgerne kan føre til misbrug. Zanyou Zhou, jura ekspert fra Max Planck Instituttet i Berlin, har til avisen South China Morning Post China sagt, at ”the government can use personal data in any way they like, which could pose a huge threat to its citizens’ privacy”. Han tilføjer at lovgivning på området er bydende nødvendig.
Men indtil videre må kineserne nøjes med nogle retningslinjer, som findes i enkelte provinser. Den nationale lovgivning lader vente på sig. Der blev sidste år lavet et udkast til lovgivning, men det er ikke vedtaget, og ingen ved hvornår, eller om der kommer en egentlig data-lovgivning.
Masser af forslag
Imens er flere og meget mere avancerede AI-projekter dukket op. Det ene gælder Xinjiang provinsen i Kinas fjerne nordvestlige hjørne, hvor de muslimske uygurer udgør lidt under halvdelen af befolkningen.
Beijing har brugt hårde metoder mod lokalbefolkningen for at forebygge, hvad de betegner som ”frygten for terror”.
Kinesiske firmaer, der sælger ansigtsgenkendelses-udstyr, melder om store ordrer til politiet i den uro-prægede provins. Myndighederne vil opsætte AI udstyr og databaser ved grænser og de mange checkpoints i provinsen. Selv på benzinstationer er det kameraer, der kontrollerer adgangen.
Citizen Score
Det andet store AI-projekt er ”Citizen Score”. Det blev for nogle år siden født og fostret i Kommunistpartiet som et middel, hvor man med et enkelt tal kan måle, hvor værdifuld hver indbygger er for landet. Planen om et ”socialt kredit system” er linket op til kinesernes nationale ID-kort sammen med de ufattelige mængder information fra politi, skattevæsenet, domstole, banker og arbejdsgivere.
Med udviklingen af AI teknologien bliver det meget let at inddele borgerne i ‘gode’ og ‘dårlige’ alt efter om de kritiserer etparti-staten, bruger deres penge ”uhensigtsmæssigt”, kører overfor rødt, drikker for meget, læser de ”forkerte” bøger eller ikke ser efter deres bedsteforældre
Med kineserne enorme forbrug af smartphones, ofte samlet på en enkelt app som WeChat (ejet af Tencent, én af de tre store tech firmaet), leverer enhver borger hvert eneste minut store mængder data om deres forbrug og adfærd direkte til denne blandingskonstruktion af sci-fi og Big Brother.
Ambitionen med ‘Citizen Score’ er at indsamle alle disse data online om hver borger og hvert firma i en kæmpe database. Den giver løbende hver enkelt kineser en karakter på en skala baseret på deres kommercielle adfærd, politiske holdninger, sociale adfærd og juridiske ”kredit”.
Med udviklingen af AI teknologien bliver det meget let at inddele borgerne i ‘gode’ og ‘dårlige’ alt efter om de kritiserer etparti-staten, bruger deres penge ”uhensigtsmæssigt”, kører overfor rødt, drikker for meget, læser de ”forkerte” bøger eller ikke ser efter deres bedsteforældre.
Karakteren på det sociale kreditsystem vil afgøre ,om du kan låne penge i banken, få dine børn ind på en god skole eller rejse til udlandet – og alt muligt andet.
Planen har haft flere pilotprojekter i flere provinser og med deltagelse af de tre store Tech-firmaer. Men vi mangler stadig at se den detaljerede beskrivelse for det store nationale projekt.
Allerede på et halvt år har Kina imidlertid flyttet sig fra at udnytte AI-teknologien til at spare på toiletpapir til snart at påbegynde et kæmpemæssigt socialt samfundseksperiment. Og hvor der faktisk var ret mange protester mod toiletrulle-maskinen, har det været særdeles småt med kritik af de store planer om sociale kredit systemer.
Nok fordi overvågningen ikke vil tillade den.
Topbillede: NPR og emiratesvoice.com
Du kan læse flere af Jan Larsens analyser og reportager fra Kina hér
Modtag POV Weekend, følg os på Facebook – eller bliv medlem!
Hold dig opdateret med ugens væsentligste analyser, anmeldelser og essays i POV Weekend – hver fredag morgen.
Det er gratis, og du kan tilmelde dig her 
POV er et åbent og uafhængigt dansk non-profit medie.
Har du mulighed for at bidrage til vores arbejde? Bliv medlem her
