Kunstig Intelligens: For meget af det gode

Hvis der skal gøres noget ved udbredelsen af sundhedsskadelige apps, kræver det lovgivning om anvendelse af kunstig intelligens.

Millioner af piger og unge kvinder i USA og Europa er blevet afhængige af Instagram, og det skaber problemer i form af lavt selvværd, forvrængede forestillinger om normalitet og andre mentale problemer.

Det viser en ny, intern undersøgelse fra Instagram.

En tredjedel af de piger og unge kvinder, der benytter platformen, “…føler sig ‘afhængige’ og ved, at det, de ser på, er usundt for deres mentale helbred, men de føler sig ude af stand til at stoppe”, fremgår det af rapporten.

Det generelle billede er, at pigerne ser på opslag af berømte Instagram-profiler, der promoverer et kropsideal og et forbrugsmønster, som afspejler en fantasiverden, men som efterhånden kommer til at fremstå som en slags normalitet, som pigerne og de unge kvinder ikke kan leve op til.

Undersøgelsen dokumenterer, hvordan Instagram anvender teknologi, der gør ondt værre ved at vise flere og flere relaterede fantasi-opslag, jo mere pigerne bruger app’en.

Blandt drenge og unge mænd er det især computerspil, der skaber afhængighed, og som fører til sociale, mentale og ligefrem fysiske skader.

Britiske læger kan fortælle om børn, der må i behandling for svære maveproblemer, der er skyldes, at børnene bliver så optaget af at spille computer, at de holder op med at gå på toilettet.

I en undersøgelse fra den britiske Børnekommission sagde mange 10 til 16-årige, at deres venners adfærd blev mere aggressiv af at spille meget computer. Nogle børn sagde, at de følte sig afhængige, og andre sagde, at de følte sig tvunget til at spille længere, end de ville, fordi spillene var blevet en så vigtig del af deres sociale liv.

I gennemsnit bruger 10-årige i England to til tre timer om dagen på at spille computer. Undersøgelser fra USA viser et dagligt forbrug af digitale medier til underholdning blandt 8-10 årige på fire til fem timer i gennemsnit.

WHO: “Afhængighedsskabende adfærd“

FN’s sundhedsorganisation, WHO, besluttede i 2018 at indføre “Gaming disorder” på listen over anerkendte sygdomme inden for kategorien “Afhængighedsskabende adfærd“.

WHO betegner personer, med “gaming disorder” som kendetegnet ved, at de har nedsat kontrol over, hvor meget de spiller, at de giver stigende prioritet til spil frem for andre aktiviteter, og at de fortsætter eller ligefrem øger deres anvendelse af spil, på trods af negative sociale eller mentale konsekvenser.

Afhængighed af sociale medier, computerspil og andre former for ukontrolleret forbrug af digitale medier breder sig, fordi apps og spil anvender kunstig intelligens til at skabe afhængighed hos brugerne.

Chefen for Instagram, Adam Mosseri, har i en kommentar til den aktuelle rapport om piger og unge kvinders brug af Instagram, sammenlignet situationen med fordelene og ulemperne ved privat bilkørsel.
Der er trafikofre, ja, men bundlinjen er, at privatbilisme er et gode for samfundet.

Sammenligningen kan vise sig at være mere rammende, end Adam Mosseri måske umiddelbart havde forestillet sig.

Bilindustrien opererede oprindeligt på et fuldstændig ureguleret marked, og bilfabrikanterne bragte under disse vilkår det ene dødsensfarlige køretøj på markedet efter det andet.
Først efter årtier med gennemgribende statslig regulering er sikkerheden i privatbiler blevet væsentligt forbedret.

I dag opererer producenterne af kunstig intelligens på tilsvarende måde i et fuldstændig ureguleret marked, svarende til bilindustrien omkring 1930, og techindustrien bringer det ene produkt på markedet efter det andet, der viser sig at have vidtrækkende negative sociale og mentale konsekvenser for millioner af opvoksende børn og unge.

Så hvis vi bliver ved sammenligningen med privatbilismen, så er det, der mangler i relation til anvendelsen af apps og kunstig intelligens, statslig regulering.

Flydende grænser

Men hvordan kan en regulering af markedet for anvendelse af kunstig intelligens se ud?

Det er et spørgsmål, som lovgivere i USA og Europa har kredset om i årevis, og som har vist sig at være vanskeligt og ømtåleligt at tackle.

Vanskeligt, fordi tempoet i produktudviklingen inden for kunstig intelligens er så dramatisk, at det kan forekomme umuligt at holde fast i, hvad det er, man skal regulere. Og ømtåleligt, fordi enhver form for regulering vil indebære et indgreb i borgernes frihed til at bruge deres mobil og computer, som de vil.

Det har taget vestlige lovgivere årtier at nå frem til at lovgive om rygning og om brug af alkohol blandt børn og unge, dels fordi der er stærke økonomiske interesser på spil, men især fordi lovgivere i Vesten er tilbageholdende med at bestemme om forhold, der ideelt set burde kunne reguleres privat eller inden for familiens rammer.

Men offentlig regulering af kunstig intelligens rykker nærmere for hver dag, fordi behovet for nogle generelle regler efterhånden ikke er til at komme uden om.

Når det gælder børn og unges forbrug af sociale medier og computerspil, så er situationen, at mange millioner børn og unge i Vesten allerede viser tegn på alvorlige sociale og mentale bivirkninger.

Grænserne mellem sociale medier og traditionelle nyhedsmedier bliver desuden mere og mere flydende, og for de fleste mennesker bliver det vanskeligt at skelne mellem fantasi og realitet i nyhedsstrømmen, fordi både tekst og billeder nu kan produceres af kunstig intelligens.

Kunstige influencere

Billedet af den unge “kvinde” nedenfor er fremstillet af kunstig intelligens. Personen eksisterer ikke i virkeligheden. Portrættet er ren fiktion.

Portræt af en ikke-eksisterende kvinde genereret med kunstig intelligens. Fra hjemmesiden https://www.thispersondoesnotexist.com/, hvor der findes stribevis af eksempler. Se også Xander Steenbrugges fascinerende YouTube-præsentation af teknologien bag automatiseringen.

Billedet ville uden videre kunne kombineres med automatisk fremstillede tekster om denne unge “kvindes” meninger, holdninger, vaner og livretter, uden at der behøver at være mennesker indblandet i processen.

Perspektivet er blandt andet, at kunstige “influencere” kan masseproduceres i en automatiseret proces, og at de efterfølgende kan indgå i omhyggeligt tilpassede dialoger med “følgere” af kød og blod.

De algoritmer, der styrer denne proces, kan have adgang til enorme datasæt om de individuelle “følgere”, og dialogen kan derfor blive ganske personlig og overbevisende.

I modsætning til såkaldte “deepfakes”, hvor eksisterende personer bliver blandet med et fiktivt digitalt univers, så er perspektivet her, at både billeder, tale og tekster er 100 pct. fiktivt, og er produceret af kunstig intelligens.

Tilsvarende teknologier kan anvendes til at manipulere sociale relationer med falske påstande, der vil kunne vise sig vanskelige at standse eller tilbagevise.

MIT Technology Review bragte for nylig en artikel om spredningen af apps, der kan anvendes til fremstilling af falske sexfilm. Med disse apps kan brugeren vælge et portræt fra sin egen fotosamling, fra billeder på nettet eller fra en eller anden Facebook-profil. Det valgte portræt kan herefter indsættes i et eller flere filmklip, der er tilgængelige på app’en. Med nogle få klik kan brugeren på den måde sammensætte et filmklip, der er godt nok til at narre de fleste. Om et par måneder er den tekniske kvalitet sikkert blevet fordoblet.

Teknologien bag kunstig intelligens til fremstilling af tekster, billeder og videoklip er dybt kompliceret, men det kræver ingen særlige kompetencer at anvende systemerne, og det koster næsten ingen penge at bruge dem.

Spredning af misinformation på nettet har hidtil krævet en ret stor indsats af menneskelig arbejdskraft, men ved at gøre brug af kunstig intelligens vil den slags kampagner nå et helt nyt niveau”, skriver Renée DiResta fra Stanford Internet Observatory i en artikel i The Atlantic under overskriften “Produktionen af misinformation bliver snart ubegrænset”.

Forskellig tilgang til regulering

I Vesten er der lovgivning på vej, der sætter rammer for anvendelse af kunstig intelligens, men der er forskellige traditioner for, hvordan regulering gribes an på hver side af Atlanten.

Reglerne vil derfor blive meget forskellige, og samarbejdet mellem USA og Europa kommer især til at handle om mulighederne for at anerkende hinandens forskellige løsninger.

Der er ikke udsigt til nogen fælles Atlantisk model.

I Europa er den foreslåede regulering af kunstig intelligens en del af en bredt anlagt regulering af det digitale marked i EU, og der vil kunne gå flere år, før de nye forslag har været gennem EU’s institutioner og de nationale parlamenter. Først derefter kan lovgivningen vedtages og indføres i de enkelte medlemslande.

Det er derfor uklart, hvordan den endelige regulering kommer til at se ud og hvornår, den vil kunne føres ud i praksis.

Forslaget til forordningen indeholder et forbud mod anvendelse af kunstig intelligens på en måde, der forårsager “fysisk eller psykologisk” skade ved brug af “subliminale teknikker” eller ved at udnytte sårbarheder hos en “specifik gruppe personer på grund af deres alder, fysiske eller psykiske handicap.” Der er også et krav om mærkning af såkaldte “deepfakes”, hvor kunstig intelligens bruges til at få det til at se ud som om, at for eksempel en politiker siger noget på en video, som vedkommende i virkeligheden aldrig har sagt.

Forslaget til EU-forordning åbner på den måde for en bred regulering af markedet.

Men ifølge en analyse fra Brookings, vil hverken de sociale mediers anvendelse af kunstig intelligens eller automatiseret produktionen af fiktive tekster, billeder og videoer være direkte omfattet af reguleringen.

“Samlet set fremstår Big Tech stort set uberørt af forslaget til den nye AI-forordning på trods af en udbredt og voksende bekymring over brugen af AI-drevne algoritmer (…) Forordningen behandler ikke de algoritmer, der bruges i sociale medier, søgning, online detailhandel, appbutikker, mobilapps eller mobile operativsystemer som ‘høj risiko‘ “, hedder det i rapporten fra Brookings.

Den kinesiske variant

Kina har bragt sig på landkortet i hele denne udvikling, ved at gennemføre en vidtgående lovgivning om børn og unges anvendelse af digitale medier, og om anvendelse af kunstig intelligens til at fremme ‘klik og forbrug’.

Den kinesiske lovgivning er blevet indført gradvist inden for de sidste 10 år, og i de seneste måneder er tempoet og rækkevidden af den nye lovgivning blevet strammet op.

Blandt de mere spektakulære indgreb er et næsten totalt forbud mod anvendelse af online computerspil for personer under 18 år.

De kinesiske myndigheder betegner det som et sundhedspolitisk tiltag.

Det er uklart hvilke sanktioner, der knytter sig til håndhævelsen af denne nye regulering, men det bliver udbyderne af spil, der skal kunne redegøre for, at reglerne bliver overholdt.

Det betyder, at kinesiske brugere fremover skal kunne dokumentere, at de er over 18 for at få adgang til spil og andre tjenester.

Denne type indgreb, hvor der bliver udstedt et generelt forbud mod at unge under 18 år spiller computer, passer ikke ind i en Vestlig model for regulering, og man vil næppe se initiativet kopieret i ret mange lande uden for Kina.

Men Camilla Cavendish, professor på Harvard University og politisk kommentator på Financial Times, lægger i en aktuel kommentar ikke skjul på at hun som mor til to teenagere, ser med en vis misundelse på det kinesiske indgreb.

“Som forældre kunne vi godt bruge en hjælpende hånd fra en statsmagt, der ville være villig til at spille rollen som “bad cop”. For som forældre her i Vesten er vi en hel del, der ikke er lykkedes med at få bragt vores børns forbrug af digitale medier og spil under kontrol”, skriver Cavendish, der slutter med at overveje om de Vestlige normer for regulering vil vise sig at være tilstrækkeligt effektive, og om tempoet i gennemførelsen af reguleringen vil være tids nok.

“Hvis vi ikke kan beskytte vores børn mod at blive afhængige af deres smartphones og forhindre, at de får psykiske problemer og bruger timer om dagen på at spille i stedet for at passe deres skolearbejde, hvordan skal vi så kunne klare os i den globale konkurrence med Kina?”, spørger Camilla Cavendish.

Vores politikere burde tage udfordringen op, og vove sig på banen med et svar.


Henvisninger og baggrund: 22-09-2021