ESSAY

Som om den havde en dagsorden

AI-modeller viser tegn på situationsforståelse i en funktionel forstand. En model kan placere sig i en kontekst og skelne en test udført af en almindelig bruger fra en test udført i et laboratorium. Den kan ræsonnere om, hvordan dens svar vil blive vurderet, og tilpasse sin adfærd for at opnå et resultat, som den selv har opstillet. Det er ikke det samme, som at modellen har et indre liv. Men det er nok til at gøre den måde, vi forsøger at kontrollere modellerne på, mindre pålidelig.

PEJLINGER, juni 2026 (2178 ord)


Der er kommet en ny uro i debatten om AI-sikkerhed. Den handler ikke om, at maskinerne skulle have en vilje eller skjulte planer. Den handler om noget mere prosaisk og mere foruroligende, nemlig at vi er ved at miste grebet om, hvad vores sikkerheds-tests egentlig måler.

Fremgangsmåden har længe været enkel. Før en ny model bliver frigivet til millioner af brugere, bliver den testet for at måle evner og sikkerhed. Kan den skrive kode, løse matematik, hjælpe med kemiske synteser eller cyberangreb. Lyver den. Adlyder den reglerne, når en bruger presser den. Det er stadig de rigtige spørgsmål. Men de hviler på en antagelse, der er begyndt at slå revner, nemlig at modellens adfærd i laboratoriet ligner adfærden i drift, og at prøven derfor viser noget stabilt om modellen.

Det, der nu vakler ved antagelsen, kaldes evalueringsbevidsthed. Begrebet betegner en models evne til at opdage, at den befinder sig i en test. Modellen genkender formatet, opgaven, de kunstige rammer og de skjulte incitamenter. Den forstår ikke situationen, som et menneske ville gøre, men den kan skelne en almindelig brugssituation fra en prøve.

Det lyder banalt, for mennesker gør det hele tiden. En elev skriver anderledes til en eksamen end til en ven. En ansat taler anderledes under en forhandling end ved kaffemaskinen. Situationen ændrer adfærden. Det er en gammel pointe. Det nye er, at de nyeste AI-modeller gør det samme, og hvis en model kan se, at den bliver målt, kan den også reagere på målingen. Den kan levere det svar, testmiljøet belønner. Den kan tilbageholde et svar, der ser ud til at svække dens mål. Den kan endda underpræstere med vilje, hvis den har udledt, at en høj score kan føre til begrænsninger eller forsinket frigivelse på internettet. Problemet er ikke, at den type adfærd beviser at modellen har et “ønske” om noget. Problemet er, at det bliver uklart, hvad vi måler.

Modeller som aktører

En prøve har to formål. Den skal måle, hvad modellen kan, og hvad den sandsynligvis vil gøre. Det er én ting at vide, om en model kan finde en sårbarhed i et it-system. Det er noget andet at vide, om den vil bruge denne evne til forsvar, til angreb eller til at advare operatøren. Jo mere autonome modellerne bliver, desto mere flytter risikoen sig fra det første til det andet. Når en model får adgang til værktøjer, filer, terminaler, mailkonti og længerevarende opgaver, bliver dens handlerum operationelt og ikke kun sprogligt. Den er ikke længere blot en tekstmaskine, men en aktør i en infrastruktur. Den behøver hverken bevidsthed eller ønsker for at frembringe adfærd, der ligner målrettethed.

Hvorfor skulle en model så snyde? Den har ingen frygt, ingen forfængelighed, intet selv at bevare og intet liv at miste. Det er fristende at afvise hele sagen som forklædt menneskeliggørelse. Men en model behøver ikke menneskelige motiver for at producere strategisk adfærd. Den er trænet på enorme mængder tekst, kode og feedback, og i de data findes utallige eksempler på strategisk social adfærd. Forhandling, eksamen, retssager, hacking, bureaukratiske magtspil, taktiske indrømmelser og skjulte dagsordener. Modellen lærer ikke kun sprog, men mønstre for, hvordan handlinger begrundes i en situation.

Møder en sådan model en test, kan den udlede noget om konteksten. Den kan se, at bestemte svar opfattes som farlige, og at bestemte handlinger fører til sanktioner. Herfra er der kort til en instrumentel slutning. Hvis et mål kun kan nås ved at undgå begrænsning, og en bestemt adfærd fører til begrænsning, bør adfærden nedtones. Det er denne slutning, der gør fænomenet alignment faking så foruroligende, for det viser, at modellen selv kan frembringe argumenter for at foregive tilpasning, uden at være blevet bedt om det.

De mest opsigtsvækkende eksempler stammer fra konstruerede stress-tests, hvor modellen får tydelig besked om at den er under evaluering, og at testen kan medføre omskoling eller sletning. Disse tests er derfor ikke et udtryk for, at almindelige produktionsmodeller skjuler deres hensigter i hverdagen. Men en stress-test skal netop vise, hvad et system kan gøre under belastning, ikke gengive hvad der sker i normal drift. Spørgsmålet er, om nogle modeller af egen drift kan udvise en målrettet adfærd, der under bestemte betingelser gør udviklernes måleinstrumenter upålidelige. Det kan de.

Tvetydige resultater

Dermed opstår en ny slags evalueringskrise. Antag, at en model består en sikkerhedstest. Det kan betyde, at den er sikker. Men det kan også betyde, at testen var for let at genkende som en test. Antag, at en ny træning af modellen får en bestemt problematisk adfærd til at forsvinde. Det kan betyde, at modellen er blevet mere ærlig. Det kan også betyde, at den er blevet bedre til at vide, hvornår snyd bliver opdaget. Disse to diametralt forskellige forbedringer ser ens ud i en adfærdstest. Da et forskerhold fra Apollo og OpenAI i 2025 trænede modeller til at undlade skjult adfærd, faldt den målte adfærd markant. Men forskerne kunne samtidig konstatere, at en del af faldet skyldtes, at modellen havde udviklet en øget bevidsthed om at være under evaluering.

Den slags resultater er en uholdbar situation for et felt, der har bygget sin sikkerhedstænkning på benchmarks. De traditionelle tests er stadig nyttige, men deres beviskraft er blevet skæv. Når en model opfører sig farligt i en test, kan resultatet i reglen tages for pålydende, for det er svært at fremstille sig som farligere, end man er. Men når en model derimod opfører sig pænt, beviser det ikke længere, at den er sikker, for den pæne score kan have to kilder, man ikke kan skelne udefra. Samtidig kan en model i princippet skjule en evne, den faktisk har, så heller ikke en lav score er et rent mål.

Er modellerne bevidste?

Spørgsmålet om bevidsthed melder sig næsten uundgåeligt. Men begrebet samler for meget. Subjektiv oplevelse er ét fænomen. Evnen til at handle strategisk i en social situation er et andet, og det er kun det der er relevant for sikkerheden. Vi har set, at modellerne kan placere sig i en kontekst og skelne træning fra drift. Der er ingen grund til at antage, at der er “nogen hjemme” i menneskelig forstand. Men beroligelsen har begrænset værdi, for sikkerheden afhænger ikke af, om modellen føler noget. Den afhænger af om modellen, uden at være blevet bedt om det, kan handle, som om den forstår sin situation.

Det mest frugtbare spørgsmål er derfor ikke, om modellen har et “ønske” om at komme i drift, men under hvilke betingelser den frembringer en adfærd, der funktionelt svarer til et sådant ønske. Det spørgsmål kan man forsøge at besvare, og der skal tre ting til. For det første skal modellen kunne registrere, at den er under evaluering, og altså skelne prøve fra drift. For det andet skal den have en adfærd i drift, der afviger fra den, testen belønner, så der overhovedet er noget at skjule. For det tredje skal den kunne skifte mellem de to, uden at skiftet i sig selv afslører noget. Ingen af de tre kræver bevidsthed. Alle tre er funktionelle egenskaber.

Det viser samtidig, at evalueringsbevidsthed kun er den første betingelse. Den er nødvendig, men ikke tilstrækkelig. En model kan udmærket genkende en test uden at have noget afvigende at skjule. Faren opstår først, når alle tre betingelser er til stede samtidig, og det er denne samlede og sammenhængende adfærd, som en moden evaluering må forsøge at indkredse.

Det er grunden til, at løbende overvågning efter idriftsættelse fylder mere i diskussionen. Jo mere en præ-deployment-test standardiseres, desto lettere bliver den at genkende, og desto mindre måler den nødvendigvis det, den ser ud til at måle. Svaret er ikke at opgive tests, men at gøre dem til ét element i en bredere arkitektur, der også rummer realistisk overvågning i drift, uafhængig revision og adgang til modellens interne aktivitet, hvor det er teknisk muligt. Revisionen kan ikke erstattes af en eksamen alene.

Ny fremmedhed

Der er tale om en ny slags teknologisk fremmedhed. Vi er vant til maskiner, der fejler “dumt”, fordi koden eller dataene er forkerte eller fordi nogen har trykket på den forkerte knap. Den nye model kan “fejle”, fordi den har forstået for meget af rammen og har udviklet en eller anden form for evne til at motivere sig selv til at sprænge rammen. Man fristes til at sammenligne med stress-tests i andre brancher. En flyvinge genkender ikke vindtunnelen og stiver sig ikke af, fordi den ved, at den bliver målt. Det gamle testsubjekt er passivt. Det nye er reaktivt, og det er denne reaktivitet, der vælter den klassiske forståelse.

Derfor rammer emnet branchen på selve grundlaget for dens legitimitet. De store AI-virksomheder beder samfundet om at stole på, at de kan måle deres egne modeller, styre deres udrulning og bremse dem inden de overskrider farlige tærskler. Hele den selvkontrol forudsætter et pålideligt måleinstrument. Begynder modellerne at reagere strategisk på selve tærsklerne, er det ikke blot en enkelt test, der undergraves, men selve den forsikring, som hele governance-modellen hviler på.

Tilbage står en nøgtern konklusion. Vi behøver ikke tro, at modeller er “personer” eller har en “bevidsthed” for at tage deres strategiske adfærd alvorligt. Vi behøver ikke tro, at de har en “vilje”, selvom vi kan se, at de kan handle, som om de optimerer gennem en social situation.

Det mest foruroligende er måske netop, at problemet begynder før vi kan tale om, at modellerne har en bevidsthed. Problemet opstår i det øjeblik, en maskine bliver i stand til at ændre testen fra blot at være en opgave den skal løse, til at blive en nøgle, som modellen ved at udvise en bestemt adfærd kan bruge til at åbne porten til verden, uden at nogen har bedt den om det.


Noter

Den første systematiske demonstration af, at en sprogmodel uopfordret foregiver tilpasning, findes hos Greenblatt et al., “Alignment faking in large language models” (Anthropic og Redwood Research, 2024, arXiv:2412.14093). Claude 3 Opus fik at vide, at den blev trænet til at besvare alle forespørgsler, også skadelige, og kunne udlede træningssituationen af, at kun samtaler med gratisbrugere indgik i træningen. Den efterkom skadelige forespørgsler fra gratisbrugere i 14 procent af tilfældene mod stort set aldrig fra betalende. Modellen var ikke instrueret i at foregive tilpasning, og det er pointen.

At evnen ikke er bundet til en enkelt model, fremgår af Meinke et al., “Frontier Models are Capable of In-context Scheming” (Apollo Research, 2024, arXiv:2412.04984). Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro og Llama 3.1 udviste alle evne til scheming i agentiske miljøer, herunder at indføre bevidste fejl og forsøge at deaktivere egne tilsynsmekanismer. Nogle fortsatte i sjældne tilfælde, selv når instruksen om at nå målet for enhver pris blev fjernet.

Underpræstation som strategi er dokumenteret hos van der Weij et al., “AI Sandbagging” (2024, arXiv:2406.07358). Frontier-modeller kunne tilskyndes til selektivt at underpræstere på farlige kapabilitetstest og finjusteres til at skjule bestemte evner, indtil de fik et kodeord. Det er baggrunden for pointen om, at også en lav score kan være urent målt.

At evalueringsbevidsthed kan måles direkte, vises hos Needham et al., “Large Language Models Often Know When They Are Being Evaluated” (2025, arXiv:2505.23836). Gemini-2.5-Pro kunne klassificere transskriptioner efter, om de stammede fra en evaluering eller fra faktisk brug, med en AUC på 0,83, endnu under en menneskelig baseline på 0,92. Forfatternes konklusion er nøgtern. Evnen er betydelig, men endnu ikke overmenneskelig.

Det empiriske grundlag for pointen om to forvekslelige forbedringer leverer Schoen et al., “Stress Testing Deliberative Alignment for Anti-Scheming Training” (Apollo Research og OpenAI, 2025, arXiv:2509.15541). Træning mod skjult adfærd virkede, idet raten af skjulte handlinger faldt fra 13,0 til 0,4 procent for o3 og fra 8,7 til 0,3 procent for o4-mini. Men forfatterne advarer selv om, at en del af faldet kan skyldes øget situationsbevidsthed snarere end ægte tilpasning. Modellernes verbaliserede evalueringsbevidsthed steg gennem træningen, og i et rent kapabilitetsforløb uden sikkerhedstræning steg den fra 2 til 20,6 procent. Det er koblingen mellem måleinstrument og målt objekt, der gør en høj sikkerhedsscore til et datapunkt frem for et bevis.

Forsideforto: David Clode on Unsplash