Når AI begynder at handle selv – hvem har så ansvaret?

I artiklen 13 afsnit

1. Hvad sker der, når en AI-agent gør noget, ingen har godkendt?
2. Hvad er forskellen på en AI-assistent og en AI-agent?
3. Hvem har ansvaret, når en AI-agent sender fortrolige oplysninger til den forkerte?
4. Hvorfor er manglende overblik et større problem end selve fejlen?
5. Hvorfor er dokumentation mere end noget til en revision?
6. Hvad siger EU’s AI-forordning og GDPR om AI-agenter?
7. Hvilke otte spørgsmål bør I kunne besvare om jeres AI-agenter?
8. Hvordan får I overblik, når AI bruges i mange afdelinger?
9. Hvorfor udvikler jeg SPOR?
10. Hvad sker der, hvis I ikke tager stilling, før agenten handler?
11. Hvad kan I gøre nu?
12. Hvad skal vi spørge om, når AI kan handle selv?
13. Ofte stillede spørgsmål

Hvad sker der, når en AI-agent gør noget, ingen har godkendt?

Forestil dig, at du møder ind på arbejde mandag morgen.

Din virksomhed har netop taget en AI-agent i brug. Den kan læse indgående kundemails, finde oplysninger i jeres systemer, oprette sager og sende svar.

Det fungerer fantastisk.

Kunderne får hurtigere svar. Medarbejderne får mere tid. Og ledelsen kan se, at investeringen begynder at give mening.

Indtil den dag, hvor noget går galt.

En kunde modtager oplysninger, der tilhører en anden. En ordre bliver ændret forkert. Eller en AI-agent sender en besked, som ingen medarbejder har godkendt.

Nu begynder spørgsmålene.

Hvem gav AI’en adgang? Hvem besluttede, hvad den måtte gøre? Hvilke oplysninger havde den adgang til? Og kan I dokumentere, hvad der faktisk skete?

AI’en udførte handlingen. Men hvem har ansvaret?

Det spørgsmål bliver stadig vigtigere, efterhånden som virksomheder bevæger sig fra at bruge AI som et værktøj til at lade AI udføre opgaver på deres vegne.

Og det handler ikke kun om teknologi.

Det handler om ansvar, sikkerhed, tillid og evnen til at dokumentere de beslutninger, man har truffet.

Hvad er forskellen på en AI-assistent og en AI-agent?

Vi har altid haft værktøjer. Men AI ændrer noget grundlæggende.

Tænk på en hammer.

Hvis en håndværker bruger den forkert, giver vi ikke hammeren skylden. Vi undersøger, hvem der brugte den, og hvad der skete.

Et almindeligt computersystem er lidt mere kompliceret, men princippet er stadig forholdsvis enkelt. Et menneske udfører en handling, og systemet følger nogle definerede instruktioner.

Med AI begynder billedet at ændre sig.

En AI-assistent kan formulere et svar, analysere et dokument eller foreslå en løsning.

En AI-agent kan derimod være sat op til at planlægge og udføre flere handlinger for at nå et mål. Den kan eksempelvis bruge værktøjer, hente data, kommunikere med andre systemer og udføre opgaver inden for de rammer, den har fået.

Det betyder ikke, at alle AI-agenter arbejder uden menneskelig kontrol. Nogle kræver godkendelse før vigtige handlinger. Andre kan arbejde mere selvstændigt.

Men jo mere handlefrihed et system får, desto vigtigere bliver det at definere grænserne.

For hvis en AI-agent kan ændre kundedata, sende emails eller påvirke virksomhedens beslutninger, er det ikke længere tilstrækkeligt at vide, hvilken AI-model der ligger bag.

Virksomheden skal også vide, hvad systemet må, og hvem der har godkendt det.

AI kan udføre arbejdet. Men ansvaret forsvinder ikke.

Vil I gå i dybden med selve adgangen, kan I læse hvem der bestemmer, hvad en AI-agent må læse, foreslå og udføre.

Hvem har ansvaret, når en AI-agent sender fortrolige oplysninger til den forkerte?

Forestil dig, at en AI-agent får til opgave at behandle kundehenvendelser.

Den er udviklet af en ekstern leverandør, integreret af IT-afdelingen og taget i brug af kundeservice.

En dag sender den fortrolige kundeoplysninger til den forkerte modtager.

Hvem er så ansvarlig?

Det kan man ikke besvare alene ved at pege på den person, der trykkede på startknappen.

Afhængigt af situationen kan der være ansvar og forpligtelser hos flere parter: leverandøren, udvikleren, den virksomhed, der anvender systemet, og de personer, som har fået bestemte organisatoriske opgaver.

Det juridiske ansvar afhænger blandt andet af kontrakter, databeskyttelsesregler, systemets anvendelse og virksomhedens rolle efter den relevante lovgivning.

Men én ting bør enhver virksomhed kunne svare på:

Hvem har ansvaret for, at netop dette AI-system anvendes forsvarligt hos os?

Hvis svaret er uklart, har virksomheden allerede et governanceproblem. Det er netop her, spørgsmålet om, hvem der ejer AI-systemet, bliver konkret.

Hvorfor er manglende overblik et større problem end selve fejlen?

Fejl kan ske i både manuelle og automatiserede processer.

Det alvorlige problem opstår, når virksomheden ikke kan forklare, hvordan fejlen kunne ske, hvilke kontroller der fandtes, eller hvad man gjorde for at begrænse risikoen.

Jeg har selv oplevet, hvor omfattende den opgave kan være.

Da jeg fik ansvaret for AI i en virksomhed med mere end 500 medarbejdere, var det ikke kun et spørgsmål om at finde de rigtige teknologier.

Det handlede også om at skabe struktur omkring data, sikkerhed, systemer, medarbejdere, leverandører og ansvar.

Hvor starter man, når AI bliver relevant i mange forskellige afdelinger? Hvem ved, hvad der allerede bliver brugt? Hvem skal godkende nye løsninger? Og hvordan sikrer man, at beslutningerne ikke bare ligger i en email, et regneark eller i hovedet på én medarbejder?

Det var nogle af de grundlæggende udfordringer, jeg arbejdede med.

Og det lærte mig noget vigtigt:

Det er svært at tage ansvar for noget, man ikke har overblik over.

Når fejlen så sker, er der en praktisk forskel på at have et overblik og at lede efter det. Læs også hvad virksomheden gør bagefter, når AI har lavet en fejl.

Hvorfor er dokumentation mere end noget til en revision?

Når virksomheder hører ordet dokumentation, tænker mange på lange politikker, juridiske dokumenter og mapper, som ingen åbner.

Men dokumentation af AI bør først og fremmest være noget, virksomheden selv kan bruge.

Forestil dig, at en kunde spørger: “Bruger I AI til at behandle vores oplysninger, og hvordan har I sikret, at det foregår forsvarligt?” Ville I kunne finde svaret?

Ikke efter tre ugers undersøgelser og mails frem og tilbage. Men ved at slå den konkrete AI-anvendelse op og se, hvad I har besluttet.

Et godt dokumentationsgrundlag bør kunne fortælle, hvorfor systemet bruges, hvilke data det behandler, hvem der har ansvaret, hvilke risici man har vurderet, og hvilke kontroller der er etableret.

Det er forskellen mellem at håbe, at man har styr på tingene, og faktisk at kunne vise det.

Tre typer dokumentation, som ikke må forveksles

De tre områder hænger sammen, men de er ikke det samme.

Et register over AI-systemer fortæller eksempelvis ikke automatisk, præcis hvilke oplysninger en agent sendte klokken 10.42. Det kræver relevante tekniske logs og en opsætning, hvor hændelser kan undersøges.

Omvendt er en teknisk log heller ikke bevis for, at nogen har vurderet risikoen eller godkendt anvendelsen.

Virksomheden har brug for begge perspektiver. Se også, hvad et AI-register bør indeholde, og hvordan en AI-politik kan sætte rammen.

Hvad siger EU’s AI-forordning og GDPR om AI-agenter?

Der findes ikke én enkelt regel, der gør alle AI-agenter til højrisikosystemer.

EU’s AI-forordning arbejder med forskellige kategorier og forpligtelser, som afhænger af systemets formål, anvendelse og de involverede parters roller.

Et AI-system, der eksempelvis bruges til at vurdere jobansøgere, kan være omfattet af reglerne for højrisiko-AI. En AI-agent, der hjælper med at sortere almindelige interne opgaver, er ikke automatisk højrisiko, blot fordi den er en agent. Læs mere om hvornår AI kan være højrisiko.

Samtidig kan GDPR gælde, når AI-systemet behandler personoplysninger. Her skal virksomheden blandt andet forholde sig til behandlingsgrundlag, formålsbegrænsning, dataminimering, sikkerhed og eventuelle databehandlerforhold.

Og hvis AI anvendes til afgørelser, der har retsvirkning eller tilsvarende væsentlig betydning for personer, kan GDPR’s særlige regler om automatiske individuelle afgørelser også blive relevante.

Det er vigtigt at skelne mellem, hvad lovgivningen konkret kræver, og hvad der er fornuftig governancepraksis.

Men uanset om et AI-system er klassificeret som højrisiko, er der en praktisk pointe: Jo større adgang og handlefrihed et system får, desto større grund har virksomheden til at stille krav til kontrol, sporbarhed og dokumentation.

Officielle kilder

• EU AI Act (forordning 2024/1689), EUR-Lex
• GDPR (forordning 2016/679), EUR-Lex
• Datatilsynet

Hvilke otte spørgsmål bør I kunne besvare om jeres AI-agenter?

Det behøver ikke starte med et stort complianceprojekt.

Start med én AI-agent, som allerede bruges, eller som I overvejer at indføre.

Hvis I ikke kan besvare alle spørgsmålene endnu, er det ikke nødvendigvis et tegn på, at I bruger AI forkert.

Men det fortæller jer, hvor der mangler afklaring.

Og det er et langt bedre udgangspunkt end at vente, til noget går galt. Spørgsmål 5 kan I tage fat på med en AI-risikovurdering uden at være ekspert.

Hvordan får I overblik, når AI bruges i mange afdelinger?

En udfordring er, at AI sjældent bliver indført ét sted i virksomheden.

Marketing begynder at bruge ChatGPT. Salg arbejder med Copilot. Udviklingsafdelingen bygger egne AI-løsninger. Kundeservice undersøger AI-agenter, som kan besvare henvendelser.

Hver afdeling har måske styr på sit eget område.

Men hvem kan se det samlede billede?

Hvem ved, hvilke løsninger der behandler personoplysninger, hvilke leverandører der anvendes, og hvilke systemer der har adgang til virksomhedens data?

Og hvem sikrer, at nye AI-agenter bliver vurderet, før de får adgang til at udføre handlinger?

Det er netop den udfordring, der ligger bag udviklingen af SPOR. Læs også om, hvordan AI kommer til at fungere på tværs af virksomheden.

Hvorfor udvikler jeg SPOR?

SPOR er en platform under udvikling, der skal gøre det lettere for virksomheder at skabe overblik over deres AI-anvendelser, systemer, ansvar og dokumentation.

Tanken er enkel: Virksomheden skal ikke være afhængig af, at én bestemt medarbejder ved, hvor alle oplysningerne findes.

SPOR udvikles til at samle:

• AI-anvendelser og systemer.
• Leverandører og datakategorier.
• Formål og ansvarlige personer.
• Risikovurderinger og kontroller.
• Godkendelser og beslutninger.
• Dokumentation og opfølgning.
• Hændelser og næste handlinger.

Når en ny AI-agent skal tages i brug, skal det være muligt at registrere formålet, den ansvarlige, de relevante datakategorier, risici, beslutninger og kontroller.

Hvis en kunde efterspørger dokumentation, skal virksomheden lettere kunne finde de relevante oplysninger. Og hvis systemet ændrer sig, skal der være en struktur for at følge op.

SPOR skal ikke erstatte teknisk sikkerhed, adgangsstyring eller de logs, som AI-agentens egne systemer skal kunne levere. Det skal hjælpe virksomheden med at samle og vedligeholde governancegrundlaget omkring anvendelsen.

Det er heller ikke en certificering eller en garanti for, at virksomheden overholder alle regler. Det er et værktøj til at arbejde mere struktureret med AI.

For min erfaring er, at det ofte ikke er ambitionerne, der mangler. Det er overblikket og en praktisk måde at komme i gang på.

Hvad sker der, hvis I ikke tager stilling, før agenten handler?

Det betyder ikke, at noget går galt. Men hvis det sker, vil virksomheden typisk opleve:

• at ingen kan svare en kunde på, hvordan AI-brugen er sikret, uden en undersøgelse fra bunden,
• at beslutningerne ligger i mails, regneark og hos enkelte medarbejdere,
• at tiden går med at finde ud af, hvem der ejede hvad, i stedet for at begrænse skaden.

Det er konsekvenser af manglende overblik, ikke af, at AI er farlig i sig selv.

Hvad kan I gøre nu?

1. Vælg én AI-agent, I allerede bruger eller overvejer.
2. Besvar de otte spørgsmål skriftligt, og skriv navnet på den ansvarlige ved hvert svar.
3. Markér de spørgsmål, I ikke kan besvare, og aftal, hvem der afklarer dem, og hvornår.

Næste skridt: Når I har overblikket over én agent, kan I samle det i en AI-politik og et AI-register.

Hvad skal vi spørge om, når AI kan handle selv?

I mange virksomheder handler samtalen stadig om muligheder.

Hvor meget tid kan vi spare? Hvilke opgaver kan vi automatisere? Hvilke nye løsninger kan vi bygge?

Det er relevante spørgsmål.

Men når AI får mulighed for at handle på virksomhedens vegne, bør vi også stille nogle andre.

Hvad må systemet gøre? Hvad må det ikke gøre? Hvem griber ind, når noget går galt? Og kan vi dokumentere, hvordan vi har taget ansvar?

Vi behøver ikke være bange for AI-agenter. Men vi skal forstå, at automatisering ikke fjerner virksomhedens behov for kontrol.

Tværtimod.

AI kan arbejde selvstændigt. Ansvaret kan ikke.

Ofte stillede spørgsmål

Er alle AI-agenter højrisikosystemer?

Nej. Der findes ikke én regel, der gør alle AI-agenter til højrisikosystemer. AI-forordningen ser på systemets formål og anvendelse. En agent, der bruges til at vurdere jobansøgere, kan være højrisiko. En agent, der sorterer almindelige interne opgaver, er ikke højrisiko, blot fordi den er en agent.

Hvem er juridisk ansvarlig, når en AI-agent begår en fejl?

Det afhænger af blandt andet kontrakter, databeskyttelsesregler, systemets anvendelse og virksomhedens rolle efter den relevante lovgivning. Ansvar og forpligtelser kan ligge hos flere parter, fx leverandøren, udvikleren og virksomheden, der bruger systemet. Spørg en jurist om en konkret sag.

Er dokumentation det samme som teknisk logning?

Nej. Dokumentation viser, hvorfor systemet bruges, hvem der har ansvaret, og hvilke risici og kontroller virksomheden har besluttet. Teknisk logning viser, hvilke handlinger systemet udførte, og hvornår. Virksomheden har brug for begge dele.

Skal et menneske godkende alt, hvad en AI-agent gør?

Ikke nødvendigvis. Nogle agenter kræver godkendelse før vigtige handlinger, andre arbejder mere selvstændigt. Jo mere handlefrihed en agent har, desto vigtigere er det at definere, hvad den må, og hvornår et menneske skal kontrollere eller godkende.

Eksemplerne er tænkte. Artiklen er generel vejledning og ikke juridisk rådgivning. SPOR er under udvikling og er hverken certificering, revision eller en garanti for, at virksomheden overholder reglerne. Udgivet 12. oktober 2026.