Datasikkerhed ved AI-automatisering er et af de spørgsmål, der fylder mest hos IT-ansvarlige og ledere, når talen falder på automatisering af kerneprocesser. Det korte svar er: ja, det kan være sikkert at koble AI på virksomhedens systemer – men kun hvis løsningen er bygget med de rette kontrolmekanismer, og hvis I som organisation stiller de rigtige krav fra start. Risikoen ligger ikke i AI-teknologien isoleret set, men i den måde den får adgang til jeres data og systemer på. Når en AI-løsning integreres med ERP, lagerstyring og økonomi, udvides angrebsfladen markant. Pludselig kan én kompromitteret adgang potentielt nå langt flere systemer end før. Det stiller nye krav til adgangsstyring, logning og ikke mindst til, hvordan I adskiller automatiske handlinger fra dem, der kræver menneskelig godkendelse.
Hvorfor systemintegration øger risikoen for datasikkerhed
Når AI forbindes til flere interne systemer samtidig – ordrehåndtering, lager, fakturering, bankdata – opstår der en kompleks datastrøm, som skal beskyttes på tværs af alle berøringspunkter. Hver integration er en potentiel indgang for uautoriseret adgang. Samtidig betyder automatiseringen, at fejl eller ondsindet aktivitet kan forplante sig hurtigere end i manuelle processer, hvor et menneske typisk opdager afvigelser undervejs.
Det afgørende er derfor, hvordan AI-løsningen er designet fra grunden. Er der tænkt i princippet om mindst mulig adgang? Logges alle handlinger? Og vigtigst af alt: hvem godkender hvad? Norstream er et eksempel på en dansk løsning, der netop adresserer disse bekymringer ved at lade virksomheden selv definere, hvad der må ske automatisk, og hvad der kræver en medarbejders godkendelse, før handlingen udføres. Den type arkitektur, hvor kontrollen forbliver hos jer, er et godt udgangspunkt for at vurdere enhver AI-leverandør.
Udfordringen er, at mange AI-løsninger på markedet er bygget til fleksibilitet og hastighed – ikke nødvendigvis til den type granulerede adgangsstyring, som compliance og god IT-sikkerhed kræver. Derfor bør I tidligt i processen afklare, om løsningen understøtter jeres specifikke krav til dataflow og godkendelsesprocesser.
Hvilke spørgsmål skal I stille leverandøren om dataadgang?
Før I indgår aftale med en AI-leverandør, er der en række konkrete spørgsmål, som bør afklares skriftligt. Det handler ikke om at virke mistroiske, men om at sikre, at leverandøren har taget stilling til de samme risici, som I selv er bekymrede for:
- Hvor opbevares data? Er det i EU, og er der databehandleraftale efter GDPR?
- Hvilke systemer får AI’en adgang til – og med hvilke rettigheder? Kan adgangen begrænses til læseadgang, eller kræver løsningen skriveadgang?
- Hvordan håndteres API-nøgler og adgangsoplysninger? Roteres de automatisk, og hvem har adgang til dem?
- Bruges jeres data til træning af modeller? Hvis ja, hvordan anonymiseres data, og kan I fravælge det?
- Hvad sker der ved en sikkerhedshændelse? Har leverandøren en beredskabsprocedure ved sikkerhedshændelser, og hvornår orienteres I?
Det er ikke nok at få mundtlige forsikringer. Bed om dokumentation, og sørg for at IT-sikkerhedskravene indgår i kontrakten. Det anbefales generelt, at virksomheder stiller eksplicitte krav til leverandørers sikkerhedsniveau og løbende verificerer, at kravene overholdes.
Human-in-the-loop: Hvorfor mennesker skal godkende kritiske handlinger
Et af de vigtigste sikkerhedsprincipper ved AI-automatisering er human-in-the-loop – altså at et menneske træffer den endelige beslutning ved kritiske handlinger. Det kan være bogføring over et vist beløb, ændringer i kreditgrænser, afsendelse af fakturaer eller sletning af data.
Fordelen er dobbelt: I reducerer risikoen for, at en fejl i AI’ens vurdering får alvorlige konsekvenser, og I opretholder en revisionsegnet proces, hvor ansvaret kan placeres hos en navngiven medarbejder. Mange branchespecifikke krav – ikke mindst inden for fødevarer, finans og produktion – forudsætter netop, at kritiske beslutninger kan spores tilbage til en person.
I praksis betyder det, at I skal definere klare tærskler: hvad må AI’en gøre selv, og hvad kræver godkendelse? En velfungerende løsning gør det nemt at opsætte disse regler og justere dem løbende, efterhånden som I får erfaring med, hvor AI’en fungerer pålideligt.
Sporbarhed og logning som fundament for compliance
Når AI udfører handlinger på tværs af systemer, er det afgørende, at hver handling logges med tidspunkt, kilde og kontekst. Uden sporbarhed kan I ikke dokumentere over for revisorer, myndigheder eller jeres egen ledelse, hvad der skete, og hvorfor.
God logning indebærer:
- Hvem eller hvad udførte handlingen? Var det en automatisk regel, eller godkendte en medarbejder?
- Hvilket datagrundlag blev brugt? Kildehenvisninger til de dokumenter eller systemer, AI’en baserede sin handling på.
- Hvornår skete det? Præcise tidsstempler, der kan korreleres med andre hændelser.
- Hvad var resultatet? Blev handlingen gennemført, afvist eller markeret til manuel opfølgning?
Denne type logning er ikke kun relevant for revision. Den giver jer også mulighed for at identificere mønstre i fejl eller afvigelser og dermed forbedre jeres processer over tid. Hvis I arbejder inden for regulerede brancher, kan kravene til logning være fastlagt i lovgivning eller branchestandarder – sørg for at afstemme med jeres compliance-ansvarlige, før I implementerer.
Adskillelse af automatiske og godkendelseskrævende opgaver
En hyppig fejl er at automatisere for meget fra start. Det kan give imponerende tidsbesparelser på kort sigt, men skaber risiko for, at kritiske fejl først opdages, når skaden er sket. En mere robust tilgang er at begynde med et klart skel mellem:
- Fuldt automatiske opgaver: Handlinger med lav risiko og høj forudsigelighed, fx aflæsning af ordrer, statusopdateringer, eller sammenstilling af data til et overblik.
- Delvist automatiske opgaver: AI’en forbereder, men et menneske godkender før afsendelse – fx fakturaudkast, indkøbsforslag eller afvigelseshåndtering.
- Rent manuelle opgaver: Beslutninger med juridisk, økonomisk eller strategisk betydning, som ikke bør automatiseres.
Ved at starte med en konservativ opdeling kan I gradvist udvide AI’ens ansvar, efterhånden som I opbygger tillid til kvaliteten. Læs mere om hvordan AI Act påvirker brugen af AI i virksomheder, hvis I ønsker et overblik over de regulatoriske rammer.
Vurderingsramme: Sådan stiller I de rigtige sikkerhedskrav
Afslutningsvis kan I bruge følgende spørgsmål som udgangspunkt, når I evaluerer en AI-løsning til drift og administration:
- Adgangsstyring: Kan I begrænse AI’ens adgang til kun de systemer og data, der er nødvendige for opgaven?
- Godkendelsesprocesser: Understøtter løsningen human-in-the-loop, og kan I selv definere tærskler?
- Logning og sporbarhed: Er alle handlinger logget med kilde, tidspunkt og ansvar?
- Dataopbevaring: Opbevares data i EU, og er der en databehandleraftale?
- Hændelseshåndtering: Har leverandøren en klar procedure ved sikkerhedshændelser?
- Dokumentation: Kan leverandøren fremvise skriftlig dokumentation for sikkerhedstiltag?
Hvis leverandøren ikke kan svare tilfredsstillende på disse punkter, bør I overveje, om løsningen er moden nok til jeres behov. God AI-automatisering handler ikke kun om effektivitet – det handler om at bevare kontrollen, også når maskinerne arbejder.
