Hvad er risikostyring i AI-automatisering?
Risikostyring i AI-automatisering er arbejdet med at identificere, vurdere og reducere, hvad der kan gå galt, når sprogmodeller og workflows handler på jeres data og i jeres systemer: forkerte svar, datalæk, bias, systemnedbrud og manglende revisionsspor. Det hænger sammen med AI governance og compliance, men fokus her er den praktiske styring pr. use case.
Risiko er konsekvens gange sandsynlighed, ikke teknologifrygt
Vi ser ofte risikovurderinger, der lister alle teoretiske AI-farer uden at skelne mellem en intern opsummering af mødereferater og en automatisk kreditbeslutning. For SMV'er er den brugbare tilgang konsekvens-styret: hvad sker der, hvis modellen tager fejl, og hvor mange gange sker det?
Typiske risici i drift:
- Forkert output, der ikke opdages før en kunde eller myndighed ser det.
- Data sendt til forkert miljø eller model.
- Integration, der skriver dobbelt eller sletter forkert.
- Ingen kan forklare, hvorfor systemet handlede, som det gjorde.
Kontroller, der faktisk virker
- Afgræns use cases med lav konsekvens til fuld automatisering.
- Kræv menneskelig godkendelse, hvor fejl gør ondt.
- Log input, output, kilder og systemhandlinger.
- Stikprøver og alarmer, når kvaliteten skrider.
- Hallucinationskontrol og guardrails i flows med ekstern eksponering.
Hos Radiometer kører et automatiseret oversættelsesflow med validator-workspace og sporbarhed, så fejl fanges, før materiale går videre. Det er risikostyring: maskinen tager volumen, mennesket og processen tager ansvaret dér, hvor fejl koster. Se casen her.
Lav en risikovurdering på én time
Vælg ét AI-flow. Beskriv den værste realistiske fejl, sandsynligheden, og hvilken kontrol der allerede findes. Tilføj én kontrol, der mangler. Gentag, når flowet udvides. Risikostyring er levende, ikke et Excel-ark ved projektstart.