Fra chatbot til digital aktør
En almindelig chatbot leverer et svar. En AI-agent kan gå videre og handle på baggrund af svaret.
Den kan eksempelvis finde information i forskellige systemer, opdatere et regneark, forberede et kundesvar, koordinere en kalender eller gennemføre dele af en administrativ proces. Nogle agenter kan planlægge en opgave, vælge mellem forskellige værktøjer og korrigere deres fremgangsmåde undervejs.
Det gør teknologien mere anvendelig. Men det betyder også, at en fejl ikke længere nødvendigvis bliver stående som en forkert formulering på en skærm. Den kan blive til en sendt besked, en ændret aftale eller en handling i et system.
Derfor er AI-agenter ikke blot bedre chatbots. De flytter AI fra rådgivning til udførelse.
Handlefrihed er ikke enten-eller
Samtalen om AI-agenter bliver ofte fremstillet som et valg mellem fuld automatisering og fuld menneskelig kontrol. I praksis findes der flere niveauer.
På det første niveau kommer AI med et forslag. Mennesket vurderer forslaget og udfører selv handlingen.
På det næste niveau forbereder AI opgaven, men stopper ved et tydeligt godkendelsespunkt. Det kan være et svar, som ligger klar til afsendelse, eller en ændring, som først gennemføres, når et menneske har kontrolleret den.
På det tredje niveau får AI lov til at gennemføre bestemte handlinger inden for aftalte rammer. Mennesket godkender ikke nødvendigvis hvert enkelt skridt, men kan følge arbejdet, gribe ind og efterfølgende se, hvad der er sket.
Det rigtige niveau afhænger ikke kun af, hvor avanceret teknologien er. Det afhænger af konsekvensen, hvis noget går galt.
Ikke alle handlinger har samme risiko
Der er stor forskel på at sortere interne dokumenter og at sende en besked til en kunde. Det samme gælder forskellen mellem at foreslå et mødetidspunkt og at aflyse en aftale uden godkendelse.
En nyttig vurdering kan begynde med fire spørgsmål:
- Kan handlingen nemt føres tilbage?
- Kan den påvirke kunder, medarbejdere eller samarbejdspartnere?
- Har den økonomiske, juridiske eller sikkerhedsmæssige konsekvenser?
- Er det tydeligt, hvem der har ansvaret for resultatet?
Kontrollen skal passe til risikoen
Handlinger med begrænsede og reversible konsekvenser kan ofte automatiseres mere. Følsomme, irreversible eller økonomisk betydningsfulde handlinger bør som udgangspunkt have et klart menneskeligt kontrolpunkt.
Det handler ikke om mistillid til al automatisering. Det handler om at tilpasse kontrollen til risikoen.
Ansvar skal designes ind i arbejdsgangen
Menneskelig kontrol virker kun, hvis mennesket faktisk har mulighed for at forstå, hvad AI-systemet gør.
En godkendelsesknap er ikke meget værd, hvis brugeren ikke kan se grundlaget for handlingen. Det samme gælder en aktivitetslog, der er så teknisk eller omfattende, at ingen kan bruge den.
God kontrol kræver blandt andet, at det er muligt at se:
- Opgaven. Hvad er AI blevet bedt om?
- Grundlaget. Hvilke oplysninger og værktøjer har den anvendt?
- Handlingerne. Hvad har den allerede gennemført?
- Næste skridt. Hvad ønsker den at gøre nu?
- Stopmuligheden. Hvordan kan arbejdet standses eller føres tilbage?
Fra godkendelse til overvågning
Nyere undersøgelser af AI-agenter peger på, at erfarne brugere ikke nødvendigvis godkender flere handlinger enkeltvis. De bevæger sig i stedet mod løbende overvågning og griber ind, når agenten bevæger sig i en forkert retning.
Menneskelig kontrol er derfor ikke kun et spørgsmål om at sige ja eller nej. Det handler også om synlighed, mulighed for indgriben og klare grænser.
Mere adgang giver større konsekvenser
En AI-agent bliver nyttig, når den får adgang til de systemer og oplysninger, der er nødvendige for opgaven. Men hver ny adgang udvider samtidig det område, hvor en fejl eller manipulation kan få betydning.
Et system, der kun kan læse en kalender, har en anden risikoprofil end et system, der også kan ændre aftaler og sende beskeder. Derfor bør en agent ikke få bredere adgang, end opgaven kræver.
Det britiske National Cyber Security Centre anbefaler, at organisationer kun giver AI-agenter den adgang, de behøver, og begrænser, hvilke handlinger de må udføre. Organisationen fremhæver samtidig, at agenters øgede handlefrihed kan gøre deres adfærd vanskeligere at forudsige, teste og kontrollere.
En særlig udfordring er indirekte promptinjektion. Det kan opstå, når en agent møder skjulte eller vildledende instruktioner i eksempelvis en hjemmeside, en mail eller et dokument og fejlagtigt behandler dem som en del af sin opgave.
Forskere fra blandt andet ETH Zürich, IBM, Microsoft og EPFL har undersøgt, hvordan AI-agenter kan beskyttes mod denne type manipulation. Deres arbejde peger på, at sikkerhed ikke alene kan baseres på, at sprogmodellen skal genkende alle farlige instruktioner. Agentens mulige handlinger og adgange skal også begrænses gennem selve systemets design.
Jo mere en agent kan gøre, desto vigtigere bliver det at afgrænse dens rettigheder og kræve særskilt godkendelse ved handlinger med større konsekvenser.
Begynd med én afgrænset arbejdsgang
Virksomheder behøver ikke begynde med en agent, der bevæger sig frit på tværs af hele organisationen. Det er ofte bedre at vælge én konkret arbejdsgang med tydelige grænser.
Det kan være en proces, hvor AI:
- Indsamler. Samler og strukturerer den nødvendige information.
- Udarbejder. Forbereder et konkret forslag.
- Markerer. Gør usikkerheder og mangler synlige.
- Afleverer. Sender resultatet til menneskelig vurdering.
- Lærer. Bruger de rettelser, der bliver foretaget.
Udvid først, når processen fungerer
Her bliver det muligt at undersøge, om løsningen faktisk sparer tid, om kvaliteten er stabil, og hvor mennesker fortsat skal bruge deres faglige dømmekraft.
Først når processen fungerer, kan handlefriheden udvides gradvist. Ikke fordi målet nødvendigvis er fuld automatisering, men fordi virksomheden har opbygget erfaring med, hvor teknologien skaber værdi, og hvor den kræver kontrol.
Vi kan automatisere udførelsen, men ikke ansvaret
AI-agenter kan gøre digitale arbejdsgange mere sammenhængende. De kan overtage gentagelser, koordinere flere trin og hjælpe mennesker med at komme fra intention til handling.
Men når AI får mulighed for at handle, bliver designet af ansvar lige så vigtigt som designet af selve løsningen.
Det afgørende spørgsmål er derfor ikke, om AI skal have handlefrihed. Det er, hvilken handlefrihed den skal have i en konkret situation, hvordan dens arbejde kan kontrolleres, og hvem der tager ansvaret, når noget ikke går som forventet.
Den bedste AI-agent er ikke nødvendigvis den, der kan gøre mest på egen hånd. Det er den, der gør det rigtige inden for tydelige grænser og ved, hvornår den skal aflevere opgaven tilbage til et menneske.