En AI-agent er software, der arbejder mod et bestemt mål gennem flere trin. Den får instruktioner og oplysninger, vælger en næste handling og kan bruge de værktøjer, den har fået adgang til. Bagefter kan den vurdere resultatet efter de regler, den er sat op med, fortsætte, stoppe eller sende opgaven videre til et menneske.
Det betyder ikke, at en AI-agent er en digital medarbejder med fri vilje. Den er en anvendelse af kunstig intelligens, og dens handlerum bliver bestemt af mennesker og de systemer, den er koblet til. Nogle løsninger kan kun foreslå et næste skridt. Andre må udføre konkrete handlinger, men kun med de rettigheder og begrænsninger, de er sat op med.
AI-agent, chatbot og AI-værktøj er ikke det samme
En chatbot er først og fremmest en samtalegrænseflade. Du skriver et spørgsmål, og den svarer. En chatbot som ChatGPT kan indgå i en løsning med agentfunktioner, men en samtale i sig selv gør ikke systemet til en agent.
Et AI-værktøj udfører typisk en afgrænset funktion. Det kan for eksempel transskribere lyd, klassificere tekst eller generere et billede. En agent kan bruge et eller flere godkendte AI-værktøjer som led i en arbejdsgang og vælge rækkefølgen ud fra målet og de resultater, der kommer undervejs.
Forskellen ligger derfor ikke i en bestemt knap eller et bestemt produktnavn. Den ligger i arbejdsgangen. Agenten får et mål og et afgrænset handlerum, mens chatbotten typisk svarer på den aktuelle besked, og værktøjet løser en bestemt funktion. I virkelige produkter kan rollerne godt være blandet sammen.
Sådan arbejder en AI-agent i en enkel løkke
Det er nyttigt at se en agent som en løkke med fem dele:
- Mål og regler: Opgaven skal være konkret. Reglerne angiver blandt andet, hvilke handlinger agenten må udføre, hvilke data den må bruge, og hvornår den skal stoppe.
- Kontekst: Agenten får de oplysninger, der er relevante for opgaven. Det kan være en besked, et sæt dokumenter eller data fra et godkendt system.
- Valg af næste skridt: En sprogmodel (LLM) kan være den komponent, der vurderer instruktionen og foreslår næste handling. Det er ikke en garanti for, at valget er korrekt.
- Handling med et værktøj: Hvis opsætningen tillader det, kan agenten for eksempel søge i en intern kilde, oprette et svarforslag eller udfylde et felt.
- Kontrol og stop: Resultatet bliver vurderet op mod målet. Agenten fortsætter kun inden for de fastsatte rammer. Ved tvivl, fejl eller en fastsat grænse skal den stoppe eller bede et menneske tage over.
Denne løkke er en forklaringsmodel. Den beskriver ikke alle produkter, og den gør ikke modellens interne proces gennemsigtig. Man kan kontrollere input, tilladte handlinger og synlige resultater, men man bør ikke antage, at alle mellemregninger kan aflæses eller forklares sikkert.
Tre tænkte eksempler med tydelige grænser
Eksemplerne her er tænkte arbejdsgange, ikke dokumentation for bestemte produkter eller resultater.
Et svarforslag til en enkel supporthenvendelse
Agenten modtager en supportbesked og må slå op i virksomhedens godkendte hjælpetekster. Den kan placere henvendelsen i en kategori og skrive et forslag til svar. Den må ikke sende svaret, ændre kundens oplysninger eller love en kompensation. En medarbejder kontrollerer kilden, retter svaret og beslutter, om det skal sendes.
En oversigt fra interne kilder
Agenten får en liste over godkendte mapper og et præcist spørgsmål. Den samler relevante oplysninger og laver en kort oversigt med henvisninger til de dokumenter, den har brugt. Den må ikke søge i andre mapper eller udfylde huller med gæt. Et menneske kontrollerer, at henvisningerne faktisk understøtter teksten, og at materialet ikke er forældet.
Opfølgning efter et møde
Agenten får godkendte mødenoter og en liste over deltagere. Den kan finde aftaler og deadlines i noterne og formulere et forslag til opfølgning. Den må ikke tilføje beslutninger, som ikke står i materialet, eller sende beskeden. Mødelederen gennemgår forslaget og står for den endelige udsendelse.
I alle tre eksempler er input, værktøjer, grænser og menneskelig kontrol beskrevet på forhånd. Det er vigtigere end at kalde løsningen mere eller mindre autonom.
Her kan det gå galt
En agent kan få et overbevisende resultat til at se korrekt ud, selv om en kilde er gammel, instruktionen er tvetydig eller modellen har udfyldt et hul uden belæg. Hvis den må bruge værktøjer, kommer der flere fejlkilder til. Den kan vælge det forkerte værktøj, sende forkerte data videre eller gentage en handling, som kun skulle udføres én gang.
Rettigheder kræver særlig opmærksomhed. En agent bør ikke få adgang til flere data eller handlinger, end opgaven kræver. Fortrolige oplysninger kan ende det forkerte sted, hvis kilder, logning og adgang ikke er afgrænset. Derfor bør man på forhånd beslutte, hvad der må læses, hvad der må ændres, og hvad der altid kræver godkendelse.
Det amerikanske National Institute of Standards and Technology (NIST) beskriver AI-risikostyring som et løbende arbejde med at styre, kortlægge, måle og håndtere risici. NIST fremhæver også, at roller og ansvar samt processer for menneskeligt tilsyn bør være klart defineret. Det er en nyttig ramme, fordi en kontrol ikke kun hører hjemme til sidst. Den skal tænkes ind i hele arbejdsgangen. Se NIST AI RMF Core.
Inden du tager en AI-agent i brug
Begynd med en opgave, hvor en fejl kan opdages og rettes. Et svarforslag, som et menneske skal godkende, er lettere at afprøve end en arbejdsgang, der sender beskeder eller ændrer data uden kontrol.
Skriv derefter rammerne ned:
- Hvad er det præcise mål?
- Hvordan ser et acceptabelt resultat ud?
- Hvilke data må agenten bruge?
- Hvilke handlinger må den udføre, og hvilke må den aldrig udføre?
- Hvornår skal den stoppe og bede om hjælp?
- Hvem kontrollerer resultatet og har ansvaret for den endelige handling?
Brug tydelige instruktioner, men betragt dem ikke som den eneste sikkerhed. Adgangsbegrænsninger, godkendelsestrin og logning, hvor det er relevant, bør håndhæves af systemet omkring modellen.
Afprøv også de kedelige undtagelser: et tomt felt, to modstridende dokumenter, en ukendt kunde, en ugyldig dato eller et værktøj, der ikke svarer. Testen skal vise, om agenten stopper på det rigtige tidspunkt, ikke kun om den kan gennemføre det nemme eksempel.
Sammenhængen med andre AI-begreber
En AI-agent står sjældent alene. En LLM kan hjælpe med at fortolke tekst og vælge næste skridt. Generativ AI kan skrive et svar eller fremstille andet indhold. Hentning fra udvalgte kilder kan give relevant kontekst, men det gør ikke oplysningerne korrekte af sig selv. Prompts og andre instruktioner beskriver opgaven, mens de tilknyttede værktøjer afgør, hvilke handlinger systemet faktisk kan udføre.
Det afgørende er derfor ikke, om noget markedsføres som en agent. Se i stedet på den konkrete arbejdsgang: Hvilket mål forfølger systemet, hvad har det adgang til, hvilke handlinger må det udføre, hvordan opdages fejl, og hvem kan stoppe det?
En AI-agent kan hjælpe med at gennemføre en afgrænset arbejdsgang i flere trin. Mennesket har stadig ansvaret for målet, adgangen og beslutningen om at bruge resultatet.
