Observerbarhed for AI-agenter: se, hvad en agent gør i realtid

Jo mere autonomi en AI-agent får, jo mere centralt bliver spørgsmålet "hvad gjorde den egentlig?". En agent, der kører kontinuerligt, tilgås fra flere kanaler, kalder værktøjer og til tider uddelegerer til underagenter, producerer en aktivitet, der er svær at følge med det blotte øje. Observerbarhed er det tekniske svar på dette problem: at gøre det, der reelt sker inde i systemet, synligt, sporbart og forståeligt.

Detaljeret definition

Observerbarhed, i bred forstand inden for softwareteknik, er evnen til at forstå et systems interne tilstand ved at undersøge det, det producerer udadtil, typisk traces, metrikker og logs. Det er den definition, OpenTelemetry anvender, referencestandarden for softwareinstrumentering, understøttet af mange udbydere af observerbarhedsværktøjer. Disse tre datatyper spiller komplementære roller: traces følger en forespørgsel gennem dens forløb i et distribueret system, logs registrerer tidsstemplede hændelser, koblet eller ikke til en bestemt forespørgsel, og metrikker aggregerer talmæssige målinger over tid.

Observerbarhed for agenter anvender dette samme princip på det specifikke tilfælde med en autonom AI-agent. Der findes endnu ikke en enkelt, bredt etableret standard, der præcist definerer, hvad agentisk observerbarhed skal dække, i modsætning til klassisk softwareobserverbarhed, der har en moden standard som OpenTelemetry. I praksis konvergerer platforme, der driver agenter, dog mod fælles behov: at vide, hvilken handling en agent har udført, på hvilket værktøj, hvornår, med hvilket resultat, og på initiativ af hvilken udløser (en samtale, en e-mail, en planlagt opgave).

Det er ikke en teknisk luksus forbeholdt store teams. Så snart en agent kan handle uden systematisk godkendelse af hvert trin, bliver observerbarhed den konkrete måde at besvare spørgsmålet "hvorfor gjorde den det?" på efterfølgende, eller at opdage en unormal adfærd, før den forårsager et reelt problem.

Sådan fungerer det

Konkret hviler en agents observerbarhed på tre lag oven på hinanden. Det første er indfangning af hændelser: hver beslutning, hvert værktøjskald, hvert væsentligt ræsonnementstrin registreres i det øjeblik, det sker, med et tidsstempel, en status (i gang, gennemført, fejlet) og oprindelsen af udløsningen. Det andet er strukturering: disse rå hændelser kategoriseres (en handling på en fil logges ikke på samme måde som et kald til et eksternt værktøj eller et ræsonnementstrin i modellen), så man kan filtrere og søge effektivt. Det tredje er gengivelse: en grænseflade eller et eksport, der lader et menneske gennemgå denne aktivitet, hvad enten det er for en bestemt agent eller for en hel organisation.

Et godt agentisk observerbarhedssystem skelner også det uddelegerede arbejde: når en agent overlader en delopgave til en midlertidig underagent, skal denne uddelegering forblive synlig i overagentens tidslinje, ellers bliver en del af det reelle arbejde usynligt.

Konkret eksempel fra Atako

Hos Atako bygger observerbarhed pr. agent på en aktivitetstidslinje i realtid: hver hændelse kategoriseres der (web, filer, hukommelse, kode, integration, planlægning, uddelegering, modelræsonnement, andet), med en status (i gang, gennemført, fejlet), en varighed og en præcis oprindelse (chat, e-mail, webhook, planlagt opgave, agent-til-agent-besked, underagent eller system). Et dedikeret panel, "Tool logs", lister separat hvert integrationskald, agenten har foretaget, med sit resultat (succes, afvisning, fejl).

Denne observerbarhed pr. agent suppleres af en virksomhedsbred visning, forbeholdt administratorer: en side med "Integration logs", der kan filtreres efter team, agent, udbyder og dato, med en CSV-eksport på op til 50.000 linjer, samt en samlet visning af brug pr. integrationsudbyder. Hvert logget kald bevarer den pågældende agent, den brugte forbindelse, udbyderen, den præcise handling, dens argumenter (med følsomme felter som en e-mails indhold eller en søgeforespørgsel altid maskeret), status, HTTP-koden returneret af udbyderen, latensen og tidsstemplet. Tilladelsesværnene (grants) og observerbarheden arbejder hånd i hånd: den ene afgør, om en handling er tilladt, den anden bevarer sporet af, hvad der reelt skete.

Almindelige fejl

En almindelig fejl er at forveksle observerbarhed med en simpel fejllog. Et observerbart system nøjes ikke med at flage, når noget går i stykker, det giver også synlighed i den normale drift, hvilket gør det muligt at forstå en uventet adfærd, selv når intet teknisk set fejlede.

Anden fejl: at tro, observerbarhed forhindrer en agent i at handle forkert. Det er ikke en blokeringsmekanisme, det er en synlighedsmekanisme. Den kombineres med tilladelser og, for følsomme handlinger, med et menneskeligt godkendelsespunkt, men erstatter ingen af delene.

Tredje fejl: at forbeholde observerbarheden til administratorer uden at gøre den tilgængelig for de teams, der reelt bruger agenten i hverdagen. Nyttig observerbarhed skal give den person, der har oprettet eller bruger en agent, mulighed for at forstå dens adfærd, ikke kun en isoleret teknisk rolle.

Endelig er det en klassisk fejl at undervurdere betydningen af uddelegeringer til underagenter i aktivitetstidslinjen. En agent, der uddelegerer en delopgave, forbliver ansvarlig for resultatet i brugerens øjne: hvis denne uddelegering ikke fremgår klart af tidslinjen, bliver en del af det reelle arbejde usynligt og uforståeligt efterfølgende.