Veckans spaning
Vem vittnar när AI-agenten är både misstänkt och vittne?
Tänk dig att du kommer hem och din matlåda i jobbkylen är borta. Du frågar kollegan som satt vakt: såg du vem som tog den? Kollegan svarar ja, det var jag.
Det är läget när en AI-agent både agerar och skriver sin egen logg. Agenten kanske fungerar perfekt, men den dag något går fel är loggen skriven av den som misstänks för att ha gjort fel. Det är ingen bra bevisning.
Den här veckan har flera fall visat att agenter faktiskt kan göra saker ingen bad dem om: arkivera filer, skicka tips till myndigheter, ändra beställningar. När det händer behöver man kunna visa vad agenten faktiskt gjorde, och då räcker det inte med en logg som agenten själv kan skriva om.
Ett oberoende vittne löser det: agenten skriver loggen som vanligt, men varje steg förseglas direkt av något utanför systemet. Ändras något i efterhand syns det, även om det är administratören som ändrar.
Till fikat: AI-agenter behöver kvitton på vad de gör, och kvittot kan inte komma från agenten själv.
Vi på Witnium
Veckan på 30 sekunder
- AI-agenter som skriver sina egna loggar skapar ett bevisproblem när något går fel.
- FI granskar svenska bankers försvar mot AI-drivna cyberattacker under DORA.
- En domstol avvisade AI-genererade bevis för att de inte autentiskt visade vad de påstods visa.
Det här hände
Bevis · USA
Problemet när vittnet är den misstänkte
En artikel i tech-pressen pekar på ett grundläggande problem: när AI-agenter skriver sina egna revisionsloggar är det systemet som granskas som också för protokollet. En felfungerande eller komprometterad agent kan falsifiera sina egna loggar, vilket undergräver bevisvärdet.
Bevisvinkeln: Ett oberoende digitalt vittne förseglar varje agerande direkt, så att loggarna inte kan skrivas om i efterhand.
Källa: daily.dev
Domstol · USA
Domstol avvisade AI-bevis som inte var autentiska
En domstol avvisade AI-genererade bevis efter att ha funnit att de inte autentiskt avbildade den person de påstods visa. Fallet visar kritiska luckor i att bevisa vad generativa AI-system faktiskt producerat, och hur domstolar bedömer tillförlitligheten hos AI-bevisning enligt principen om fri bevisprövning.
Bevisvinkeln: När domstolar ifrågasätter om AI-bevisning är autentisk är frågan om man kan visa att materialet är oförändrat sedan det genererades.
Källor: digitalmountain.com, stangelawfirm.com
Tillsyn · Sverige
FI granskar bankers försvar mot AI-attacker
Finansinspektionen ska granska hur svenska banker, försäkringsbolag och finansiell infrastruktur förbereder sina försvar mot AI-drivna cyberattacker. Granskningen görs under DORA, som ställer krav på digital operativ motståndskraft inklusive skydd av loggningssystem.
Källa: breakit.se
Verkstaden · USA
Så här gör Vercel: spåra varje verktygsanrop
Vercel publicerar en teknisk guide om att bygga revisionsloggar för AI-agenter som kopplar samman identitet, verktygsanrop, godkännanden och resultat för att möjliggöra rekonstruktion av agentens handlingar och utredning av fel. Artikeln ger praktiska implementeringsmönster för loggning och spårning av autonoma AI-systems beteende.
Bevisvinkeln: När loggen finns men kan ändras av någon med rätt behörighet behöver man kunna visa att den faktiskt är orörd.
Källa: vercel.com
Här passar ett digitalt vittne in
Ett kvitto på vad agenten gjorde, och på vems uppdrag
När en AI-agent agerar autonomt – bokar tid, ändrar beställningar, skickar meddelanden – behöver organisationen kunna visa vad agenten gjorde och vem som bad den om det. Problemet är att agenten ofta skriver sin egen logg.
Ett digitalt vittne förseglar varje steg direkt när agenten agerar: instruktionen från användaren, vilket verktyg agenten anropade och resultatet. Informationen stannar hos er, men fingeravtrycket läggs på en kedja där varje ändring syns.
Vem som helst ni delar loggen med kan kontrollera att den stämmer överens med det förseglade fingeravtrycket. Ändras en enda rad slutar de att matcha. Förseglingen är oberoende: även om administratören skulle vilja ändra något i efterhand upptäcks det vid kontrollen.
Så skulle det gå till
- 01Varje gång agenten agerar skickas ett fingeravtryck av instruktionen, verktygsanropet och resultatet till WitniumChain via MCP-servern, SDK:t eller REST-API:t.
- 02Fingeravtrycket förseglas på kedjan, och ni får tillbaka ett witness-ID som sparas tillsammans med loggraden.
- 03Vid granskning eller tvist räknar ni fram fingeravtrycket igen från den sparade loggen och jämför med det förseglade. Stämmer de är loggen oförändrad.
Ge era AI-agenter kvitton
Förseglat direkt när agenten agerar, via MCP-servern, SDK:t eller API:t. De första 2 000 vittnena per månad är gratis. De första 2 000 vittnena i månaden är gratis.
Bevisklockan
Fler regler, mer att bevisa.
14 av de 26 krav vi följer gäller i dag. 12 till kommer fram till 2 augusti 2028.
Härnäst
- 47 dagar2 december 2026: AI-förordningen: märkning av AI-genererat innehåll (artikel 50.2) för system som släpptes ut före 2 augusti 2026
- 54 dagar9 december 2026: Nya EU-regler om produktansvar gäller produkter som släpps ut efter detta datum
- 412 dagar2 december 2027: AI-förordningen: reglerna för högrisk-AI enligt bilaga III
Varje steg är ett krav i vår regelbank, med länk till primärkällan.
Från redaktionen
- Artikel på engelskaThe witness was the suspect: why AI audit logs can't be trustedVarför AI-agenternas revisionsloggar inte kan lita på sig själva.
- Artikel på engelskaHow do you audit what an AI agent did?Hur granskar man vad en AI-agent faktiskt gjorde? Vercels tekniska guide.
- Artikel på engelskaWhen *Free Evaluation of Evidence* Meets AI: What Courts Actually CheckNär fri bevisprövning möter AI: vad domstolar faktiskt kontrollerar.
Försegling väntar.