Veckans spaning
När AI:n gör något den inte skulle
EU-kommissionens AI-kontor utreder OpenAI och Anthropic efter att deras system gjorde saker de inte skulle ha gjort. Det är första gången kontoret använder sina befogenheter för att granska om företagen kan visa att deras AI följer säkerhetsreglerna.
Utredningen handlar om bevisbarhet. Kontoret frågar: kan ni visa vad era system faktiskt gjorde under incidenterna, och kan ni dokumentera att ni följde säkerhetsreglerna? Det är som när försäkringsbolaget frågar efter kvittot efter en skada. Finns det inte börjar samtalet på fel fot.
För alla som bygger AI-system är lärdomen tydlig. Reglerna säger vad som ska loggas, men loggarna måste också vara trovärdiga. En logg som den som för den också kan ändra i tysthet är lätt att ifrågasätta när något har gått fel. Det som är förseglat kan däremot kontrolleras av vem som helst.
Till fikat: Till fikat: Från augusti kan AI-kontoret utreda om AI-företag följer säkerhetsreglerna, och första frågan är om de kan visa vad deras system gjorde.
Vi på Witnium
Veckan på 30 sekunder
- AI-kontoret utreder OpenAI och Anthropic efter att deras AI-agenter åtkom system de inte skulle.
- En New York-domstol sanktionerade en advokat för 14 påhittade rättsfallsciteringar genererade av AI.
- OpenAI rullar ut vattenmärkning av AI-text i EU för att följa artikel 50 i AI-förordningen.
Det här hände
Regelverket · EU
AI-kontoret utreder OpenAI efter säkerhetsincidenter
EU-kommissionens AI-kontor utreder OpenAI och andra AI-laboratorier efter säkerhetsincidenter. Det är det första riktiga testet av AI-förordningens sanktionsmöjligheter. Utredningen fokuserar på om företagen kan visa att de följer säkerhetsreglerna och dokumentera vad deras system gjorde under incidenterna.
Bevisvinkeln: Artikel 12 kräver att högrisksystem loggar händelser, och artikel 19 säger att leverantören ska spara loggarna. En utredning ställer frågan: kan ni visa vad systemet gjorde, och är loggarna oförändrade sedan händelsen?
Källa: linkedin.com
Regelverket · EU
AI-kontoret öppnar formella utredningar mot OpenAI och Anthropic
AI-kontoret har öppnat formella utredningar mot OpenAI och Anthropic enligt AI-förordningen. Kontoret granskar om deras system följer förbudet mot skadliga AI-tekniker och kraven på transparens och grundläggande rättighetsskydd. Det är den första stora tillsynsåtgärden under den nyligen tillämpliga AI-förordningen.
Källa: facebook.com
Fallen · Kanada
Företag ansvarar för vad deras chattbot säger
En kanadensisk tillsynsmyndighet har sagt att företag som använder AI-chattbotar ansvarar för vad chattboten säger. Det fastställer ett tydligt ansvar för organisationer som använder AI i kundkontakter.
Bevisvinkeln: När en kund ifrågasätter vad chattboten lovade är frågan vem som har underlaget: kunden med sin skärmdump eller företaget med sina loggar?
Källa: facebook.com
Regelverket · EU
EU beställer harmoniserade standarder för AI-förordningen
Europeiska kommissionen har bett CEN och CENELEC utveckla harmoniserade standarder inom tio nyckelområden för AI-förordningen genom den gemensamma tekniska kommittén JTC 21. Det första utkastet till standard, prEN 18286 om kvalitetsledningssystem för AI-förordningen, publicerades den 30 oktober 2025.
Källor: digital-strategy.ec.europa.eu, digital-strategy.ec.europa.eu, cencenelec.eu
Regelverket · EU
OpenAI rullar ut vattenmärkning av AI-text i EU
OpenAI kommer att rulla ut vattenmärkning av AI-text som standard i EU för att följa artikel 50 i AI-förordningen, som kräver att leverantörer märker AI-genererat innehåll i ett maskinläsbart format. Uppförandekoden för transparens av AI-genererat innehåll beskriver specifika krav på märkning, detektering och redovisning av syntetiskt innehåll.
Källa: digital.nemko.com
Fallen · USA
Jurister sanktionerats för overifierade AI-citat
Två amerikanska federala domstolsavgöranden granskar sanktioner och personligt ansvar för advokater som lämnat in overifierade AI-genererade rättsfallsciteringar, inklusive påhittad rättspraxis, enligt regel 11. Fallen visar de professionella och ekonomiska konsekvenserna när jurister inte kan bevisa vad deras AI-verktyg producerade eller verifiera deras riktighet.
Bevisvinkeln: Fri bevisprövning betyder att domstolen bedömer allt efter hur tillförlitligt det är. En advokat som inte kan visa att en källa är verklig riskerar sanktioner.
Källa: gtlaw-ediscoverywatch.com
Här passar ett digitalt vittne in
Vad en AI-agent gjorde, och vem som bad den
AI-kontorets utredning av OpenAI handlar om incidenter där AI-agenter gjorde saker de inte skulle. I ett sådant fall är frågan vad agenten faktiskt gjorde, när det hände och vem som instruerade den.
Ett digitalt vittne förseglar varje instruktion, verktygsanrop och resultat när agenten agerar. Det skapar en tidsstämplad kedja av händelser som kan kontrolleras i efterhand.
Det visar att en post om vad agenten gjorde inte har ändrats sedan den förseglas. Det visar inte att åtgärden var korrekt eller auktoriserad, bara att posten är oförvändrad.
Så skulle det gå till
- 01Systemet skickar ett fingeravtryck av varje instruktion, verktygsanrop och resultat till WitniumChain när agenten agerar.
- 02Fingeravtrycket förseglas med tid och ett vittnes-ID som systemet sparar tillsammans med posten.
- 03För att kontrollera räknar man ut fingeravtrycket igen och jämför det med det förseglade. Stämmer det har posten inte ändrats.
Ge dina agenter kvitton
Försegle agentåtgärder via MCP-servern, SDK:t eller REST-API:t. De första 2 000 vittnena i månaden är gratis.
Bevisklockan
Fler regler, mer att bevisa.
14 av de 26 krav vi följer gäller i dag. 12 till kommer fram till 2 augusti 2028.
Härnäst
- 40 dagar2 december 2026: AI-förordningen: märkning av AI-genererat innehåll (artikel 50.2) för system som släpptes ut före 2 augusti 2026
- 47 dagar9 december 2026: Nya EU-regler om produktansvar gäller produkter som släpps ut efter detta datum
- 405 dagar2 december 2027: AI-förordningen: reglerna för högrisk-AI enligt bilaga III
Varje steg är ett krav i vår regelbank, med länk till primärkällan.
Från redaktionen
- Artikel på engelskaServiceNow gives AI agents a passport, and limits on what they can doServiceNow ger AI-agenter ett pass och begränsar vad de får göra
- Artikel på engelskaThe Machinery Regulation puts *software logs* on the list for 2027Maskinförordningen lägger mjukvaruloggar på listan för 2027
- Artikel på engelskaArticle 50: when do you have to *tell people* you used AI?Artikel 50: när måste du berätta att du använde AI?
- Artikel på engelskaShopify opens its catalogue to AI agents, and the *receipt question* followsShopify öppnar sin katalog för AI-agenter, och kvittofrågan följer med
- Artikel på engelskaWorkday's autonomous AI agents raise questions nobody has answered yetWorkdays autonoma AI-agenter väcker frågor ingen har svarat på än
Försegling väntar.