Märkt som maskin – AI-förordningens märkningsplikt och gränserna för vattenmärket

Den 2 december 2026 löper en frist ut som få utanför branschen har lagt märke till. Från det datumet ska även de generativa AI-system som fanns på EU-marknaden före i somras märka det de skapar, så att en maskin kan avgöra att en bild, ett ljudklipp, en video eller en text är artificiellt genererad.

Kravet står i artikel 50 i EU:s AI-förordning. Det ser enkelt ut: det som maskiner gör ska bära en maskinläsbar etikett. Men tekniken bakom etiketten fungerar bara åt ena hållet. En märkning som finns kan belägga var innehållet kommer ifrån. En märkning som saknas belägger ingenting.

Två plikter i samma artikel

Artikel 50 började tillämpas den 2 augusti 2026 och lägger skyldigheter på två olika aktörer. AI-förordningen skiljer mellan leverantören, som utvecklar ett AI-system och släpper ut det på marknaden, och tillhandahållaren, som använder systemet i sin verksamhet.

Leverantörens plikt finns i punkt 2. Den som erbjuder ett system som genererar syntetiskt ljud, bild, video eller text ska se till att utdata märks i ett maskinläsbart format och går att upptäcka som artificiellt genererade eller manipulerade. Lösningarna ska vara effektiva, interoperabla, robusta och tillförlitliga, i den mån det är tekniskt möjligt. Undantag gäller bland annat när systemet bara hjälper till med vanlig redigering eller inte ändrar det som användaren har matat in i någon väsentlig grad.

Tillhandahållarens plikt finns i punkt 4. Den som använder ett AI-system för att skapa en deepfake ska upplysa om att innehållet är genererat eller manipulerat. Samma sak gäller text som publiceras för att informera allmänheten om frågor av allmänt intresse, men inte om texten har granskats av människor och någon har det redaktionella ansvaret för den.

Punkt 2 handlar om en teknisk signal som maskiner ska kunna läsa. Punkt 4 handlar om en upplysning som människor ska kunna se. Den här artikeln gäller den första.

Övergången till 2 december

I juli 2026 trädde en ändringsförordning i kraft, (EU) 2026/1744, som ingår i EU:s förenklingspaket på det digitala området. Den skjuter bland annat upp kraven på högrisksystem, och den lägger till en övergångsregel för märkningen. Enligt den nya punkt 4 i artikel 111 ska leverantörer av system som genererar syntetiskt innehåll, och som släpptes ut på marknaden före den 2 augusti 2026, vidta de åtgärder som krävs för att följa artikel 50.2 senast den 2 december 2026.

Övergångsregeln gäller bara märkningen i punkt 2. Den ger alltså de stora generativa tjänsterna som redan fanns på marknaden fyra extra månader. Brott mot artikel 50 kan ge sanktionsavgifter på upp till 15 miljoner euro eller 3 procent av företagets globala årsomsättning, beroende på vilket belopp som är högst.

Vad koden förväntar sig tekniskt

Förordningen säger inte hur märkningen ska gå till. Det ska i stället en frivillig uppförandekod beskriva. Kommissionen publicerade den slutliga koden den 10 juni 2026. Den 8 juli konstaterade kommissionen att koden på ett lämpligt sätt täcker skyldigheterna i artikel 50.2, 50.4 och 50.5, och AI-styrelsen, där medlemsstaterna sitter, antog sin bedömning dagen efter. Enligt kommissionen hade omkring 190 aktörer skrivit under i slutet av juli.

Ändringsförordningen har också ändrat hur sådana koder fungerar. Kommissionen ska bedöma om det räcker att följa en kod för att uppfylla kraven. Om den anser att koden inte räcker får den anta en genomförandeakt med gemensamma regler. Kommissionen skriver samtidigt att den som följer koden inte därmed har avgörande bevis för att uppfylla förordningen. Den som inte skriver under måste själv visa att de egna åtgärderna är lämpliga.

Metadata, vattenmärke, fingeravtryck

Kodens egen text har inte kunnat kontrolleras för den här artikeln. Enligt advokatbyrån DLA Pipers genomgång från juli förväntar sig koden att leverantörer använder minst två maskinläsbara lager för det mesta innehållet: digitalt signerade och tidsstämplade metadata, och ett vattenmärke som inte syns eller hörs. Fingeravtryck och loggning beskrivs som möjliga tillägg som inte räcker på egen hand. För fri text, som inte kan bära metadata, ska enligt DLA Piper ett enda lager räcka. Byrån uppger också att leverantörerna åtar sig att senast den 2 februari 2027 införa en gemensam lösning för att upptäcka vattenmärken. Den uppgiften har inte gått att bekräfta på kommissionens egna sidor.

Asymmetrin: bevis åt ena hållet

De två lagren svarar mot två svagheter. Metadata, till exempel enligt standarden C2PA som ligger bakom så kallade Content Credentials, är kryptografiskt signerade uppgifter om var en fil kommer ifrån och hur den har ändrats. Signaturen gör att ändringar i uppgifterna går att upptäcka. Men själva uppgifterna kan tas bort. C2PA svarar själv ja på frågan om ursprungsuppgifterna kan avlägsnas. Därför har standarden kompletterats med vattenmärken och fingeravtryck, som gör det möjligt att hitta uppgifterna igen även om de har skalats av filen.

Vattenmärket ligger i stället i själva innehållet, som små förändringar i pixlar, ljud eller ordval. Det är tänkt att finnas kvar när metadata har försvunnit, men det upptäcks med en viss sannolikhet och inte med säkerhet.

Därav asymmetrin. Hittar en detektor en giltig signatur från en känd leverantör, eller ett vattenmärke med hög säkerhet, talar det för att innehållet kommer från ett AI-system. Hittar den ingenting kan innehållet vara äkta, men det kan också komma från ett system som inte märker, från ett system som inte omfattas av kravet eller från en fil där märkningen har tagits bort. C2PA:s egen vägledning säger att inga antaganden om ett innehålls trovärdighet bör göras enbart utifrån om det har Content Credentials, och att ursprungsuppgifter inte säger om ett innehåll är sant.

Märkningsplikten är alltså ett verktyg för att belägga ursprung, inte ett test av äkthet. För den som granskar en bild eller en video inför ett val är det en viktig skillnad. En saknad märkning frikänner ingenting.

Text är svårast

För text är förutsättningarna sämst. Det finns inga metadata att bära med sig när en mening kopieras till ett annat dokument, och vattenmärket måste ligga i ordvalen. Googles verktyg SynthID Text är ett av få som beskrivs offentligt, och Google redovisar själv begränsningarna. Vattenmärket tål att delar av texten klipps bort, att några ord ändras och att texten omformuleras lätt. Det är mindre effektivt på faktasvar, där det finns mindre utrymme att variera ordvalen utan att svaret blir sämre. Om texten skrivs om grundligt eller översätts till ett annat språk kan detektorns säkerhet sjunka kraftigt. Google skriver också att verktyget inte är gjort för att stoppa motiverade motståndare.

Det betyder att märkningen fungerar bäst där den behövs minst: när någon tar en genererad text och använder den oförändrad, och sämst när någon medvetet vill dölja att texten är maskinskriven.

Vem som utövar tillsynen i Sverige

I Sverige är tillsynen ännu provisorisk. Regeringen beslutade i juni att Post- och telestyrelsen, Integritetsskyddsmyndigheten, Finansinspektionen, Läkemedelsverket och Swedac ska vara behöriga myndigheter enligt AI-förordningen till och med den 31 december 2026, med PTS som gemensam kontaktpunkt. Den svenska lag som ska komplettera förordningen var vid slutet av oktober inte antagen. Vilken av myndigheterna som ska granska leverantörernas märkning enligt artikel 50 har inte kunnat fastställas för den här artikeln.

Den 2 december kan alltså bli dagen då alla de stora generativa tjänsterna i EU måste märka sitt innehåll, utan att det står klart vem i Sverige som kontrollerar att märkningen finns. Det förändrar ändå något. Ett vattenmärke som går att läsa är ett nytt slags belägg för var ett innehåll kommer ifrån. Men det kan bara visa att något är gjort av en maskin. Att en bild är äkta kan det aldrig visa.