AI-watermarks – så vet du att bilden inte är skapad av en robot

Hur tekniken fungerar bakom kulisserna

Tekniken bakom att märka artificiellt skapat innehåll har genomgått en enorm utveckling under de senaste åren. Syftet är att skapa en digital spårbarhet som gör det möjligt för både system och människor att identifiera bildens ursprung. Grunden i detta arbete vilar på två huvudspår som fungerar på helt olika sätt i den digitala miljön. Medan det ena spåret handlar om visuell kommunikation fokuserar det andra på att bädda in information i filens struktur på ett sätt som inte går att se med blotta ögat. Detta är en nödvändighet för att upprätthålla informationsintegritet i ett flöde där bilder delas och sprids viralt över flera olika plattformar utan mänsklig kontroll.

Många användare är redan bekanta med de klassiska metoderna där en logotyp eller en text ligger ovanpå bilden. Dessa skapas ofta direkt av det AI-verktyg som genererar bilden för att tydligt deklarera dess ursprung. Det kan handla om en liten symbol i hörnet eller en transparent textsträng som täcker delar av motivet. Problemet med dessa är att de är relativt enkla att beskära bort eller dölja med enkla redigeringsprogram. Därför betraktas de främst som en första försvarslinje snarare än en heltäckande säkerhetslösning för att verifiera autenticitet i mer kritiska sammanhang där avsiktlig desinformation förekommer.

Digitala fingeravtryck dolda i pixlarna

För att möta behovet av säkrare märkning har tekniker för osynliga vattenstämplar utvecklats där informationen vävs in direkt i bildens matematiska data. Dessa förändringar sker på en nivå som det mänskliga ögat inte kan uppfatta eftersom de utnyttjar små variationer i färgnyanser eller ljusstyrka i de enskilda pixlarna. När en sådan bild laddas upp på nätet kan algoritmer snabbt läsa av dessa mönster och bekräfta att bilden skapats av en specifik AI-modell. Denna metod är betydligt mer robust än visuella märken då informationen ofta överlever både komprimering, storleksändringar och vissa typer av filter.

Här är några av de mest centrala komponenterna i modern märkningsteknik:

• Kryptografiska hashvärden som säkrar filens innehåll mot obehörig ändring

• Metadata enligt C2PA-standarden som loggar bildens hela redigeringshistorik

• Steganografiska mönster som injiceras i högfrekventa delar av bilden

• AI-detektorer som tränats specifikt på att känna igen mönster i bildgeneratorer

Utöver de dolda mönstren används ofta metadata som en form av digital deklaration som följer med filen genom hela dess livscykel. Branschstandarder som Content Credentials gör det möjligt att se exakt när en bild skapades och vilka verktyg som användes i processen. Detta skapar en transparent kedja där användaren kan klicka på en liten ikon för att få upp hela historiken bakom det visuella materialet. Genom att kombinera dessa olika lager av information skapas ett ekosystem där det blir allt svårare att sprida omarkerat AI-material utan att det förr eller senare upptäcks av de system som bevakar vårt digitala informationslandskap.

Kapplöpningen mot deepfakes: Kan vi verkligen lita på märkningen?

Frågan om tillförlitlighet är central när vi diskuterar vattenstämplar i en tid där deepfakes blir allt mer sofistikerade och svårupptäckta. Även om tekniken för märkning går framåt gör även metoderna för att kringgå dessa system det i en rasande fart. Det pågår en ständig dragkamp mellan de som utvecklar säkra märkningsmetoder och de som försöker radera dem för att dölja bildens sanna natur. Det är därför viktigt att förstå att ingen märkning är hundra procent säker mot en tillräckligt motiverad angripare. Vi befinner oss i en teknisk kapprustning där insatserna handlar om den gemensamma sanningen i vårt offentliga samtal.

En stor utmaning ligger i att många av de mest kraftfulla AI-modellerna bygger på öppen källkod vilket gör det möjligt för användare att modifiera programvaran. En illasinnad aktör kan ladda ner en modell och helt enkelt ta bort den kodmodul som ansvarar för att lägga till vattenstämplar i bilderna. När bilderna sedan genereras saknas alla spår av maskinellt ursprung redan från födseln. Detta skapar ett hål i systemet som är mycket svårt att täppa till eftersom det inte finns någon central instans som kan kontrollera varje enskild dator som kör dessa program lokalt runt om i världen.

Sårbarheter i den digitala märkningen

Även när en vattenstämpel väl finns på plats finns det tekniker för att tvätta bort den genom avancerad bildbehandling. Genom att köra en märkt bild genom ett annat AI-filter eller genom att ändra dess struktur på ett visst sätt kan den dolda informationen ibland förstöras. Det har visat sig att vissa typer av brusreducering eller kraftig komprimering kan sudda ut de subtila mönster som de osynliga stämplarna vilar på. Detta gör att mottagaren av bilden invaggas i en falsk trygghet om att bilden är äkta bara för att inga varningssignaler dyker upp i deras analysverktyg vid en kontroll.

För att öka säkerheten fokuserar forskningen nu på mer motståndskraftiga lösningar:

• Självläkande vattenstämplar som kan återskapas även om delar av bilden ändras

• Blockchain-baserade register för att verifiera originalfiler mot en publik databas

• Lagar som kräver att hårdvarutillverkare inkluderar autentisering direkt i kameran

• Samarbete mellan sociala medier för att blockera oidentifierat innehåll automatiskt

Det finns också en mänsklig faktor som komplicerar tillförlitligheten i dessa system avsevärt. Om publiken börjar lita blint på tekniska märkningar riskerar de att bli ännu mer sårbara för de bilder som lyckas slinka igenom filtren utan upptäckt. En bild utan vattenstämpel tolkas då automatiskt som äkta trots att den kan vara en mycket skickligt utförd manipulation. Därför måste den tekniska märkningen alltid ses som ett komplement till ett kritiskt tänkande snarare än en ersättning för det. Utbildning och medvetenhet hos allmänheten är därmed minst lika viktigt som de algoritmer som arbetar i bakgrunden för att skydda oss.

Framtidens källkritik: Verktygen som hjälper dig att granska bilden

I takt med att de digitala miljöerna blir allt mer komplexa krävs det nya typer av färdigheter för att navigera säkert bland all information. Den traditionella källkritiken som vi lärde oss i skolan räcker inte längre till när bildmaterialet ser perfekt ut men är helt syntetiskt. Vi behöver därför ta hjälp av tekniska verktyg som kan fungera som våra förlängda ögon i det digitala rummet. Dessa verktyg finns tillgängliga för både professionella journalister och vanliga konsumenter vilket gör det möjligt för vem som helst att göra en snabb faktakoll av en bild innan man väljer att tro på den eller dela den vidare.

Många av de stora teknikbolagen har börjat integrera kontrollfunktioner direkt i sina webbläsare och operativsystem. Genom att högerklicka på en bild kan man i vissa fall få upp information om dess historik direkt i menyn. Denna utveckling mot inbyggda kontroller är nödvändig för att göra källkritik till en naturlig del av vårt dagliga internetanvändande. Istället för att behöva besöka specialiserade webbplatser får vi informationen serverad där vi befinner oss. Det sänker tröskeln för att vara källkritisk och gör det svårare för manipulerat material att få fäste i de stora flödena hos de sociala nätverken.

Praktiska hjälpmedel för den medvetna användaren

Det finns flera tillgängliga tjänster som specialiserat sig på att analysera bildfiler för att hitta spår av AI-manipulation eller dolda vattenstämplar. Vissa av dessa verktyg letar efter inkonsekvenser i ljussättning och skuggor som är typiska för generativ AI medan andra fokuserar på att läsa av krypterad metadata. Genom att använda en kombination av olika analysmetoder kan man få en ganska god bild av sannolikheten för att ett motiv är skapat av en människa eller en maskin. Det handlar om att bygga upp en vana att alltid dubbelkolla material som verkar för bra för att vara sant eller som väcker starka känslor.

För att bli bättre på att granska bilder kan du använda följande resurser:

• Webbläsartillägg som automatiskt flaggar kända AI-genererade bilder i flödet

• Sökmotorer för omvänd bildsökning som hittar bildens tidigaste publicering

• Webbplatser som läser ut all dold metadata och visar redigeringsstegen

• Plattformar för faktagranskning som verifierar virala bilder i realtid

Utöver de tekniska verktygen är det viktigt att utveckla ett öga för de små detaljer som AI-modeller ofta missar. Även om märkningen saknas kan man ibland se små felaktigheter i hur texturer möts eller hur perspektiv återges i bakgrunden. En kritisk granskning av bildens sammanhang är också avgörande för att förstå dess syfte och avsändare. Vem har publicerat bilden och finns det andra oberoende källor som visar samma händelse från en annan vinkel? Genom att kombinera mänsklig intuition med kraftfulla digitala verktyg skapar vi den mest robusta försvarslinjen mot den osäkerhet som den nya tekniken för med sig.