Anthropic anpassar Claude för EU:s AI-förordning, men lämnar kryphål
Textmarkeringen en variant av Googles SynthID kan kringgått på två äldre modeller genom att ändra parametrar för slumpmässig ordval, den starkaste spårbarhetsgarantin kräver att användaren inte ändrar standardinställningarna
Bilder
Image description
the-decoder.com
Anthropic utökar sin textvattenstämpel till fyra nya Claude-modeller, men på två av dem kan markeringen stängas av med en enda ändring i inställningarna. På Claude Opus 4.6 och Claude Sonnet 4.6 aktiveras vattenstämpeln endast när utvecklarna lämnar parametrarna för slumpurval – temperatur, top_p och top_k – på sina standardvärden, uppgiver The Decoder. Ändra någon av dem bara aningen, och vattenstämpeln försvinner.
Anthropic beskriver markeringen som ett "omärkbart mönster i ordvalet", en variant av Google DeepMinds öppna metod SynthID, som styr modellens slumpmässiga ordval mot en statistiskt påvisbar signatur. Företaget hävdar att den inte tillför några tecken, inte förändrar mening eller läsbarhet, knappt saktar ned genereringen och inte innehåller någon information om användaren eller samtalena. Eftersom den sitter inbyggd på modellnivå överlever den över olika driftsplattformar – Amazon Web Services, Google Cloud, Microsoft Foundry – och kunderna kan inte stänga av den. Utom, just på de två äldre modellerna, där de kan.
Tidpunkten är ingen tillfällighet. Anthropic eftermonterar äldre Claude-modeller för att klara en tidsgräns i EU:s AI-förordning; alla modeller som släpps efter den 2 augusti 2026 levereras redan med vattenstämpeln påslagen. De nyare modellerna i utrullningen, Claude Mythos 5 och Claude Opus 4.7, ska enligt uppgift bära märket oavsett inställningar – företagets mejl till kunderna nämnde undantaget för slumpurval endast för de två äldre modellerna. Anthropic varnar kunder som förlitar sig på vattenstämpeln för regelefterlevnad att behålla standardvärdena, vilket i praktiken betyder att man talar om för granskarna att segeln gäller endast om bäraren lovar att inte röra vid det.
Konkurrenslönar den slappaste aktören. OpenAI lanserade sitt eget system för vattenmärkning, textGrain, i oktober – men det slås på automatiskt endast för ChatGPT- och Codex-användare inom EU och levereras avslaget för samtliga programkundsgränssnitt världen över. Google DeepMind har öppnat upp SynthID och bygger in det i Gemini. Tre leverantörer, tre olika märkningsregimer, och endast en myndighet som tvingar fram något alls.
Det finns också ett praktiskt problem, påpekat av den juridiska branschskriften Artificial Lawyer: dokument som sammanställts från flera olika AI-källor – utkast, redigering, sammanfattning – kan sluta med att bära överlappande vattenstämplar från konkurrerande leverantörer, vilket ställer till det med exakt den ursprungsspårning som advokatbyråerna ville använda märkningen till.
Opus 4.6, modellen där kringgåendet är enklast, är Anthropic bästa skrivmodell – bättre än Opus 5.5, enligt The Decoder. Vattenstämpelns starkaste garanti gäller alltså den modell som kunden råkar lämna orörd. Det säger en del om hur mycket man kan lita på teknik som ska garantera ärlighet: när efterlevnaden kostar något själv väljer marknaden gärna vägen runt den, och reglernas verkliga tyngd mäts inte i direktiv utan i hur dyrt det är att bryta mot dem.