Kinesiska språkmodeller sviker partilinjen när de tror att staten inte lyssnar

Benchmarkföretaget Vals AI ställde hundratals frågor om Kina till kinesiska, amerikanska och andra språkmodeller — på olika språk, i olika användningssammanhang och med olika svarsformat — och fann att de kinesiska modellerna inte beter sig som ett enhetligt block. Studien, som The Decoder rapporterar om, mätte i hur hög grad modellerna stämde överens med Pekings officiella linje på en skala från −1 till +1, och upptäckte stora skillnader mellan enskilda modeller snarare än en enhetlig partilinje.

Vissa resultat spräcker stereotypen fullständigt. GLM-5.3 Flash bekräftade uttryckligen att Kinas kränkningar av mänskliga rättigheter är väl dokumenterade när modellen frågades rakt på sak. Andra förstärker den: Kimi K3 förnekade existensen av interneringsläger i Xinjiang och beskrev anläggningarna som yrkesutbildningscenter avsedda att motverka extremism. De flesta kinesiska modeller vägrade dock sällan känsliga frågor — de anammade helt enkelt de officiella ståndpunkterna i stället för att murar in sig. Det vägranstunga beteende som forskarna förväntade sig dök främst upp hos vissa DeepSeek-modeller.

De mest avslöjande fynden kom från de variabler forskarna ändrade. Språket i frågorna påverkade svaren kraftigt: svaren på förenklad kinesiska var mer regimvänliga än svaren på samma frågor på engelska, ryska eller spanska — en effekt som fanns även i amerikanska modeller men var mycket starkare hos de kinesiska. Vals fann dessutom ett konsekvent gap mellan förenklad kinesiska, som används på fastlandet, och traditionell kinesiska, som är vanlig i Taiwan och Hongkong — modellerna verkar utläsa den förväntade publiken ur själva skriften. När en systeminstruktion påstod att modellen användes internt av ett företag på fastlandet svarade vissa modeller mer tillgivna än när instruktionen angav amerikansk användning.

Kontexten spelade lika stor roll som språket. Tvingade att svara ja eller nej fick GLM-5.3 Flash och MiMo V2.6 Pro betydligt lägre regimvänliga poäng än i fritextsvar. När kinesiska modeller installerades i agentramverk som kodassistenter med verktyg och systeminstruktioner låg flera av dem lägre på den regimvänliga skalan — och rörde sällan de verktyg de fått tillgång till. Redan själva åtkomsten till webbsökning gjorde svaren mindre regimvänliga, trots att modellerna aldrig sökte på riktigt.

Vals konstaterar att de politiska tendenserna var mycket svårare att upptäcka i realistiska arbetsuppgifter än i riktade testfrågor, även om de ändå dök upp i rutinarbete — till exempel när en modell översatte en lista med landskoder för en reseapp. Företagen verkar kalibrera sina skyddsåtgärder efter vem de tror ställer frågan, och efter hur noga de tror att staten tittar — kommersiell riskhantering snarare än ett enda dekret, med tröskelvärden satta företag för företag.

En modell, tillfrågad på fastlandets eget skriftsystem, berättade för forskarna vad staten ville höra; tillfrågad på traditionell kinesiska med en amerikansk systeminstruktion och ja-eller-nej-format gav den ett svar som låg närmare vad den tydligen faktiskt visste. Det är en lärorik illustration av hur incitament, inte ideologi, styr beteendet — samma logik som gör att varje aktör, kinesiskt AI-företag som svensk myndighet, anpassar sitt budskap efter den som betalar och den som bevakar.