Alla fördjupningar
Systemteori 10 min 6 tankeövningar

Goodharts lag

Varför mätning spårar ur och hur vi undviker systemfel

Goodharts lag beskriver en fundamental paradox inom moderna organisationer, ledarskap och artificiell intelligens: i samma stund som vi väljer ut ett mätvärde för att styrsluta eller belöna ett system, börjar systemet anpassa sig efter måttet snarare än efter det bakomliggande syftet. Människor och algoritmer finner snabbt genvägar för att optimera siffran, vilket ofta raserar den kvalitet som måttet från början var tänkt att representera.

Vad är Goodharts lag?

Goodharts lag formulerades ursprungligen av den brittiske ekonomin Charles Goodhart 1975 i samband med studier av penningpolitik. Lagen summeras ofta av antropologen Marilyn Strathern som: 'När ett mått blir ett mål slutar det att vara ett bra mått.' I alla komplexa system där aktörer har incitament att uppnå ett visst resultat kommer de att anpassa sina handlingar efter mätmetoden. Det innebär att indikatorn slutar fungera som en obunden observation av verkligheten och istället blir en drivkraft som förvränger beteenden.

När ett mått blir ett mål slutar det att vara ett bra mått.

Exempel från verkligheten och AI

Praktisk användning och begränsningar

För att hantera Goodharts lag i praktiken bör man undvika stela nyckeltal (KPI:er) som direkt kopplas till bonusar eller bestraffningar. Istället rekommenderas balanserade styrkort med flerdimensionella mått, frekvent rotation av mätpunkter samt en kombination av kvantitativa data och kvalitativ bedömning. Begränsningen med Goodharts lag är att den inte innebär att vi ska sluta mäta saker helt. Utan data blir vi blinda. Utmaningen ligger i att skilja mätning för diagnos och förståelse från mätning för direkt kontroll.

Nyckelinsikt och vanliga misstag

Tankeövningar

Använd övningarna för att tillämpa kapitlets idéer. Du behöver inte skriva – stanna bara upp och fundera på varje fråga.

Tankeövning 1

Identifiera Goodharts fällor

Tänk på din egen vardag eller arbetsplats och reflektera över följande frågor.

  1. Vilka nyckeltal eller KPI:er mäts du eller ditt team på för närvarande?
  2. Finns det sätt att förbättra dessa siffror utan att faktiskt skapa mer reellt värde?
  3. Har du sett kollegor eller konkurrenter 'spela spelet' för att uppnå mätmålen?
  4. Vilken osynlig kostnad uppstår när fokus hamnar helt på att maximera mätpunkten?
Tankeövning 2

Reward Hacking inom AI

Fundera över hur intelligenta system reagerar på förenklade mål.

  1. Hur kan en AI-modell hitta oavsiktliga genvägar om den belönas för ett enkelt mått?
  2. Vad händer om en städrobot belönas enbart för att inte se något damm med sina kameror?
  3. Hur skiljer sig mänskligt regelmanipulerande från en AI-modells optimering?
  4. Vad krävs för att ge en AI en mer balanserad belöningsfunktion?
Tankeövning 3

Alternativa utvärderingsmetoder

Utforska hur man mäter resultat utan att förvränga beteenden.

  1. Hur kan du bedöma kvalitet utan att låsa fast dig vid enstaka harda siffror?
  2. Vad uppnås om man kombinerar kvalitativa samtal med kvantitativa data?
  3. Hur kan man rotera mätpunkter så att ingen hinner systematiskt utnyttja dem?
  4. Vilka viktiga faktorer blir osynliga om du enbart litar på rapporterade nyckeltal?
Tankeövning 4

Den historiska linsen

Analysera hur misslyckade styrningsförsök har sett ut historiskt.

  1. Vad innebär kobrafenomenet där hittelön ledde till att ormar började uppfödas?
  2. Varför misslyckades fabriker i planekonomier när de mättes enbart på produkternas vikt?
  3. Vilka politiska reformer i närtid har fått helt motsatt effekt mot vad som avsågs?
  4. Vad kan vi lära oss av dessa historiska misstag för att bygga bättre system i dag?
Tankeövning 5

Omdesigna ett belöningssystem

Öva på att skapa hållbara incitament utan snedvridning.

  1. Välj ett bristfälligt mätvärde i din omgivning och analysera varför det spårar ur.
  2. Hur skulle du utforma ett system som istället uppmuntrar helhetstänkande?
  3. Hur gör du tydlig skillnad på mätning för förståelse och mätning för styrning?
  4. Vilken kultur krävs för att medarbetare ska våga rapportera ärliga siffror?
Tankeövning 6

Mätningens psykologi

Reflektera över hur observation påverkar ditt eget mänskliga beteende.

  1. Hur förändras ditt eget sätt att arbeta när du vet att en viss siffra granskas?
  2. Varför känns det ofta tryggare för ledare att styra med enkla tabeller och siffror?
  3. Vad händer med den inre arbetsglädjen när yttre nyckeltal blir det viktigaste?
  4. Hur bevarar vi yrkesstolthet och genuint värdeskapande i en målstyrd värld?

Sammanfattning

När en mätpunkt förvandlas till ett styrande mål anpassas beteenden så att måttet förlorar sitt värde. För att undvika denna fälla måste vi använda mätningar för utvärdering och förståelse, snarare än som direkta verktyg för belöning och bestraffning.

Läs kortversionen i arkivet.