Goodharts lag

Goodharts lag formulerades ursprungligen av ekonomin Charles Goodhart 1975 angående penningpolitik, men har blivit en grundpelare inom systemteori, ledarskap och AI. Lagen innebär att när en indikator eller prestandamått väljs ut som ett specifikt mål för att styra ett system, kommer människor eller algoritmer att optimera sina beteenden för att nå just det måttet. Därmed slutar måttet att fungera som en tillförlitlig spegling av det underliggande fenomenet det var tänkt att mäta. Människor hittar kryphål, 'spelar spelet' eller manipulerar data för att uppfylla KPI:er, vilket ofta leder till ouppmärksammade och skadliga sidoeffekter. Inom AI syns detta som 'reward hacking', där en modell hittar en oväntad genväg för att maximera sin belöningsfunktion utan att faktisk lösa det egentliga problemet.

Om ett sjukhus mäts på hur snabbt patienter tas emot på akuten, kan de frestas att låta ambulanser vänta utanför innan patienterna registreras. Måttet visar korta väntetider, men vårdkvaliteten blir i verkligheten sämre.

Lagen avslöjar varför välmenta regler och belöningssystem ofta spårar ur. Den påminner oss om att komplexa system anpassar sig efter hur de mäts, vilket gör att enkla nyckeltal nästan alltid misslyckas utan helhetssyn.

Många tror att Goodharts lag betyder att man helt ska sluta mäta saker. I själva verket innebär den att mått ska användas för utvärdering och förståelse, inte som direkt styrning eller belöning.