Största risken – att vi slutar tänka själva

Artificiell intelligens ökar analyskapaciteten men riskerar att försämra beslutsfattandet. Det stora problemet är inte främst att AI skulle ge fel svar – utan att vi låter oss övertygas utan att själva reflektera, skriver tre ledarskapskonsulter.

Allt fler beslut i samhälle och näringsliv fattas med hjälp av AI. När underlagen levereras snabbare och upplevs som mer övertygande minskar vår benägenhet att ifrågasätta dem. AI ger oss mer analys, men det är inte samma sak som bättre beslut.

Debatten om AI:s risker handlar i hög grad om bristerna i systemen: felaktiga svar, snedvridningar i träningsdata och bristande transparens. En underskattad risk är att vi börjar tänka mindre när vi behöver tänka mer. AI kan göra oss mer lättövertygade, mer enkelspåriga och sämre på att tänka själva.

I februari presenterade regeringen Sveriges första nationella AI-strategi. Sverige ska vara bland de tio främsta AI-nationerna i världen och AI ska bidra till ökad konkurrenskraft, innovation och samhällsnytta. Men strategin svarar inte på den viktigaste frågan för varje enskild organisation: Vad händer med omdömet i beslutsrummet när AI levererar snabba och till synes genomarbetade rekommendationer?

Ta som exempel att en styrelse ska fatta beslut om en strategisk investering. AI kan på några minuter sammanställa marknadsdata, identifiera risker och presentera scenarier med tydliga rekommendationer. Underlaget ser genomarbetat ut. Men den som möter AI:s rekommendation först förlorar lätt förmågan att bedöma den kritiskt.

Har styrelsen prövat antagandena bakom scenarierna? Har någon bett AI formulera det starkaste argumentet mot den rekommenderade vägen? Har någon formulerat en helt annan problemdefinition? Alltför ofta är svaret nej. Det är där beslutsprocessen börjar tappa i kvalitet.

Det finns tre omdömesrisker vi behöver vara medvetna om och hantera när vi tar stöd av AI för att fatta beslut.

1. Vi blir mer lättövertygade. Vi litar för mycket på AI-systemets svar och kontrollerar det mindre än vi skulle ha gjort med ett råd från en kollega. Fenomenet kallas automation bias och har dokumenterats i decennier av forskning på bland annat piloter, läkare och flygledare. När ett automatiserat system presenterar en rekommendation minskar människors benägenhet att ifrågasätta den. Samma mekanism uppstår när AI levererar välformulerade underlag till styrelser och ledningsgrupper.

Men övertron går att motverka. Formulera en egen bedömning innan AI används och jämför sedan aktivt med AI:s rekommendation. Ge en person i gruppen i uppdrag att formulera invändningar. Visa inte AI:s slutsats förrän gruppen har diskuterat underlaget.

2. Vi blir mer enkelspåriga. AI-systemets första svar krymper antalet alternativ vi överväger. Vi fastnar vid startpunkten. När många dessutom använder samma typ av AI-tjänster får de liknande svar. Då blir bedömningarna mer lika och mångfalden i beslutsunderlagen riskerar att bli mindre. Ett till synes brett underlag kan i praktiken vara samstämmiga perspektiv från system tränade på liknande data.

Breda perspektiv uppstår inte av sig själva. Använd medvetet olika AI-tjänster för samma frågeställning och notera var svaren skiljer sig åt. Involvera personer med olika bakgrunder redan när problemet formuleras. Ställ alltid den här frågan: Vilket perspektiv saknas i underlaget? Det som inte prövas framstår lätt som det enda rimliga alternativet.

3. Vi blir sämre på att tänka själva. När analysen levereras färdig behöver vi inte längre formulera, pröva och hålla ihop ett resonemang. Vi ser slutsatsen, men inte alltid hur den har byggts upp. Då blir det svårare att upptäcka brister, väga alternativ och stå för beslutet. Det ökar risken att vi accepterar slutsatser utan att fullt ut förstå hur de har vuxit fram.

Omdömet behöver aktiveras i varje beslut. Låt någon i gruppen redogöra för resonemanget med egna ord, utan att luta sig mot underlaget. Reservera alltid ett moment i viktiga beslut för eget tänkande utan AI-stöd. Be AI redovisa vilka antaganden som ligger bakom analysen och vilka osäkerheter som finns.

AI blir som mest värdefull när den används i tre steg: för att ta fram underlag, pröva invändningar och väga alternativ. Det innebär att använda AI för att tänka mer, inte bara arbeta snabbare. Vår erfarenhet är att de flesta organisationer ännu inte är där. AI hanteras fortfarande som ett IT-projekt eller ett individuellt verktyg. Ingen har fått i uppdrag att säkerställa att den faktiskt stärker beslutsfattandet.

Ledningsgrupper och styrelser behöver bestämma i förväg hur AI ska användas i beslutsprocessen, av vem och i vilken fas. Utan sådana ställningstaganden riskerar AI att styra besluten mer än avsett. De behöver kräva att beslutsunderlag prövas aktivt, inte bara presenteras – och själva ta ansvar för avvägningen mellan verksamhetsnytta, risk och värderingar.

Konsekvenserna handlar inte bara om konkurrenskraft. Beslut som fattas med stöd av AI påverkar anställda, kunder och samhället i stort. När beslutsfattare inte förstår på vilka premisser AI har arbetat och hur den har påverkat analysen försvagas både kvaliteten i besluten och förtroendet för de institutioner och företag som fattar dem.

Regeringen och civilminister Erik Slottner (KD) bör komplettera den nationella AI-strategin med åtgärder för att stärka omdömet i beslutsfattandet. Ett konkret förslag är att införa riktlinjer för hur AI-underlag ska prövas innan beslut fattas i myndigheter och statliga företag. Det kan sätta en standard också för det privata näringslivet och ideella organisationer.

Teknikskiftet ställer högre krav på hur beslut prövas, inte lägre. Sverige når inte topp tio genom snabbare analyser, utan genom klokare beslut.

Andreas Rolfer Wrangö
Birger Lycken
Patrik Westander
Ledarskapskonsulter på pr-byrån Westander