Myndigheternas AI-användning utmanar medborgarnas förtroende för välfärdsstaten
AI-styrda beslutsprocesser vinner insteg i de nordiska välfärdsstaterna, med löften om att förenkla och effektivera förvaltningen. Samtidigt medför de stora utmaningar gällande transparens, rättssäkerhet och tillit.
Förhållandet och förändringarna i välfärdsstatens förhållande till medborgarna granskas i det tvärvetenskapliga forskningsprojektet Den automatiserade förvaltningen: Styrning av automatiserat beslutsfattande inom offentlig sektorsom leds av Stefan Larsson, docent vid Lunds universitet. Projektet fokuserar på styrning, juridik och policyutveckling i Sverige och Finland.
– Vi vill förstå hur staten kan använda AI på ett sätt som är både effektivt och rättvist så att medborgarna inte tappar förtroendet för myndigheterna, säger han.
Tekniken snabbare än lagstiftarna
Både tekniken och lagstiftningen utvecklas rasande snabbt. EU:s AI-förordning har förändrat spelplanen, och forskarna undersöker hur regleringen påverkar nationell styrning. En central utmaning är att den snabba teknikutvecklingen medför ett rörligt mål för lagstiftningen.
– Lagstiftarna vill reglera AI, men lämnar samtidigt mycket öppet för senare förändringar. Det är förvisso förståeligt givet hur generativ AI tog ett stort språng under själva lagstiftningsprocessen, men det utmanar behovet av juridisk förutsägbarhet, säger Larsson.
För honom har det varit särskilt intressant att forskningsprojektet ägt rum under en period med snabba och stora omvälvningar. Forskarna har bland annat identifierat nationella skillnader, där Sverige och Finland har olika strategier.
– Finland var tidigt ute med AI-riktlinjer, medan Sverige tidigare var mer försiktigt. Trots en gemensam EU-lagstiftning tar juridiken sig olika uttryck i de två länderna, och det här är något vi undersöker och försöker förstå betydelsen av.
Nya metoder för fysisk gestaltning
Forskargruppen har arbetat tvärvetenskapligt med inslag av statsvetenskap, rättsvetenskap och andra samhällsvetenskapliga inslag. Ett exempel på metodutveckling är en workshop i Helsingfors där begreppet "stoppknapp" i AI-system undersöktes genom fysisk gestaltning under docent Riikka Koulus ledning. Stoppknappen (på engelska: kill switch eller emergency stop button) är en funktion som gör det möjligt att stänga av ett AI-system som inte beter sig som det ska.
– Det var ett nytt sätt att närma sig rättsteori. Att förkroppsliga begrepp med tejp och pinnar väckte andra tankar än dem vi får vid skrivbordet. Det är ju dessa mänskligt speglade men metaforiska förståelser av vad AI är, och hur artificiell intelligens kan regleras eller inte regleras, som formar lagstiftningen med dess styrkor och brister.
Forskarna har även studerat hur AI påverkar medborgarens möte med staten, till exempel genom chattbottar. De har bland annat följt etableringen av den nya svenska myndigheten Utbetalningsmyndigheten, som namnet till trots utreder felaktigheter snarare än att fatta beslut om att betala ut stöd. Det vittnar enligt Stefan Larsson om förskjutningar i hur teknikens roll ramas in och beskrivs när relationen mellan medborgare och stat förändras.
– När man studerar frågor om tillit och rättvisa i mötet mellan teknikmedierad förändring och dess rättsliga styrning får man inte glömma vem förvaltningen är satt att betjäna, säger han.
Projektet har nära kontakt med myndigheter och har arrangerat flertalet seminarier för att skapa dialog mellan forskning och praktik. Målet är att bidra till en offentlig förvaltning där AI används ansvarsfullt med medborgaren i första rummet.
Mer info:
Projektledare Stefan Larsson
docent vid Lunds universitet
stefan.larsson@lth.lu.se
