Den automatiserade förvaltningen: Styrning av automatiserat beslutsfattande inom offentlig sektor

I den nordiska offentliga förvaltningen har artificiell intelligens (AI) och automatiserat beslutsfattande introducerats i syfte att utnyttja de möjligheter digitaliseringen ger och utföra välfärdsuppdraget mer effektivt. Regelbaserad automation har med goda resultat använts inom vissa statliga områden, och inom den offentliga förvaltningen i Sverige beräknas mer komplex artificiell intelligens kunna spara upp till 140 miljarder kronor per år. I Finlands AI-strategi understryks det att den offentliga sektorn måste förnyas för att den ska kunna klara av trycket från en åldrande befolkning.

Det finns dock farhågor kring en ökad användning av automatiserat beslutsfattande, och frågor som är olösta kring styrningen. Det automatiserade beslutsfattandet riskerar att utmana grundläggande rättigheter och värderingar inom den nordiska traditionen av god offentlig förvaltning, till exempel transparens, rättssäkerhet, rätten att överklaga beslut och icke-diskriminering. Tidigare forskning har lyft fram att AI-systemen i värsta fall kan bidra till ökad ojämlikhet, bristande transparens och risk för felaktiga beslut med olyckliga följder.

Forskningsprojektet undersöker hur automatiserat offentligt beslutsfattande kan implementeras utan att det undergräver vare sig god offentlig förvaltning eller medborgarnas grundläggande rättigheter och tillit till offentliga institutioner.

Projektet består av tre delprojekt: Det första studerar hur överstatliga normativa och principiella ramverk påverkar styrningen av tillämpad artificiell intelligens i Norden. Det andra delprojektet analyserar den praktiska implementeringen av automatiserat beslutsfattande i Sverige och Finland ur både myndighets- och medborgarperspektiv. Det tredje delprojektet studerar centrala utmaningar inom reglering och tillsyn när automatiserat beslutsfattande tas i bruk inom den offentliga sektorn i Sverige och Finland.

De vetenskapliga discipliner och perspektiv som forskarna i projektet utgår från är rättssociologi, statsvetenskap, medie- och kommunikationsvetenskap, teknik- och vetenskapsstudier (ofta kallat STS) samt juridik och rättsvetenskap. Projektet är placerat vid Lunds universitet och i projektgruppen ingår också forskare från Helsingfors universitet, Södertörns högskola och Uppsala universitet. Projektet samarbetar med Research Institute for Sustainable AI (RISAI). Projektet har beviljats 950 000 euro.

Följ projektet

Webbplats vid Lunds universitet

Webbplats vid Helsingfors universitet

Projektgrupp

Suvi Sankari, Riikka Koulu, Ida Koivisto, Jonas Ledendal, Ellinor Blom Lussi, Anne Kaun och Stefan Larsson.

Universitetslektor, LLM, docent Stefan Larsson (projektledare), Lunds universitet
Postdoktoral forskare, LLM, PD Jockum Hildén, Lunds universitet
Biträdande universitetslektor, JD Katja de Vries, Uppsala universitet
Professor, FD Anne Kaun, Södertörns högskola
Biträdande professor, JD Riikka Koulu, Helsingfors universitet
Biträdande professor, JD Ida Koivisto, Helsingfors universitet
Universitetslektor, JD Jonas Ledendal, Lunds universitet
Doktorand Ellinor Blom Lussi, Lunds universitet
Docent Suvi Sankari, Helsingfors universitet
Layout designer Joakim Olsson, Research Institute for Sustainable AI (RISAI)