AI & makten över besluten : Vad alla borde veta om algoritmer i offentlig sektor

by Maja Fjaestad (Editor), Simon Vinge (Editor), Charlotta Kronblad (Contributor)

Vad alla borde veta om algoritmer i offentlig sektor

Allt fler offentliga beslut fattas av algoritmer. Automatiserade processer kan avgöra vilken skola du hamnar i, vad du ska få för vård och om du har rätt till bidrag eller inte. Beslut som är avgörande för ditt liv och din hälsa.

Denna antologi samlar texter som lyfter vår blick mot vad som händer när vi låter algoritmer ta offentliga beslut: Vad blir nytt när AI införlivas i samhällskroppen? På vilket sätt påverkar till synes små steg helheten? Och hur kan vi få en fungerande insyn i den automatiserade beslutsprocessen om det ens går?

Är det rimligt att offentliga aktörer enskilt ska uppfinna egna lösningar, när de har liknande behov? Hur säkerställer vi att systemen som implementeras inte blir dyra och dåliga? Och kommer en medborgare kunna överklaga ett beslut taget av en digitaliserad förvaltning?

AI & makten över besluten tar upp exempel på allvarliga fel som uppstått till följd av automatiserade beslutsprocesser men också den verkliga potentialen om vi säkerställer hållbara lösningar och vägar framåt mot dessa.

Maja Fjaestad är docent i teknikhistoria, affilierad forskare vid Institutet för Framtidsstudier och expertkoordinator vid Centrum för Hälsokriser vid Karolinska Institutet. Simon Vinge är chefsekonom på Akademikerförbundet SSR, som länge engagerat sig i de algoritmer som allt mer styr beslutsfattandet och arbetets innehåll inom offentlig sektor.

Innehåll
Charlotta Kronblad: Algoritmisk orättvisa Göteborgs felkodade algoritm för skoplaceringar
Johan Hirschfeldt: Algoritmer och sociala bidragssystem: två nationella skandaler
Macus Matteby: Om ett ministerbesök, intraprenörer och kommunala perspektiv: en uppgörelse
Marcin de Kaminski: Digitala hot och risker som formativ ledstjärna
Ulrika Björkstén: Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin
Nasim Farrokhnia: Algoritmer i vården: hot eller möjlighet för profession och patient?
Fia Ewald: Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering
Stefan Larsson: Om juridisk fixering och flexibilitet den europeiska AI-förordningen och generativ AI
Cecilia Magnusson Sjöberg: Algoritmerna och rättssäkerheten juridik, administration och teknik måste väga lika
Jacob Dexe: Transparensproblemet: Att förklara en algoritm
Karim Jebari: Artificiell intelligens och offentlig rättfärdighet

Genres: Artificial Intelligence

224 pages, Paperback

First published May 22, 2024

Reviews

[Bjorn · Rating 4 out of 5]

Som någon som jobbar inom offentlig sektor, och har sett hur beslut om ”digitalisering” fattas av chefer som år 2024 behöver hjälp av ”tekniker” för att hitta muteknappen i Teams, skrämmer den här utvecklingen livet ur mig. I en tid när vi mer än någonsin behöver tänka efter exakt hur mycket av beslutsfattande och persondatahantering vi vill stoppa in i smarta försäljares svarta lådor kommer vi snarare att glatt fortsätta ”leka och lattja” (exakt citat vad jag som bibliotekarie uppmuntras göra med ”artificiell” ”intelligens”) oss fram till en punkt där vi inte längre vet hur beslut fattas, på vilka grunder, och vem som är ansvarig. Problemet med s k AI är inte att den är för smart; det är att vi är för dumma.

Snälla någon, bevisa att jag har fel.

- Göteborg som lät en algoritm fördela var skolbarn skulle gå i skolan och inte förstod skillnaden mellan fågelväg och resetid. Och sedan inte tog ansvar. Och förvaltningsdomstolen inte förstod problemet.
- ”Teknik är alltid byggd av någon, på ett visst sätt, med ett speciellt syfte i åtanke, och detta syfte kommer också att avspeglas i teknikens utformning. Om teknikens politiska dimensioner glöms bort riskerar vi att osynliggöra samhällsbeslut som borde fattas i demokratiska församlingar. Motmedlet är en medvetenhet om att den tekniska utvecklingen inte är självgående utan den kan och bör underkastas demokratins principer.”
- ”Hur mycket data varje medborgare genererar, och vilka beteenden medborgaren ’matar’ systemet med, är inte jämlikt fördelat. Den som äger fler tekniska prylar tenderar att skapa mer data”
- ”Några har gjort ett medvetet val, men de flesta förblir passiva och väntar på styrsignaler från regeringen eller (…) SKR. Styrsignaler de med stor sannolikhet inte kommer att få. (…) Konsekvensen är enskilda inköp till astronomiska totalbelopp, obefintlig förhandlingsstyrka gentemot ett fåtal jätteleverantörer och – om vi ska vara ärliga – ofta rätt kassa system.” (Marcus Matteby, Sundsvalls kommun)
- ”Att AI har potential att bidra med stora nyttor inom offentlig sektor är det ingen som förnekar, men samtidigt finns risk för att marknadens affärsmodeller skapar än större inlåsningseffekter med ytterligare minskad transparens som effekt. (…) Detta behöver dock inte bli en sanning för kommuner och regioner om vi lyckas driva utvecklingen mot användning av en mer öppen AI-infrastruktur…”
- ”Det offentliga ska inte lockas till en innovationsverksamhet som inte håller medborgares fri- och rättigheter i första rummet. Att sjösätta eller tillåta samhällsbärande digitala lösningar utan att förstå hur tekniken är uppbyggd eller hur lösningarna hanterar medborgares data är att tillåta sig att medvetet ignorera den nya teknikens maktmedel – algoritmerna – och den inverka de kommer att ha på medborgarnas tillit till samhällets förmåga att utvecklas i samklang med den digitala tidsålder vi lever i.”
- ”Digitaliseringen har lett till att myndigheter kunnat omformulera sitt uppdrag från myndighetsutövning till ett ’tjänsteutbud’ efterliknande en kommersiell aktörs terminologi. När medborgaren förvandlas till kund förlorar individen också makten över samhällsutvecklingen. Kundens val gäller individuella tjänster för individen, till skillnad från att ge en medborgare agens när det gäller samhället i stort.”
- ”Trots detta har digitalisering aldrig varit en partipolitisk fråga där ideologiska vägval presenteras för väljarna. (…) Den enda konkreta fråga som fanns med i programförklaringarna var löften om utbyggd bredband. De drygt 1330 motioner om digitalisering som i skrivande stund har lämnats in till riksdagen ger inte heller de någon bild av vad partierna avser att digitaliseringen ska leda till för ett samhälle.”
- ”Användningen av ML-teknik som beslutsstöd i offentlig myndighetsutövning är rättfärdig enligt demokratiska normer om, och endast om (I) det grundar sig på skäl som överensstämmer med offentliga beslut om de mål som demokratiskt har beslutats, och (II) skälen är tillgängliga för dem som omfattas av ett beslut fattat av en offentlig myndighet.”

[Marcus · Rating 2 out of 5]

Är bara en preferens av mig men hade förväntningar att boken skulle vara mer ingående i Ai delar. Skulle säga att det var endast två kapitel som fånga mitt intresse ordentligt.

Men boken i sig är bra skriven och har ett intressant innehåll för den som kanske inte är allt för djupt intresserad av själva tekniken, utan mer konsekvenserna samt kedjan av problem som uppstår med hastigt och ogenomtänkt implementering av teknik som man inte förstår sig på.

[Yuliya Zhuk · Rating 5 out of 5]

AI och Makten över beslutet” är en antologi som samlar olika reflektioner om hur generativ AI kan och bör användas inom offentlig sektor. Det är just detta fokus som gör boken unik: den handlar inte om AI för privatkonsumenter eller företag, utan om hur teknologin påverkar svenska kommuner, regioner, vården, rättsväsendet och myndigheternas maktutövning.

Boken lyfter flera viktiga och tankeväckande frågor:

Lagstiftningens tempo: Hur skapar vi ett regelverk för AI som är tillräckligt flexibelt och dynamiskt för att hålla jämna steg med teknikutvecklingen, utan att ge avkall på rättssäkerheten?

Transparensprincipens dilemma: Transparens är djupt förknippad med demokrati. Samtidigt finns det risker med att känslig information blir alltför tillgänglig. Var går gränsen mellan öppenhet och skyddsvärd information?

Förklarbarhet i praktiken: Statliga organisationer förväntas använda AI på ett förklarbart sätt. Men hur når vi det målet i verkligheten – särskilt när många medborgare har begränsad förståelse för hur AI faktiskt fungerar?

Gemensam infrastruktur: Slutligen väcks frågan om hur vi ska bygga en fungerande AI-infrastruktur som kan samverka mellan alla nivåer och sektorer inom staten.


Sammanfattningsvis är det en bok som verkligen väcker eftertanke och belyser de komplexa avvägningar som Sverige står inför när AI blir en del av offentlig förvaltning.