Har AI makten över besluten?

Vem tar besluten? AI och algoritmer kan bestämma vilken skola dina barn hamnar i, rätten till försörjningsstöd och vilken vård du ska få. Nu kommer boken AI och makten över besluten – Vad alla borde veta om algoritmer i offentlig sektor som vrider och vänder på vad som händer när allt fler offentliga avgöranden automatiseras – eller fattas av AI.

13 författare skriver om konkreta exempel och principiella resonemang som alla måste förhålla sig till. Hur får vi insyn i automatiserade beslut? Kommer det gå att överklaga dem? Kan vi låta AI fatta dem?

– Vi ser redan hur många offentliga beslut förvandlats till ”svarta lådor” utan insyn, och om något så borde de internationella exemplen med regeringar som fallit och individers liv som förstörts vara en varningsklocka. Utan offentlighetsprincip i praktiken hotas tilliten till hela samhället, säger Simon Vinge, chefsekonom på Akademikerförbundet SSR.

– Vi ser att det finns en stor efterfrågan på kunskap kring AI, både hos allmänheten och bland yrkesverksamma och organisationer. Men att förstå vad AI är och hur det ska användas är inte längre bara en fråga om att kunna hänga med i samtalen i fikarummet, det är en fråga om demokrati. Det är därför viktigare än någonsin att vi breddar debatten och ökar kunskapen, säger Jannike Tillå, kommunikations- och affärsområdeschef på Internetstiftelsen.

– Jag tror få personer i Sverige känner till att både stat och kommun enligt lag nu kan genomföra helautomatiserade beslut. Texterna i den här boken är viktiga för framtidens demokrati och vi hoppas att många uppfattar hur angelägen läsning detta är, säger Ulrika Bergwall, biträdande förlagschef på Volante och bokens förläggare.

AI & makten över besluten tar upp exempel på allvarliga fel som uppstått till följd av automatiserade beslutsprocesser, men också den verkliga potentialen om vi säkerställer hållbara lösningar och vägar framåt mot dessa.

Redaktörer:
Maja Fjaestad
Docent i teknikhistoria, affilierad forskare vid Institutet för Framtidsstudier och expertkoordinator vid Centrum för Hälsokriser vid Karolinska Institutet.
Simon Vinge
Chefsekonom på Akademikerförbundet SSR, som länge engagerat sig i de algoritmer som allt mer styr beslutsfattandet och arbetets innehåll inom offentlig sektor.

Medverkande författare:

Charlotta Kronblad, postdoktor på Institutionen för tillämpad IT, avd. för informatik, Göteborgs Universitet
Algoritmisk orättvisa: Göteborgs felkodade algoritm för skoplaceringar
Johan Hirschfeldt, fd. hovrättspresident och justitiekansler
Algoritmer och sociala bidragssystem: Två nationella skandaler
Marcus Matteby, IT-direktör (CIO) för Ånge och Sundsvalls kommuner
Om ett ministerbesök, intraprenörer och kommunala perspektiv: En uppgörelse
Marcin de Kaminski, Mångårig nätaktivist och digital integritetsexpert
Digitala hot och risker som formativ ledstjärna
Ulrika Björkstén, Generalsekreterare vetenskap och allmänhet
Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin
Nasim Farrokhnia, Läkare som arbetar på Microsofts globala team med hälso- sjukvård samt life sience
Algoritmer i vården: Hot eller möjlighet för profession och patient?
Fia Ewald, informationssäkerhetsexpert och skribent
Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering
Stefan Larsson, docent vid institutionen för teknik och samhälle, Lunds universitet
Om juridisk fixering och flexibilitet: Den europeiska AI-förordningen och generativ AI
Cecilia Magnusson Sjöberg, professor och ämnesföreståndare för rättsinformatik Stockholms Universitet
Algoritmerna och rättssäkerheten: Juridik, administration och teknik måste väga lika
Jacob Dexe, Public affairs IAB Sverige
Transparensproblemet: Att förklara en algoritm
Karim Jebari, forskare vid Institutet för framtidsstudier
Artificiell intelligens och offentlig rättfärdighet

AI och makten över besluten ges ut av Akademikerförbundet SSR tillsammans med Internetstiftelsen och bokförlaget Volante. 
Utgivningsdag 2024-05-22
Formgivning Miroslav Sokcic