En förtroendemodell skapar tydlighet och tillit i myndigheters automatisering med ny teknik
Den 5 december 2019 tilldelades Lantmäteriet och DIGG regeringsuppdraget om att testa ny teknik vid automatisering inom offentlig förvaltning (I2019/03237/DF). Den 15 december 2020 överlämnade myndigheterna sin slutrapport.
En förtroendemodell som skapar tillit – även vid negativa beslut
Det kan vara svårt att beskriva hur artificiell intelligens (AI) verkar och leder fram till bedömningar och beslut. De flesta har dock förtroende för myndigheternas bedömning, service och kompetens, även vid automatiserade beslut.
Men om AI och automatiserade åtgärder leder till icke bifallande beslut eller konsekvenser som upplevs som negativa, då behövs transparens kring teknik, etik, juridik och rättssäkerhet för att bibehålla det höga förtroendet.
Information både på bredden och på djupet
Rapporten presenterar ett koncept för en förtroendemodell för automatisering, som bygger på insyn och förståelse för att säkerställa tillit och förtroende vid automatisering inom det offentliga. Modellen omfattar en redovisning och deklaration av de automatiserade tjänsterna som ger en både bred och djup bild av hur systemet fungerar och vad åtgärderna grundar sig i.
Här beskrivs exempelvis algoritmer, data som använts och utfall och resultat. Även etiska och juridiska ställningstaganden som organisationen kan ha att förhålla sig till, beskrivs. Beslut eller andra automatiserade åtgärder loggas i en blockkedja för att garantera både säker och hållbar spårbarhet och god transparens.
Ett verktyg nationellt men även internationellt
Lantmäteriet och DIGG ser att förtroendemodellen för automatiserat beslutsfattande inom offentlig förvaltning kan vara en viktig del för att bibehålla förtroende och tillit till den svenska offentliga förvaltningen. Modellen har provats på en verksamhet i Lantmäteriet och kan vidareanvändas inom hela den offentliga förvaltningen.
Modellen kan även föras över till den europeiska digitaliserade offentliga förvaltningen. DIGG rekommenderas därför att få i uppdrag att utveckla, skala upp och etablera modellen i Sverige och EU.
Lär dig mer
Slutrapport: Testa ny teknik för automatisering inom offentlig förvaltning