AI och offentligt beslutsfattande

Frågor om användning av AI i förvaltningsmyndigheters verksamhet har blivit alltmer aktuella. Användningen av AI är dock bara delvis reglerad i lagstiftningen, och det finns såväl krav som begränsningar vad gäller användningen av AI, i synnerhet avseende myndighetsutövning.

Den nuvarande svenska regleringen tillkom i allt väsentligt innan AI i dess nu aktuella form fanns. Regleringen är alltså bara delvis anpassad till AI-användning.

I 28 § förvaltningslagen finns numera ett utrymme för automatiserat beslutsfattande, som tidigare inte funnits. I detta avseende innebär den nuvarande förvaltningslagen en stor förändring jämfört med den tidigare regleringen. Frågor om automatiserat beslutsfattande aktualiserar dels frågor om skydd för enskildas rättigheter vad gäller kartläggning/personlig integritet, frågor om dataskydd, liksom i vissa avseenden diskrimineringsskydd.

I denna kurs behandlas de rättsliga förutsättningarna och vilka krav som finns i förhållande till det automatiserade beslutsfattandet. En sida av automatiserat beslutsfattande som inte behandlats närmare är i vilken utsträckning som utredningsarbete i olika hänseenden kan automatiseras utan att det därför kommer att stå i strid med förvaltningsrättsliga krav.

I kursen behandlas vad som ses som automatiserat beslutsfattande, d.v.s. frågor om hur omfattande automatiseringen kan vara utan att stå i strid med kraven på legalitet och förutsebarhet, krav på saklighet och opartiskhet vad gäller utredningen och därmed också frågor om tillåtligheten av sådana åtgärder. Frågor om användningen av automatiserade beslut aktualiserar i vissa fall regleringen i EU:s AI Act.

I kursen behandlas ett antal frågor:

• Hur definieras automatiserat beslutsfattande?
  • Automatisk bearbetning av givna data
  • Självlärande behandling av givna data (AI-modeller)
  • Automatiserad ”utredning”
  • Självlärande utredning
• Vilka element i beredningen kan automatiseras?
• Finns det element i beredningen som inte får automatiseras?
• Hur förhåller sig automatiska beslut till krav på saklighet, opartiskhet, legalitet och proportionalitet?

Pass 1: AI och beslutsfattande i förvaltningsrätten 
– Vad är automatiserat beslutsfattande?
           Automatisering genom program avseende beslutsfattande
           Automatisering av beslut genom självlärande program (t.ex. LLM)
– Regler om automatiserat beslutsfattande
            Förvaltningslagen
            Speciallagstiftning
– EU-rättsliga krav avseende automatiserat beslutsfattande.
– Vem fattar automatiserade beslut (och spelar det någon roll?)
– Finns något krav på mänskliga åtgärder?
            Automatiserat beslutsfattande
            Beslutsfattande hos en person?
– Krav på automatiserade beslut?
– Hur hanteras frågor om legalitet i automatiserat beslutsfattande?
– Hur hanteras frågor om proportionalitet i betungande åtgärder visavi enskilda i automatiskt beslutsfattande?

Pass 2: AI och utredningsarbete i ljuset av förvaltningsrättsliga krav
– Automatiserad utredning?
             Vad är automatisering av utredningen i förvaltningsärenden?
              Självlärande program för utredning i förvaltningsärenden
              Rättsliga krav på utredningar: 1:9 RF och 5 § FL.
– Hur kontrolleras värderingen av materialet
– Vad tillförs utredningen?
               Enskildas påståenden som tillförs utredning?
                Hur påverkas tredje part?
– Hur säkerställs tillräcklig utredning i sådana fall?
                 Hur hanteras remissförfaranden?
                 Hur hanteras kommunikation?
– Hur värderas bevisning?
                  Betydande frihet att värdera bevisning?
                  Hur bedöms bevisvärderingen?
– Saklighet och opartiskhet i värdering av bevisningen?

Pass 3: AI-användning i förvaltningen och integritetsskydd 
– Andra rättsliga frågor
                     Frågor om kartläggning av enskilda
                     Frågor om hantering av persondata
– Diskrimineringsskydd

Pass 4: Ansvarsregler
– Vem är ansvarig för fel i automatiserade beslut?
– Regelverket
– Standarder för regelverket