Riktlinjer för generativ AI i offentlig förvaltning – Digg

Riktlinjer för generativ AI inom offentlig förvaltning är en vägledning från Digg om hur myndigheter och andra offentliga aktörer ska använda generativ i AI i sin verksamhet.

Riktlinjen för generativ AI omfattar:

• Rekommendationer för ledning och ansvar som att införa en AI-policy, förbereda verksamheten inför AI-förordningen och att beslut med stöd av generativ AI bör ha mänsklig kontroll.
• Dataskydd och personuppgiftsbehandling – egentligen att inte glömma bort att dataskyddsrättsliga principer också gäller användningen av generativ AI. Automatiserat beslutsfattande och överföring till tredje land behandlas likaså att risker ska bedömas och lämplig säkerhet ska säkerställas.
• Arbetsrätt: Analys av hur arbetsplatsen påverkas av att införa generativ AI.
• Anskaffning: Råd kring att köpa generativ AI enligt LOU.
• Informationssäkerhet: Här är fokus på att säkerställa sekretess och identifiera risker för informationssäkerhet.
• Upphovsrätt: Bedöm upphovsrätten vid användningen av generativ AI.
• Etik: Använd generativ AI på etiskt sätt.

Identifiera risker för informationssäkerhet vid användning av generativ AI

Det avsnittet påminner om vikten av ett systematiskt informationssäkerhetsarbete även när det gäller generativ AI.

Samtliga myndigheter och de flesta kommuner och regioner kommer att omfattas av den lag som genomför det nya NIS 2-direktivet. För vissa aktörer gäller även Säkerhetsskyddslag (2018:585).

AI-verktyg kan bidra till nya informationssäkerhetsrisker eller nyttja de redan befintliga bristerna. Om det inte finns en tillräcklig bra behörighetsstyrning och säkerhetsklassning på myndigheten kan AI-verktyg matas med data som kanske är känslig. Grundprincipen om konfidentialitet måste säkra här.