AI och integritet: personuppgifter, risker och kontroller

AI och integritet börjar med dataflödet

AI och integritet handlar inte bara om vad en modell har tränats på. Personuppgifter kan behandlas när material samlas in, när en användare skriver en instruktion, när systemet söker i dokument, när svaret loggas och när människor använder resultatet.

Börja därför med att rita dataflödet:

1. Vilka uppgifter går in?
2. Varifrån kommer de?
3. Vilken leverantör och vilka underleverantörer får dem?
4. Var lagras instruktioner, filer, svar och loggar?
5. Används materialet för träning eller andra ändamål?
6. Vilka personer och system kan läsa resultatet?
7. När raderas uppgifterna?

En integritetspolicy på leverantörens webbplats ersätter inte organisationens egen bedömning.

Vad är en personuppgift?

En personuppgift är information som rör en identifierad eller identifierbar fysisk person. Namn och personnummer är tydliga exempel, men även kundnummer, platsuppgifter, fotografier, röster och kombinationer av uppgifter kan identifiera någon.

Källa: Europeiska dataskyddsstyrelsens grundguide

Att ta bort namnet räcker inte alltid. En beskrivning av befattning, arbetsplats, datum och händelse kan peka ut en person. Pseudonymiserade uppgifter är fortfarande personuppgifter om kopplingen kan återställas. Anonymisering kräver att personen inte längre rimligen kan identifieras.

Integritet är bredare än personuppgifter

Ett material kan vara olämpligt att lämna till en AI-tjänst även om det inte innehåller personuppgifter. Företagshemligheter, opublicerade affärsplaner, säkerhetsinformation, avtalsbundet material och sekretessbelagda uppgifter följer andra regler.

Håll därför isär frågorna:

• Dataskydd gäller personuppgifter.
• Informationssäkerhet gäller informationens konfidentialitet, riktighet och tillgänglighet.
• Sekretess och tystnadsplikt kan begränsa utlämnande.
• Avtal kan förbjuda delning eller viss teknisk behandling.
• Upphovsrätt kan begränsa hur skyddat material används.

En godkänd personuppgiftsbehandling betyder inte automatiskt att materialet får lämnas enligt alla andra regler.

Rättsligt stöd och tydligt ändamål

IMY betonar att organisationen behöver ett tydligt ändamål och ett rättsligt stöd för behandling av personuppgifter när generativ AI används. Bedömningen görs för den konkreta behandlingen, inte för AI som teknik i allmänhet.

Källa: IMY, GDPR vid användning av generativ AI

Ett avtal med leverantören är viktigt men är inte i sig ett rättsligt stöd för att behandla personuppgifterna. Organisationen behöver även avgöra varför uppgifterna får behandlas och om användningen är nödvändig och proportionerlig.

Beskriv ändamålet så att det går att prova. "För att använda AI" är inte tillräckligt precist. "För att sammanfatta inkomna synpunkter och hjälpa handläggaren att hitta återkommande teman" är tydligare.

Om material senare ska användas för ett nytt syfte behöver det nya syftet bedömas.

Uppgiftsminimering

Behandla bara de personuppgifter som behövs för uppgiften. Det betyder inte bara att ta bort uppenbart känsliga fält. Hela dokument, mejltrådar och mötesutskrifter innehåller ofta mer information än modellen behöver.

Praktiska metoder:

• ersätt namn med roller,
• ta bort kontaktuppgifter och identitetsnummer,
• begränsa tidsperioden,
• skicka relevanta utdrag i stället för hela akten,
• använd sammanställda värden där individdata inte behövs,
• låt bearbetning ske lokalt när det är möjligt,
• ge tjänsten läsbehörighet till minsta möjliga källa.

Kontrollera att borttagningen inte kan återställas genom sammanhanget eller andra tillgängliga register.

Leverantörens roll och avtalet

IMY beskriver att leverantören i många fall kan vara personuppgiftsbiträde, men rollen beror på vem som bestämmer ändamål och medel. En leverantör som använder uppgifterna för egna mål kan få ett annat ansvar.

Bedöm:

• vilka instruktioner leverantören följer,
• om data används för egna ändamål,
• vilka underleverantörer som finns,
• var behandling sker,
• hur radering och återlämning fungerar,
• hur incidenter rapporteras,
• vilka säkerhetsåtgärder som dokumenteras,
• hur leverantörsförändringar meddelas.

Använd inte produktens marknadsnamn som bevis för dataskydd. Två kontotyper hos samma leverantör kan ha olika villkor och standardinställningar.

Träning, sökning och vanlig drift

Tre olika behandlingar blandas ofta ihop.

Träning innebär att data används för att anpassa modellens parametrar.

Sökning i egna källor innebär att systemet hämtar dokument eller utdrag när en fråga besvaras.

Vanlig drift innebär att instruktionen och svaret behandlas för att leverera tjänsten, ofta med loggar för säkerhet och support.

Att leverantören inte tränar på kundens data betyder alltså inte att uppgifterna aldrig behandlas eller lagras. Kontrollera samtliga led.

AI-modeller och anonymitet

Europeiska dataskyddsstyrelsen antog i december 2024 ett yttrande om personuppgifter i AI-modeller. Styrelsen framhåller att frågan om en modell kan anses anonym måste bedömas från fall till fall. Myndigheten behöver bland annat bedöma sannolikheten att personuppgifter kan utvinnas eller fås fram genom frågor.

Källa: EDPB, Opinion 28/2024

Det går därför inte att säga att en modell alltid är anonym bara för att träningsmaterialet inte visas som en databas. Organisationen behöver bedöma den konkreta modellen, åtkomsten och möjliga angrepp.

Känsliga personuppgifter och höga konsekvenser

Uppgifter om hälsa, politiska åsikter, religion, facklig tillhörighet, genetiska och biometriska uppgifter samt sexualliv eller sexuell läggning har särskilt skydd. Även andra uppgifter kan vara mycket integritetskänsliga i sitt sammanhang.

Generella chattverktyg bör inte användas för sådant material utan en uttrycklig, dokumenterad bedömning. Att avidentifiera kan vara svårt när en ärendebeskrivning innehåller ovanliga omständigheter.

När ett AI-system påverkar beslut om människor ökar behovet av korrekthet, insyn och möjlighet att invända. Ett felaktigt sammanfattat dokument kan få konsekvenser även om modellen aldrig fattar det formella beslutet.

Information till den registrerade

Den person vars uppgifter behandlas ska i relevanta fall få begriplig information om behandlingen. Informationen behöver beskriva syfte, kategorier av uppgifter, mottagare, lagring och rättigheter.

Skriv för den person som berörs, inte för leverantörens jurist. Om AI-delen har en praktisk betydelse bör informationen förklara den, exempelvis att ett system kategoriserar ett ärende eller hjälper en handläggare att sammanfatta underlag.

Transparens betyder inte att all teknisk kod måste visas. Den betyder att personen kan förstå vad som händer med uppgifterna och vilka följder behandlingen kan få.

Automatiserade beslut och mänsklig granskning

Det är skillnad mellan ett verktyg som hjälper en person att hitta information och ett system som i praktiken avgör ett resultat. En människa i slutet av processen gör inte automatiskt beslutet mänskligt.

Granskaren behöver:

• se originalunderlaget,
• förstå systemets roll,
• ha tid och kunskap att kontrollera,
• kunna ändra utfallet,
• ha verkligt mandat,
• dokumentera relevanta skäl.

Om ett AI-förslag nästan alltid följs utan kontroll kan den faktiska processen vara mer automatiserad än organisationsschemat visar.

Konsekvensbedömning

IMY:s vägledning anger att analysen av om en konsekvensbedömning behövs inte skiljer sig från annan personuppgiftsbehandling. En sådan bedömning är särskilt relevant när en ny behandling sannolikt leder till hög risk för människors rättigheter och friheter.

Bedöm före start, inte efter en incident. Beskriv behandling, nödvändighet, risker och skyddsåtgärder. Uppdatera bedömningen när datakällor, ändamål, leverantör eller systemets självständighet ändras.

Dataskyddsombud och andra berörda funktioner behöver få tillräcklig teknisk och praktisk information för att kunna bidra.

Säkerhet och åtkomst

Begränsa åtkomst enligt användarens behov. En AI-tjänst som söker i interna dokument ska inte göra fler dokument synliga än den vanliga behörigheten tillåter.

Kontroller omfattar:

• organisationskonton och flerfaktorsinloggning,
• central hantering av behörighet,
• separata miljöer för prov och drift,
• loggning av frågor, källor och åtgärder,
• skydd mot att indata försöker styra systemet fel,
• säker export och radering,
• reservrutin vid avbrott,
• återkommande granskning av leverantörsåtkomst.

Låt inte språkmodellen själv besluta om identitet eller behörighet. Det ska göras av vanliga säkerhetskontroller.

När något har gått fel

En personuppgiftsincident är en säkerhetsincident som leder till förstöring, förlust, ändring eller obehörigt röjande av eller åtkomst till personuppgifter. Alla felaktiga inmatningar är inte automatiskt anmälningspliktiga incidenter, men händelsen ska bedömas och dokumenteras.

Källa: IMY om personuppgiftsincidenter

Gör direkt:

1. Stoppa fortsatt spridning om det går.
2. Kontakta organisationens ansvariga funktion.
3. Bevara fakta om vad, när, vem och vilken tjänst.
4. Kontrollera mottagare, lagring och möjliga raderingsvägar.
5. Bedöm risk för de registrerade.
6. Dokumentera beslut om anmälan och information.

Om incidenten sannolikt medför risk ska den personuppgiftsansvariga anmäla den till IMY inom 72 timmar från att organisationen fått vetskap. Vid hög risk kan berörda personer också behöva informeras utan onödigt dröjsmål.

En praktisk kontroll före användning

Fråga före varje ny användning:

• Behöver uppgiften över huvud taget lämna organisationen?
• Innehåller materialet personuppgifter eller annan skyddsvärd information?
• Kan uppgifterna minimeras eller anonymiseras?
• Är tjänsten godkänd för just denna information?
• Finns rättsligt stöd och tydligt ändamål?
• Vet vi vad leverantören och underleverantörerna gör?
• Kan den registrerade få begriplig information?
• Kan resultatet rättas och användningen stoppas?
• Finns en reservrutin?

Om svaren saknas är det ett skäl att pausa uppgiften, inte att gissa.

Den registrerades rättigheter

Beroende på rättsligt stöd och situation kan den registrerade ha rätt till information, tillgång, rättelse, radering, begränsning, invändning eller dataportabilitet. Organisationen behöver kunna hantera en begäran även när uppgifterna har behandlats i en AI-tjänst.

Kartlägg därför var uppgifter finns:

• ursprunglig datakälla,
• instruktioner och uppladdade filer,
• genererade svar,
• sökindex eller annan mellanlagring,
• användar- och säkerhetsloggar,
• säkerhetskopior,
• leverantörens stödsystem.

En modell kan ha tränats eller anpassats på ett sätt som gör en enskild uppgift svår att lokalisera. Det tar inte bort skyldigheten att i förväg bedöma hur rättigheter ska kunna hanteras.

Ge den registrerade en kontaktväg och se till att kundservice, dataskydd och systemägare vet vem som gör vad.

Prova integritetskontrollerna

Kontroller behöver provas praktiskt. Använd syntetiska uppgifter och kontrollera:

1. Att en användare bara kan söka i tillåtna källor.
2. Att borttagna dokument inte fortsätter att visas.
3. Att loggar fångar relevant åtkomst utan onödig persondata.
4. Att en felaktig uppgift kan rättas i källan och slutar påverka nya svar.
5. Att radering når de system som avtalet omfattar.
6. Att leverantörens support inte får större åtkomst än avsett.
7. Att funktionen kan stängas av vid incident.

Prova även att en manipulerad text försöker få systemet att visa en annan användares information. En skriftlig behörighetsregel är inte tillräcklig om anslutningen ändå lämnar ut dokumentet.

Barn, anställda och andra beroendeställningar

Samtycke är inte alltid ett lämpligt eller giltigt stöd när maktförhållandet är ojämnt. Anställda kan ha svårt att säga nej till arbetsgivarens system, och barns personuppgifter kräver särskild omsorg.

Bedöm nödvändighet, information, alternativ och möjliga följder. Använd inte AI-baserad analys av människor bara för att data finns eller leverantören erbjuder funktionen. Syftet och nyttan behöver väga upp intrånget, och mindre ingripande alternativ ska övervägas.

Sammanfattning

AI och integritet kräver kontroll över hela dataflödet. Organisationen behöver ett tydligt ändamål och rättsligt stöd, minimera personuppgifter, bedöma leverantörens roll och säkra åtkomst och loggar.

Att träning är avstängd löser bara en del. Instruktioner, filer, svar, sökning och loggar är fortfarande behandlingar som behöver förstås. Börja med den konkreta uppgiften, dokumentera bedömningen och ge personalen tydliga tillåtna arbetssätt.