Etik, risk och säkerhet
AI-säkerhet
AI-säkerhet är skyddet av AI-system mot att luras, manipuleras eller missbrukas: att någon får verktyget att göra något det inte skulle, eller får ut något det inte skulle lämna ifrån sig. Det är en annan fråga än om systemet gör rätt när ingen försöker lura det.
Vad AI-säkerhet förväxlas med
Risker med AI. Det bredare ordet, som också rymmer allt som går fel utan att någon vill illa. AI-säkerhet handlar om den som vill illa.
IT-säkerhet i allmänhet. Brandväggar och behörigheter gäller fortfarande. Det nya är att ett AI-verktyg kan luras med vanlig text i stället för med kod, vilket ingen befintlig kontroll fångar.
Dataskydd. Handlar om vad som får behandlas. Säkerhet handlar om att det som inte får hända inte händer.
Var du möter ordet AI-säkerhet
I säkerhetsgranskningar och i frågelistor till leverantörer. Och i en konkret situation som blivit vanlig: ett verktyg läser ett dokument eller ett mejl som kommit utifrån, och i den texten ligger instruktioner riktade till verktyget snarare än till dig.
Det är den nyaste risken på en vanlig arbetsplats och den minst kända.
Vad du kan göra med det
Utgå från att allt ett AI-verktyg läser kan innehålla instruktioner. Betydelsen växer med hur mycket verktyget får göra på egen hand.
Ett verktyg som föreslår text är svårt att missbruka. Ett som läser inkorgen och skickar mejl är det inte, och där bör någon ha bestämt vad det får göra utan att fråga.
Vidare
Adversarial Attacks om hur ett system luras med flit. Robust AI om hur systemet håller när något avviker. Se kurserna