Etik, risk och säkerhet
Risker med AI
Risker med AI är ett samlingsord för ganska olika saker, och samtalet blir begripligt först när man sorterar dem efter vem som bär dem: den som använder verktyget, organisationen, eller någon utanför den.
Tre nivåer
Den som använder verktyget. Fel svar som ser rätt ut. En uppgift som råkar lämna verksamheten. Ett beslut som fattas på ett underlag ingen granskat.
Organisationen. Ansvar för utfall ingen kan förklara. Beroende av en leverantör som ändrar villkor eller lägger ner. Kompetens som samlas hos en enda person.
Utanför organisationen. Konsekvenser för dem som berörs av besluten men inte var med när verktyget valdes.
Vad riskerna med AI förväxlas med
AI-säkerhet. Skydd mot angrepp och manipulation av systemet. En delmängd, och egen sida hos oss.
Existentiella risker. Samtalet om AI som hot mot mänskligheten. En verklig diskussion, men inte den som avgör om ni ska godkänna ett verktyg på måndag.
Var du möter riskerna med AI
I ledningsgruppen, oftast som skäl att vänta. Och hos medarbetare, oftast som skäl att inte fråga.
Vad du kan göra med det
Den vanligaste risken i praktiken är varken teknisk eller juridisk. Den är att verktyg används i tysthet, utan att någon vet var uppgifterna hamnar, därför att ingen vågat fråga. Den risken minskar inte av fler regler utan av att fler vet vad som gäller.
Vidare
AI-säkerhet om skydd mot angrepp och manipulation. Se kurserna