Etik, risk och säkerhet
Deepfake
En deepfake är en bild, ett ljudklipp eller en video som framställer en verklig, identifierbar person som säger eller gör något den aldrig sagt eller gjort. Det som skiljer den från annat AI-genererat material är just att någon verklig avbildas.
Vad en deepfake förväxlas med
AI-genererade bilder i allmänhet. En påhittad person är inte en deepfake. Gränsen går vid om någon verklig avbildas, och det är den gränsen som avgör både det juridiska och det etiska.
Bildmanipulation. Retusch är gammalt. Det nya är att rörlig bild och röst nu ligger inom räckhåll utan specialkunskap eller dyr utrustning.
Satir och parodi. Formatet är detsamma, syftet inte. Bedömningen skiljer sig, och det är därför frågan sällan går att avgöra på tekniken allena.
Var du möter deepfakes
Oftast i bedrägeriförsök, som är den form som faktiskt drabbar arbetsplatser: en röst i telefon som låter som chefen och ber om en brådskande betalning, eller ett videomöte där någon ser ut som en kollega.
Och i frågan om vad ni gör den dag någon publicerar ett klipp med er verksamhetschef.
Vad du kan göra med det
Den enda motåtgärd som fungerar i praktiken är en rutin som inte bygger på igenkänning. Bestäm att betalningar och behörighetsändringar aldrig godkänns på röst eller video, utan alltid bekräftas i en kanal ni redan litar på.
Det kostar ingenting, kräver ingen teknik och tar bort hela angreppsvägen. Att i stället försöka lära personalen se skillnad är en kapplöpning som inte går att vinna.
Vidare
AI bildgenerator om tekniken bakom genererade bilder. AI-röstsyntes om den variant som används i telefonbedrägerier. AI-säkerhet om vad mer som går att luras med. Se kurserna