Grundbegrepp
Hallucination
Hallucination är när ett AI-verktyg påstår något som inte stämmer, med samma säkra ton som när det har rätt. Det är inte ett fel i vanlig mening. Verktyget räknar ut vilket ord som rimligen kommer härnäst, och en trovärdig fortsättning kan vara osann.
Vad en hallucination förväxlas med
Bias. En skevhet som återkommer systematiskt och går att mäta. En hallucination är enstaka och oförutsägbar. Samma fråga kan ge rätt svar en gång och fel nästa.
Bugg. Ett program med en bugg gör fel varje gång, på samma ställe. Det gör inte det här.
Föråldrad uppgift. Att modellen inte känner till något som hänt efter träningen är en annan sak, och den går att åtgärda genom att ge den underlaget.
Var du möter hallucinationer
I en källhänvisning som ser korrekt ut men inte finns. I ett paragrafnummer som låter rimligt. I ett datum, ett belopp eller ett namn mitt i en text där allt annat stämmer.
Det är därför den är besvärlig i arbetet: nio korrekta meningar sänker vaksamheten inför den tionde.
Vad du kan göra med det
Risken sjunker kraftigt när verktyget får arbeta på ett underlag i stället för att hämta ur minnet. Fråga på en text du klistrat in, inte på världen i allmänhet.
Lägg sedan kontrollen där det kostar mest att ha fel: siffror, namn, datum, källor och citat. Resten går oftast att läsa igenom som vanligt. Att kontrollera allt lika noga är samma sak som att inte kontrollera något, eftersom ingen orkar i längden.
Vidare
Generativ AI om tekniken som skapar svaret i stället för att slå upp det. Bias och fairness i AI om fel som återkommer systematiskt. Se kurserna