Etik, risk och säkerhet
Robust AI
Robust AI betyder att en modell fortsätter fungera rimligt även när verkligheten avviker från träningen: nya formuleringar, sämre indata, eller någon som medvetet försöker lura den. Det är ett kvalitetsmått på hur systemet beter sig utanför de fall det sett förut.
Vad robust AI förväxlas med
Träffsäkerhet. En modell kan ha rätt i nittiofem procent av testfallen och fallera helt på det första verkliga fall som ser lite annorlunda ut.
Driftsäkerhet. Att tjänsten är uppe är en annan sak än att svaren håller.
AI-säkerhet. Säkerhet handlar om angrepp. Robusthet handlar om avvikelser i allmänhet, oavsett om någon ligger bakom.
Var du möter ordet robust AI
I tekniska kravställningar och i utvärderingar. Praktiskt märks det som frånvaro: ett system som plötsligt fungerar sämre när något i verksamheten ändrats, till exempel en ny blankett eller ett nytt sätt att formulera ärenden.
Vidare
Modellutvärdering om hur robustheten mäts. Adversarial Attacks om avvikelser som någon ligger bakom.