Grunderna i AI: Vad du behöver veta för att komma igång

Artificiell intelligens är ett samlingsnamn för system som tar emot information och ger ett resultat, till exempel en förutsägelse, en rekommendation eller ett beslut. Här får du en grund för att skilja mellan AI, maskininlärning, djupinlärning och generativ AI.

Vad menas med artificiell intelligens?

NIST beskriver ett AI-system som ett maskinbaserat system som, utifrån mål som människor har satt upp, kan ge förutsägelser, rekommendationer eller beslut som påverkar verkliga eller virtuella miljöer.

Definitionen är bred. AI är alltså inte en enda metod eller en viss sorts program. Begreppet omfattar flera tekniker som används för olika uppgifter.

Ett bra första steg är att skilja mellan tre nivåer:

• AI är det breda området.
• Maskininlärning är ett sätt att bygga system som lär sig mönster från data.
• Djupinlärning är maskininlärning med neurala nätverk som har flera lager.

Maskininlärning och djupinlärning

NIST definierar maskininlärning som utveckling och användning av system som anpassar sig och lär av data för att förbättra sin träffsäkerhet. Det betyder inte att systemet förstår uppgiften på samma sätt som en människa. Det betyder att en matematisk modell justeras utifrån exempel.

Ett neuralt nätverk är en modell med sammankopplade noder och lager. Namnet har historisk koppling till biologiska nervsystem, men nätverket är en matematisk konstruktion. I Googles ordlista för maskininlärning kallas ett neuralt nätverk djupt när det innehåller mer än ett dolt lager.

Fler lager gör inte automatiskt en modell bättre. Resultatet beror bland annat på uppgiften, träningsdata, testmetoden och hur modellen används efter träningen.

Fyra vanliga sätt att lära från data

Övervakad inlärning

Vid övervakad inlärning tränas modellen på märkta exempel. Varje exempel innehåller både indata och det svar som modellen ska lära sig att förutsäga. En modell kan exempelvis få bilder märkta med olika objekt och sedan prövas på nya bilder.

Oövervakad inlärning

Vid oövervakad inlärning saknar exemplen färdiga svar. Modellen används i stället för att hitta struktur i data, exempelvis grupper av observationer som liknar varandra. Google beskriver klustring som en metod för att gruppera relaterade exempel, särskilt inom oövervakad inlärning.

Förstärkt inlärning

Vid förstärkt inlärning lär sig ett system genom att samspela med en miljö. Systemet får återkoppling i form av belöning och försöker välja handlingar som ger ett bättre samlat resultat.

Generativ AI

Generativ AI är en klass av AI som skapar syntetiskt innehåll, till exempel text, bild, ljud eller video, utifrån mönster i träningsdata. Ett generativt system beräknar ett sannolikt resultat utifrån sin inmatning. Det är därför viktigt att skilja ett välformulerat svar från ett verifierat svar.

Vad gör en AI-modell?

Arbetet kan förenklas till fyra delar:

1. Mål: Bestäm vilken uppgift systemet ska lösa och vad ett godkänt resultat är.
2. Data: Samla de exempel eller signaler som modellen ska lära av.
3. Träning och test: Anpassa modellen på träningsdata och pröva den på data som inte användes under träningen.
4. Användning och uppföljning: Låt modellen ge resultat på ny indata och följ upp hur den fungerar över tid.

Det sista steget är lätt att missa. Ett test före användning säger inte allt om hur ett system fungerar när data, användare eller omgivning förändras.

Var möter vi AI?

AI används för avgränsade uppgifter inom bland annat språk, bild, sökning, rekommendationer och mönsterigenkänning. Exempel på uppgifter är:

• sortera meddelanden,
• känna igen objekt i bilder,
• omvandla tal till text,
• föreslå innehåll,
• sammanfatta eller skapa text,
• upptäcka avvikande mönster i data.

Att en uppgift använder AI säger inget i sig om hur bra eller säker lösningen är. Varje system behöver bedömas utifrån sitt avsedda användningsområde.

Det gäller särskilt i vården. Amerikanska FDA publicerar en lista över medicintekniska produkter med AI-funktioner som myndigheten har granskat för ett angivet användningsområde. En sådan granskning gäller den enskilda produkten och dess avsedda användning, inte AI i vården som helhet.

Varför kan AI ge fel?

En modell lär sig samband i de data som används. Den kan därför ge bristfälliga resultat om data inte motsvarar den situation där modellen används. Fel kan också uppstå när målet är otydligt, testfallen är för snäva eller användaren litar för mycket på svaret.

För generativ AI använder NIST begreppet confabulation för innehåll som låter rimligt men är felaktigt eller falskt. Samma vägledning tar upp automation bias, alltså risken att människor ger automatiserade resultat större förtroende än de förtjänar.

Det innebär att ett AI-svar bör kontrolleras mot en tillförlitlig källa när svaret påverkar ett beslut, en publicering eller en människa.

Risker att känna till

NIST AI Risk Management Framework samlar flera egenskaper som behöver vägas samman när AI bedöms. Där ingår bland annat giltighet och tillförlitlighet, säkerhet, motståndskraft, ansvar, transparens, förklarbarhet, integritet och rättvisa.

I praktiken kan du börja med fem frågor:

• Kvalitet: Hur mäts ett korrekt resultat?
• Skevhet: Fungerar systemet lika väl för de grupper och situationer som berörs?
• Integritet: Vilka uppgifter skickas till systemet, och får de användas där?
• Säkerhet: Kan indata eller resultat manipuleras?
• Ansvar: Vem granskar resultatet och vem fattar det slutliga beslutet?

De här frågorna är relevanta både när en egen modell tränas och när en färdig AI-tjänst köps in.

Så provar du AI på ett kontrollerat sätt

Börja med en liten, tydligt avgränsad uppgift. Skriv ner vad som ska bli bättre och vilka fel som inte får förekomma. Skapa sedan ett antal testfall, inklusive svåra och ovanliga exempel.

Ett enkelt arbetssätt är:

1. välj en uppgift med tydlig indata och ett resultat som går att granska,
2. ta bort känsliga uppgifter som inte behövs,
3. jämför resultatet med ett mänskligt framtaget facit,
4. dokumentera vanliga fel,
5. bestäm när en människa alltid måste kontrollera resultatet,
6. följ upp kvaliteten efter att arbetssättet tagits i bruk.

Det gör det lättare att bedöma nyttan utan att blanda ihop en lyckad demonstration med ett tillförlitligt arbetssätt.

Vad bör en nybörjare lära sig?

Du behöver inte börja med programmering. För många roller är det mer användbart att kunna formulera en tydlig uppgift, bedöma källor, skapa testfall och förstå vilka uppgifter som får delas.

En bra grund består av:

• skillnaden mellan AI, maskininlärning och generativ AI,
• hur träningsdata och testdata används,
• hur resultat verifieras mot källor eller facit,
• grundläggande integritets- och säkerhetsfrågor,
• när mänsklig granskning behövs.

Vill du öva praktiskt kan du se AIUC:s kurser. Välj en utbildning som motsvarar den uppgift du faktiskt vill bli bättre på.