Vad är AI? En nybörjarguide till artificiell intelligens

AI i en mening

Artificiell intelligens, AI, är ett samlingsnamn för maskinbaserade system som drar slutsatser från indata och skapar utdata som förutsägelser, innehåll, rekommendationer eller beslut.

OECD:s uppdaterade definition betonar att systemen arbetar mot uttryckliga eller underförstådda mål och kan ha olika grad av självständighet och anpassning efter att de tagits i bruk.

Källa: OECD:s förklaring av definitionen av ett AI-system

AI är alltså inte ett enda program och inte samma sak som en människoliknande robot. En spamfiltrering, en bildanalys och en textgenerator kan alla använda AI trots att de löser helt olika uppgifter.

Skillnaden mellan vanlig programvara och AI

Vanlig programvara följer regler som en utvecklare har skrivit. Ett system kan till exempel räkna moms med en bestämd formel. Resultatet blir detsamma för samma indata.

Ett maskininlärningssystem lär i stället ett mönster från exempel. Utvecklaren skriver inte en regel för varje möjlig bild av en katt. Modellen anpassas med många märkta exempel och beräknar sedan hur väl en ny bild stämmer med mönstret.

Gränsen är inte alltid skarp. Fungerande tjänster kombinerar ofta vanliga regler, databaser, användargränssnitt och en eller flera AI-modeller. AI-delen kan föreslå eller klassificera, medan vanlig programvara kontrollerar behörighet och utför åtgärden.

Maskininlärning

Maskininlärning är en vanlig del av AI. En modell anpassas med data så att den kan göra en förutsägelse eller klassificering på nya exempel.

Övervakad inlärning

Träningsmaterialet innehåller exempel och rätt svar. Det kan vara e-post som märkts som skräppost eller inte skräppost. Modellen söker mönster som hjälper den att märka nya meddelanden.

Oövervakad inlärning

Materialet saknar färdiga etiketter. Metoden används för att hitta grupper eller struktur, exempelvis kunder med liknande beteende. Grupperna behöver sedan tolkas av människor.

Förstärkningsinlärning

Ett system provar handlingar och får återkoppling utifrån ett mål. Metoden används i vissa spel, robotproblem och optimeringsuppgifter. Det är inte samma sak som att systemet förstår målet på mänskligt sätt.

Neurala nätverk och djupinlärning

Neurala nätverk består av lager av matematiska beräkningar som anpassas under träning. Djupinlärning använder nätverk med många lager och har blivit viktig för bild, tal och språk.

Namnet är inspirerat av hjärnan, men nätverken är inte digitala kopior av mänskliga nervsystem. De är matematiska modeller som kan lära komplexa samband i data.

Djupinlärning kräver ofta mycket data och beräkning. Resultatet kan vara svårt att tolka, och modellen kan lära sig oönskade genvägar. En bildmodell kan exempelvis använda bakgrunden i stället för själva objektet om träningsmaterialet är snedfördelat.

Generativ AI

Generativ AI skapar nytt material som text, bild, ljud, video eller kod utifrån mönster i träningsdata. En textmodell beräknar sannolika fortsättningar och kan följa en instruktion, sammanfatta eller föreslå formuleringar.

Det betyder inte att modellen slår upp varje mening i en databas eller kontrollerar sanningen. Den kan ge ett korrekt, hjälpsamt svar och kan också skapa ett påstående som låter säkert men saknar stöd.

NIST:s profil för generativ AI beskriver bland annat konfabuleringar, informationssäkerhet, integritet, skadlig partiskhet och innehållens ursprung som riskområden.

Källa: NIST:s profil för generativ AI

Vad är en AI-modell?

En modell är den statistiska representation som har anpassats med data. Den tar emot indata och skapar ett resultat. Modellen är inte hela tjänsten.

En chattjänst innehåller dessutom instruktioner, säkerhetsfilter, sökning, filhantering, konton och ett gränssnitt. Två tjänster som använder liknande modelltyp kan därför bete sig olika.

Det är också skillnad mellan träning och användning. Under träning justeras modellens parametrar med stora datamängder. Vid användning behandlar modellen en ny instruktion med de parametrar som redan har lärts.

Smal AI, generell AI och superintelligens

Smal AI

Dagens praktiska system är utvecklade för bestämda typer av uppgifter. En modell kan vara bred i vilka texter den hanterar men saknar ändå mänsklig förståelse, eget liv och allmän förmåga att verka i alla miljöer.

Generell AI

Artificiell generell intelligens, AGI, är en hypotetisk idé om system med bred förmåga på nivå med eller över människor inom många områden. Det finns ingen allmänt accepterad teknisk gräns eller ett bekräftat system som alla bedömare erkänner som AGI.

Superintelligens

Superintelligens är ett ännu mer spekulativt begrepp om system som överträffar människor brett. Det är ett scenario, inte en beskrivning av en tjänst som används idag.

Skillnaden hjälper läsaren att skilja nuvarande verktyg från framtidspåståenden.

Hur ett AI-system lär sig

Ett förenklat arbetsflöde ser ut så här:

1. Definiera vilken uppgift som ska lösas.
2. Samla och kontrollera relevanta exempel.
3. Välj en modell och ett mått.
4. Anpassa modellen på träningsdata.
5. Prova den på separat data.
6. Koppla modellen till ett användarflöde.
7. Följ resultat och fel efter start.

Modellen lär bara från det underlag och den återkoppling den får. Om data saknar viktiga grupper eller innehåller historiska skillnader kan mönstren följa med.

Google rekommenderar att börja med en stabil kedja, enkla mätetal och en enkel modell innan komplexitet läggs till.

Källa: Google, Rules of Machine Learning

Var AI används

Sökning och rekommendationer

AI kan rangordna sökresultat, rekommendera innehåll och upptäcka mönster i användning. Systemet optimerar mot ett bestämt mål, som relevans eller tittartid. Målet påverkar vad användaren ser.

Bild och tal

Modeller kan känna igen objekt, transkribera tal och hitta avvikelser. Resultatet påverkas av kamera, ljud, språk och vilka exempel som ingick i träningen.

Text och kod

Generativa tjänster kan sammanfatta, skriva utkast, översätta, förklara och föreslå kod. Resultatet behöver granskas, särskilt när ett fel påverkar beslut, ekonomi, hälsa eller säkerhet.

Industri

AI kan användas för visuell kontroll, prognoser och underhåll. Den arbetar tillsammans med sensorer, vanlig programvara och maskiner.

Vård

FDA publicerar en lista över AI-aktiverade medicintekniska produkter som har identifierats utifrån offentlig information om amerikanska marknadstillstånd. FDA betonar att listan inte är fullständig.

Källa: FDA:s lista över AI-aktiverade medicintekniska produkter

En AI-funktion i en godkänd produkt är inte samma sak som att en allmän chattjänst får användas för diagnos.

Vad AI är bra på

AI passar ofta när det finns många exempel, ett återkommande mönster och ett resultat som går att kontrollera. Den kan bearbeta stora mängder material, hitta likheter och skapa ett första utkast.

Den är mindre lämplig när uppgiften saknar tillräckligt underlag, när rätt svar beror på outtalade värderingar eller när ett fel får stor konsekvens utan möjlighet till kontroll.

Ett imponerande demonstrationssvar visar inte att systemet fungerar på alla vardagsfall.

Varför AI gör fel

Fel i underlaget

Data kan vara gammal, ofullständig, felmärkt eller snedfördelad.

Fel mål

Systemet kan optimera ett mätetal som inte motsvarar det verkliga målet. Fler klick är till exempel inte automatiskt bättre information.

Ny miljö

Modellen möter data som skiljer sig från träningen. Nytt ljus, ny produkt eller nytt språkbruk kan försämra resultatet.

Genererat påstående utan stöd

En språkmodell kan skapa en sannolik formulering utan att ha en källa som bevisar den.

Fel användning

En modell kan användas för ett beslut som den aldrig provades eller avsågs för.

Tillförlitlig AI

NIST beskriver flera egenskaper som behöver vägas tillsammans: giltighet och tillförlitlighet, säkerhet, robusthet, ansvar och transparens, förklarbarhet, integritet och rättvisa med skadlig partiskhet hanterad.

Källa: NIST AI Risk Management Framework

Ingen egenskap garanterar de andra. Ett korrekt system kan läcka information. Ett förklarbart system kan fortfarande vara orättvist. Ett säkert system kan vara oanvändbart.

Kontrollen måste därför utgå från den konkreta uppgiften och människorna som påverkas.

Så provar du ett AI-verktyg

1. Välj en avgränsad uppgift.
2. Ta bort information som inte får lämnas.
3. Samla enkla, vanliga och svåra exempel.
4. Bestäm vad ett bra resultat är.
5. Kontrollera fakta och källor.
6. Notera återkommande fel.
7. Jämför tid och kvalitet med det tidigare arbetssättet.
8. Behåll en väg till en människa.

För text kan du be om källor, men du behöver öppna dem. För dataanalys bör själva beräkningen kunna kontrolleras utanför modellens formulering.

Vanliga missförstånd

"AI tänker som en människa."
Dagens system beräknar mönster och utdata. De ger inte bevis på mänskligt medvetande eller förståelse.

"AI lär sig automatiskt av varje fråga."
En tjänst kan spara återkoppling, men kontrollerad modellförändring kräver en bestämd process. Samtalet betyder inte att grundmodellen tränas om direkt.

"Ett säkert svar är ett sant svar."
Språklig säkerhet och faktisk korrekthet är olika saker.

"Mer data ger alltid bättre AI."
Relevans, kvalitet, rättigheter och representativitet är viktigare än mängd ensam.

"AI ersätter hela arbetsroller."
Tekniken används för uppgifter. Effekten på roller beror på arbetsflöde, ekonomi, ansvar och vilka nya uppgifter som tillkommer.

AI-systemet runt modellen

En modell blir användbar först när den ingår i ett system. Ett sådant system kan innehålla datakällor, sökning, regler, säkerhetsfilter, användarkonton, loggar och mänsklig kontroll.

Det innebär att samma grundmodell kan ge olika resultat i två tjänster. Den ena kan söka på webben och visa källor. Den andra kan vara begränsad till ett internt dokumentarkiv. Den ena kan få utföra en åtgärd. Den andra får bara ge ett förslag.

När du bedömer en tjänst, fråga därför inte bara vilken modell den använder. Fråga också:

• Vilken information kan den läsa?
• Vilka källor visas?
• Vad händer med indata och svar?
• Vilka åtgärder får den utföra?
• Hur kontrolleras identitet och behörighet?
• När lämnar den över till en person?
• Hur loggas och rättas ett fel?
• Vad händer när leverantören ändrar tjänsten?

AI är ofta den osäkra delen i en större kedja. Exakta krav som behörighet, beloppsgränser och obligatoriska godkännanden bör styras med vanlig programvara. Modellen kan tolka variation, medan kontrollerna begränsar vad resultatet får leda till.

Frågor innan du litar på ett svar

Använd följande kontroll:

1. Är frågan aktuell eller stabil över tid?
2. Visar svaret en öppningsbar primärkälla?
3. Går siffror och citat att hitta ordagrant i källan?
4. Saknas viktiga villkor eller undantag?
5. Har verktyget rätt underlag och rätt språk?
6. Vad blir konsekvensen om svaret är fel?
7. Behöver en ämnesexpert granska?

Ju högre konsekvens, desto mindre bör språklig övertygelse påverka bedömningen.

Sammanfattning

AI är maskinbaserade system som skapar förutsägelser, innehåll, rekommendationer eller beslut från indata. Maskininlärning, neurala nätverk och generativ AI är olika delar av området.

Systemen kan vara användbara för återkommande uppgifter och stora datamängder, men de kan också lära fel mönster och skapa påståenden utan stöd. Välj en avgränsad uppgift, prova representativa fall och låt en ansvarig person kontrollera resultatet.