Data och infrastruktur
GPU
En GPU är den sorts processor som AI-modeller tränas och körs på. Den är byggd för att göra mycket enkel räkning samtidigt, vilket är precis vad neurala nätverk kräver. Namnet kommer från grafik, som var det den ursprungligen användes till.
Vad en GPU förväxlas med
CPU. Datorns vanliga processor, byggd för att göra en sak i taget snabbt. En GPU gör tusentals saker parallellt, vilket är bättre för AI och sämre för det mesta annat.
Ett grafikkort i en speldator. Samma familj, men de kort som sitter i datorhallar är en annan produkt med en annan prislapp och en annan tillgång.
Att fler ger bättre svar. Fler ger snabbare och större träning. Hur bra svaren blir avgörs av data och metod.
Var du möter ordet GPU
I priset. Beräkningskraft är den enskilt största kostnaden bakom AI-tjänster, och det är därför gratisnivåer begränsas och prismodeller ändras. I övrigt i nyhetsrapportering, sällan i en fråga du behöver besvara i ditt arbete.
Vad du kan göra med det
Ordet är mest användbart som förklaring: varför ett verktyg plötsligt kostar mer, varför det blir långsammare vid hög belastning, och varför det finns ett tak på hur mycket du får använda det.
Vidare
AI-hårdvara om kretsarna AI körs på. AI-landskapet Se kurserna