AI-dator - värt pengarna?

Jag funderar på att köpa ny dator och försöker förstå hela grejen med “AI-datorer” :sweat_smile:

Är det någon här som faktiskt köpt en så kallad AI-PC / Copilot+ PC?

Är det mest marknadsföring eller märker ni faktiskt skillnad i vardagen? Värt pengarna?

Tar gärna tips på:
– modeller ni är nöjda med
– Mac vs Windows för AI-arbete
– vad som är viktigt att tänka på
– om man ska satsa på mycket RAM direkt

Behöver något som funkar riktigt bra för jobb, skrivande, analys, kreativt arbete. Spelar ej :folded_hands:

1 gillning

Som AI-entusiast tycker jag detta är en svår fråga. Microsoft har så vitt jag vet backat sin drive lite när det gäller AI-funktioner, och det känns lite som att tiden redan har passerat just den användningen av CoPilot-dator.

Samtidigt finns det extra hårdvara i datorn som faktiskt är användbar på olika sätt, för att lokalt köra mindre enklare AI-modeller som klarar av att göra saker utan att behöva använda molnet. Det går definitivt att göra coola saker med det.

Men frågan är om någon kommer att göra det? Finns det tillräckligt mycket av den här hårdvaran i omlopp för att utvecklare faktiskt kommer stödja det?

Jag vet inte. Det går säkert att ta reda på om man gräver lite i det.

Kommer det kosta dig att få AI-hårdvaran, eller kommer den på köpet ändå? Hur förhåller det sig mot att betala månadskostnad för de mer kompetenta modellerna som kör i molnet? De stora modellerna hos OpenAI och andra går inte att köra på lokal hårdvara (de är för stora), så vill du ha de riktigt smarta modellerna så hamnar du i molnet med månadskostnader ändå.

Detta är inget riktigt svar på din fråga, men kanske hjälp för att fundera igenom det?

Många av de som är intresserade av AI i forumet läser den här tråden:

2 gillningar

Tack snälla för utförligt svar och klokskap! Ska fundera, och läsa tråden du länkar till :slight_smile:

1 gillning

Agentiska flöden äter ram. Skulle rekommendera 64gb ram. Absolut inte under 32. Resten är whatever.

3 gillningar

Tråden jag länkade handlar dock inte om Copilot-PC:ar utan om AI i stort. Det diskuteras högt och lågt där, och postas fortlöpande nyheter. Vet inte om det är användbart för dig i det du undrar, men är du intresserad av AI generellt så finns likasinnade där :slight_smile:

1 gillning

Skulle vara trevligt med säg 64gb VRAM men antar att det inte är detta man får?

99℅ marknadsföring.

Vissa datorer har vissa genuina fördelar (minne!) men generellt om du behöver fråga så behöver du det inte.

3 gillningar

Frågan är om TS använder detta eller om man kör en random prompt på gratis-ChatGPT varannan onsdag.

2 gillningar

Är inte ett bra svar att om man inte vet att man behöver en specifik hårdvara, så då gör man det inte?

Med det sagt ska man inte helt novist gå in hos random datormånglare och köpa det billigaste de erbjuder för att man inte vet bättre. Man har alltid nytta av mer lite bättre hårdvara.

Så avslutningsvis, arbetar du med kod eller AI utveckling och VILL göra det lokalt på din egen dator så behöver du en kraftfull dator.

MEN jobbar du med AI vill du sannolikt ändå arbeta med det i “molnet” och då behöver du inte så speciellt kraftfull dator.

Men som redan sagts, mycket ram vill man ha - mest för att det gör att allt flyter på så mycket finare än att det egenligen krävs.

1 gillning

Jag har köpt ett grafikkort just för att köra egen modell som komplement till de större cloud modellerna.

Det är fortfarande bara ett experiment men jag förväntar mig att min lokala modell är kompetent nog att agera underagent till t.ex. Claude code när jag (dem) skriver mjukvara.

Förutom datorer med grafikkort så kan Mac datorer också fungera få RAM minnet ligger närmare processorn. Men jag är ingen expert och kör Windows själv.

Om du inte har ett speciellt syfte eller redan använder upp alla tokens på dina prenumerationer så hade jag väntat med att köpa hårdvara för lokala modeller.

Du kan redan nu prova att installera och köra en nerbantad modell på din dator med Ollama. Sök och testa hur det fungerar :slight_smile:

1 gillning

Hej!

Jag har lång erfarenhet av att jobba med IT, och är AI-entusiast på det sättet att jag jobbar med hantverket AI (att skapa med det). Jag är inte insatt i hur kraftfull hårdvara du får med en AI-dator, men det finns ju en del perspektiv jag kan bidra med ändå.

När det gäller att ta beslut så är det ofta en bra metod att göra en lista för att jämföra olika alternativ. Vad är styrkan med det ena och vad är styrkan med de(t) andra. Till exempel att jämföra fördelar med molnet och fördelar med egen hårdvara. Jag jobbar med båda, så kan göra en jämförelse, men dock kan jag inte säga hur bra min hårdvara är jämfört med en AI-dator.

Analys
För analys kan du göra Deep Research gratis med Gemini. Det är realtid online, så då får du senaste informationen. Jag tror inte du kommer kunna göra något i närheten av det på egen hårdvara. Begränsningen är ju hur mycket analys du behöver göra varje dag. Om du behöver kontinuerlig analys, typ i ett datorprogram, så skulle det kunna vara möjligt att det blir prisvärt att köra egen hårdvara. Tror dock att det endast skulle vara värt i väldigt speciella fall, eller om du vill ha din data privat/utan begränsningar på vad det ska handla om.

Det finns ett fall jag dock använder lokala språkmodeller för analys. Det är när jag behöver analysera väldigt mycket data på en kort tid. I så fall gör jag det tills jag kommer fram till ett bra resultat. Efter det kommer jag använda bättre modeller online. Så det behövs inte så värst kraftfull hårdvara.

Skrivande
Här får du väldigt mycket gratis med ChatGPT, Claude, Gemini, etc. Det är mycket bättre modeller du får gratis än de du kan köra på egen dator. Så jag skulle säga att även här kan det vara möjligt i väldigt speciella fall att det ska vara fördelaktigt att köra egen hårdvara (samma som ovan).

Kreativt Skapande
I detta fallet så har jag lite användning av egen hårdvara. Du får ju väldigt mycket kraftfulla modeller gratis: Gemini för bilder och tal, Suno för musik. Väldigt bra kvalitet gratis, som förmodligen inte går att få hemma. Musik har jag provat göra på egen hårdvara och det blev inte bra alls.

Det enda som jag återkommande använder egen hårdvara till är videoskapande, nu när Grok inte längre är gratis. Det tar 10 ggr längre tid att göra på min hårdvara än på Grok (12 GB vram, 32 gb ram, dator från 2026, grafikkort 3060 några år gammalt). Videorna skulle jag säga blir ungefär samma kvalitet som Meta (ofta usel, ibland okej; Meta gör gratis videor).

Du kan ju också få funktioner gratis som inte annars är gratis. Det finns väldigt mycket open source som jag inte provat. Jag har provat lipsync, och det går att göra, med väldigt begränsad kvalitet. Återigen dock, om du vill använda kraftfullare modeller så borde det vara mer prisvärt att använda molnet (eventuellt GPU pay as you go). Så även i detta fall behövs det inte särskilt dyr hårdvara hemma.

Slutsats

Det finns några grejer som gör AI-hårdvara användbar (privat, fritt, experiment), men det behövs inte något dyrt.

Det mesta seriösa går att göra gratis eller med prenumerationer/pay as you go, och då får du ju även de senaste modellerna och hårdvaran.

ps. det ofta väldigt krångligt att köra ai på egen dator, tar väldigt mycket tid till felsökning och tweakande

1 gillning

Jag håller med allt du skriver - med ett tillägg; att så snart man skaffat sig betalalternativen så man har tillgång till mer kraftfulla modeller och i praktiken helt obegränsat tillgång till modeller som är mer kraftfulla än de jag kan köra på min lokala dator så har i alla fall jag gått helt över till att köra allt på betal AI.
Jag har en lokal ollama för att det är kul, men den presterar inte i närheten av vad claudes modeller gör - i alla fall inte i mina experiment.

Med det sagt tror jag att lokala modeller i nuläget är mest intressant för entusiaster eller specialcase. Man får otroligt bra modeller till lägsta kostanderna av alla de större AI leverantörerna. Jag hoppas det ändras och att vi får till bra distribuerade modeller som fungerar bra för lokalt användandei olika sammanhang, så vi inte blir för beroende av giganterna i AI.

Men nu är vi som jag ser det långt förbi trådskaparens egentliga fråga :slight_smile:

Jag tycker det är relevant såtillvida att minne och styrka i den AI-hårdvara som kommer i Copilot+datorer är såpass svag att den inte ens går att jämföra med de flesta diskreta GPUerna, och inte ens en 5090 klarar av att köra de stora/bästa text-modellerna. Så det kommer krävas bantningar och specialanpassningar för att alls kunna köra något lokalt. Är det dit marknaden gått/går? Känns inte så.

3 gillningar

Utöver det så är minne dyrt nu, och hårdvara blir gammal fort. Så det är ju knappast köpläge nu.

Mest bondfångeri, men jag hade siktat på 64 gb ram om jag köpte en dator jag tänkte ha ett tag. Priserna vet man aldrig hur de rör sig så inte heller hade jag avvaktat inköp om jag har ett behov nu och har råd.

Det är ju sån underdrift att det knappt är korrekt ens. Vill du köra modeller som ger resultat i närheten av vad man får med betal-Claude etc, behöver du specialiserad hårdvara för miljonbelopp.

(Den GLM-5.1-instans vi kör i grunden.ai, gör av med ca 1TB VRAM för modell + rimlig KV-cache…)

3 gillningar

Jag tolkar inte ursprungsinlägget som att kod/programmering är relevant, så vi ska kanske släppa det?

jag skulle säga att lägg pengarna på abonnemang hos din favorit provider (Claud, chtgpt eller gemini) om du vill ha tillgång till dom senaste modellerna och förbrukar mycket tokens