ChatGPT & AI – din nya junior

Innehållsförteckning

Nedan följer en grov innehållsförteckning för transkriberingen.

1. En egen juniorassistent i fickan
2. Lika stort som industriella revolutionen
3. Den största möjligheten och det största hotet
4. En AI-genererad podcast
5. Agenter som löser uppgifter själva
6. Folk bygger nya företag på två veckor
7. Hur ska man veta vad som är äkta?
8. Tio gånger mer effektiv på jobbet
9. Be hunden göra det den är bra på
10. Värt de tjugo dollarna i månaden
11. Över till Johan och Fredrik
12. Vilka är Johan och Fredrik?
13. En startup som dragit nytta av verktygen
14. Många har testat men inte förstått
15. Vad betyder GPT?
16. Hur tränas en sån här modell?
17. Att gissa ord i hela internet
18. Vi förstår inte riktigt hur de fungerar
19. Ett första exempel: vad är RikaTillsammans?
20. Världens bästa bullshit-maskin
21. När RikaTillsammans-svaret faktiskt stämmer
22. Att använda den som ett textverktyg
23. Som en person som läst alla forumtrådar
24. Tekniken är inte ny, tillgängligheten är det
25. Varje svar genereras på nytt
26. Sammanfattning och feedback på text
27. Texterna blir lättlästa men personligheten kan försvinna
28. Många andra modeller är på väg
29. Två tydliga användningsområden
30. En riktig boom av startups
31. Hög utbildning är inte längre skydd
32. Promptade modeller blir mer exakta
33. Att koppla på en databas
34. Exempel inom medicin och bias
35. Bild: en examensceremoni på två minuter
36. Trump, påven och oron för framtiden
37. Anna 1850 och allt som är industriellt
38. Levi's ersätter modeller med AI
39. Max Tegmark och brevet om en paus
40. Bedrägerier med klonade röster
41. En autonom bot byggs live
42. Vad är ett API?
43. Att sätta mål för botten
44. Botten börjar arbeta
45. Agenten googlar, söker jobb och delegerar
46. Det börjar bli lite läskigt
47. Planen är precis det Jan gör på jobbet
48. En annan typ av sökning
49. Hur ska en vanlig person förhålla sig?
50. Gör det lustfyllt
51. Prompt engineering
52. Frågor från publiken: industri och källkritik
53. Fusk i skolan och att lägga in källor
54. Testa allt, även det som känns löjligt
55. Årsredovisningen som tystade revisorn
56. Desto mer du ger, desto bättre svar
57. Vits med att utbilda sig till programmerare?
58. Hur hanterar man rädslan?
59. Jailbreaking
60. En diskussion om att leva i en simulering
61. Etiska filter och att gå runt dem
62. De existentiella frågorna
63. AGI: hur långt bort är det?
64. Att massproducera intelligens
65. Att stoppa AI eller inte
66. Att säga tack till en maskin
67. Hänger Kina och Ryssland på en paus?
68. Förtjusning och en nypa skräck

En egen juniorassistent i fickan

Jan: En av de bästa liknelserna jag har hört för det här med AI-assistenterna, ChatGPT och AI överhuvudtaget, det är att alla har vi nu möjligheten att ha en egen juniorassistent. Vissa saker som den här junioren kommer göra är bedrövliga, andra slår man sig för huvudet över. Men vissa saker är faktiskt värdefulla, eller i alla fall utgångspunkter att ta avstamp från. Jag tror att utmaningen för de flesta av oss är att vi nu har fått den här junioren i vårt liv, och frågan är hur vi använder det här verktyget. Hur får vi ut mest nytta av det?

Varmt välkommen till RikaTillsammans-podden som handlar om allt som är roligt med privatekonomi och livet. Varje vecka delar vi med oss av vår livsresa, våra erfarenheter, framgångar och misstag så att du ska kunna göra din ekonomi, ditt sparande och ditt liv lite rikare. Vi som driver denna podden heter Caroline och Jan Bolmeson.

Caroline: Idag är det dags för avsnitt 300, och jag tänkte att detta skulle vara lite av ett jubileumsavsnitt. Att vi ska prata om vad vi har lärt oss de här 300 avsnitten, och att det skulle handla lite om er som lyssnar och tittar, era historier.

Jan: Men häromdagen lyssnade jag på en föreläsning på Patreon, där vi bjöd in två personer, Johan Leitet och Fredrik Ahlgren från Linnéuniversitetet. De jobbar med datavetenskap och fick ge oss en introduktion till det här med AI, ChatGPT, Midjourney och allt det där. Jag har varit lika delar förskräckt och lika delar superentusiastisk. Så jag vet inte om jag är rädd eller entusiastisk, men jag kände att detta är så viktigt. Den föreläsningen upplevde jag som så ögonöppnande att det är fler som behöver lyssna och titta på det.

Caroline: Ja, men vad händer med vårt jubileumsavsnitt?

Jan: Jo, men det får komma sen.

Lika stort som industriella revolutionen

Jan: Om jag tar den entusiastiska sidan av mig, så är detta lika stort som industriella revolutionen. Alltså på riktigt. På 1800-talet lärde vi människor oss att automatisera arbetskraft, alltså fysisk kraft, motorer och industrier. Idag är ju allt egentligen industriellt. Om vi tittar oss runt i studion är det ju ingenting som är handgjort. Allt är industriellt. Jag tror att detta är första gången vi människor har lyckats automatisera intelligens, eller automatisera tankekraft. Om det förut var muskelkraft, så har vi nu automatiserat tankekraft.

Caroline: Fast det har vi ändå gjort med datorn ganska länge. Nu är det väl ändå en annan grej med intelligensen?

Jan: Ja, men detta är att för första gången kan den skapa och generera nya saker. Innan har den varit duktig på att lösa uppgifter. Den har bara varit ett verktyg. Nu blir den, det är det som står i ChatGPT, att den är generativ. Den skapar grejer. I Excel, om jag ger den en instruktion och räknar ut ett tal, så kommer den räkna ut det på samma sätt alla gångerna. Historiskt har det varit så att om du genererar en text, då genererar den alltid samma text. Nu genererar de här nya verktygen nya texter och gör varianter. Du kan resonera med dem och säga: "Den här texten är bra, men jag vill att du förkortar den." Eller: "Den här texten är bra, skriv en sammanfattning."

Eller som i förra veckan, när vi intervjuade Norban. Då skickade jag in alla frågorna jag hade skrivit och sa: "Föreslå frågor som om jag vore en Tim Ferriss. Vilka frågor hade Tim Ferriss ställt till en mäklare?" Och då resonerar den som Tim Ferriss. Eller så säger jag: "Jag är en granskande journalist. Vilka granskande frågor hade en journalist ställt till en mäklare?" Och sen kan jag säga att de här frågorna inte var bra, generera nya.

Caroline: Jag tog inte ens illa upp att du sa att de inte var bra.

Jan: Nej, men vet du vad det roliga är? När jag bett den generera dem åttonde gången, då börjar jag nästan känna mig så, förlåt att jag ber dig göra detta en gång till.

Caroline: Den är bara glad, för den kan bli mer intelligent.

Den största möjligheten och det största hotet

Jan: Ja, så det är superspännande. Och framför allt upplever jag varför jag tycker att detta avsnitt är så viktigt. Jag satt på ett styrelsemöte häromdagen och så sa jag till vd:n: "Vad är er plan nu för att använda allt det som händer just nu? Följer ni ens utvecklingen?" För det händer hela tiden. Det kan vara en grej som du tänkte i måndags, det här hade varit coolt om den kunde göra. Och sen vaknar man på tisdag morgon, då är det någon som har gjort det. Så det går så sjukt fort.

Och då säger de andra styrelseledamöterna: "Kan ni inte ta det sen, nu måste vi prata om rörelseresultatet, om vi går med vinst." Och jag kände, alltså detta är den största möjligheten för företag och privatpersoner att starta eget, liksom någonsin. Och det är det största hotet, att företag och personer som inte är med nu kommer hamna efter. Lite som jag sa till vår programmerare: hänger du med nu så kan du bli tio gånger bättre programmerare. Hänger du inte med så kommer du bli omsprungen om ett år av programmerare som använder AI för att stödja sig själva.

Caroline: Men det blir liksom en rädsla i det också.

Jan: Ja, men det blir det.

Caroline: Men om jag ska prata om en annan rädsla som jag har haft för AI, så har det varit som hos alla andra, att det ska ta död på oss eller någonting. Men så har jag tänkt, jag är som en kvinna på 1800-talet som var rädd för elektriciteten. Jag kan inte resonera om min samtid på det viset. Så jag får hellre vara en del av det kanske.

Jan: Men jag tror att man behöver vara en del av det. De här två, Johan och Fredrik, jag ska inte sno deras föreläsning, för de gör det fantastiskt bra. De har bra metaforer. Det de säger är att nej, vi kommer inte bli ersatta av AI, vi kommer bli ersatta av en person som använder AI. Jag tror att det är en viktig distinktion. Vi är inte i Terminator-scenariot. Det är inte det det handlar om. Vi är i scenariot där, till exempel, de tar Levi's, klädmärket, jeansmärket, som har gått ut och sagt att nu slutar vi använda mänskliga modeller, vi kommer generera AI-modeller. Och folk säger att du kommer inte se skillnaden på en riktig person.

Caroline: Jag trodde inte på dig, för jag har ju Levi's på Instagram. Och för mig, när jag ser de bilderna, så är det ju människor från livet. Levi's är en del av livet och människor. Så jag trodde först inte på det.

En AI-genererad podcast

Jan: Nej, jag trodde inte heller det, och jag har också tänkt, men vi har ju en podcast. Häromdagen kom första AI-genererade podcasten ut, ett samtal mellan Joe Rogan och Sam Altman. Sam Altman är grundaren till OpenAI. Då har man bara gett en AI instruktionen: bete dig som Joe Rogan och intervjua Sam Altman, den här AI-forskaren. Då genererar den en massa frågor, som Joe Rogan hade gjort. Och sen ger man en annan AI uppgiften att svara på de här frågorna från Joe Rogan, som att du är Sam Altman. Och sen har man de samtalen, man har genererat en text, och sen har man gett den texten till en annan AI-motor som genererar ljud. Idag behövs det bara tre sekunder från en persons inspelning för att kunna generera ett samtal med den personens röst. Och då är det en podcast.

Caroline: Du lyssnade på den?

Jan: Jag lyssnade på delar av den. Man hör inte någon skillnad i större delen. Sen är det detaljer där man märker, okej, detta lät konstigt, men det är dagar bort att det fixas.

Agenter som löser uppgifter själva

Jan: En annan grej som jag inte alls hade tänkt på, som Johan och Fredrik pratar om, är agenter. Nu har det precis, bara denna veckan, alltså vi pratar inte om en halv, vi pratar denna veckan. Vi spelar in detta den 14 april, och detta är säkert inaktuellt när vi släpper det den 22 april. Att man pratar om agenter, Agent GPT. Att man kan ge GPT uppgifter, gör en marknadsanalys. Det var någon som gjorde detta på Twitter: "Jag ska starta ett skomärke som ska göra vattentäta sportskor. Gör en konkurrentanalys på de fem största konkurrenterna. Ta fram deras modeller, hur de jobbar, deras styrkor och svagheter, skriv en rapport. Var borde jag organisera mig för att ha störst framgång?" Så gick han och lade sig. Och sen höll den här agenten på och googlade, tog reda på, skrev samman och sen...

Caroline: Alltså, prata med en AI för att få svar på sina frågor.

Jan: Ja, AI:n gick ut och googlade, sammanställde informationen, googlade vidare, fyllde på ett dokument. Och sen hade han en färdig konkurrentanalys. Johan berättade om en annan person som är ordförande i en scoutkår. Då sa han: "Gör en årsredovisning utifrån de här siffrorna." Och då skrev AI:n en sammanfattning, en verksamhetsberättelse om att det varit mycket godisförsäljning detta året.

Caroline: Ja, eller en korv brukar det vara. Ja. Är du med? Det kan ju vara väldigt skönt också att få saker så snabbt fixade, som vi annars har fått sitta och bara...

Folk bygger nya företag på två veckor

Jan: Och det är roligt, det är folk som nu har skapat helt nya företag och nya affärsidéer på bara två veckor. Det var någon som sålt guider för "så här använder du ChatGPT" för 10 000 dollar.

Caroline: Ja, och då förstår man också hur eftertraktansvärt det är, om folk är beredda att betala så mycket för att få veta hur jag använder det bäst, vad jag kan göra och vad jag inte kan göra.

Jan: Och det är det jag egentligen vill ge bort med detta avsnitt: testa detta. Jobbar du med en dator, jobbar du med text, bild eller foto, testa Midjourney, ta den tiden. Det är inte svårt idag.

Caroline: Midjourney är den som skapar bilder.

Jan: Du kan skriva, som jag till exempel gjorde nu i RikaTillsammans-programmet, då behövde jag en visionsbild. Då skrev jag: "Rita en bild med en väg genom livet, med en person som du tittar på bakifrån som går mot horisonten, det är träd på sidorna och en vägskylt, och gör detta i temat att det är ritat med vattenfärg." Jag fick en jättefin bild.

Caroline: Jag fick en jättefin bild. Det är folk som har gjort den där kända påvebilden.

Jan: Ja, när han har en dunjacka från Balenciaga, som inte existerar.

Caroline: Men den ser sjukt verklig ut, jättesnygg. Jag bara, shit vad snygg! Var kan man få tag i den?

Hur ska man veta vad som är äkta?

Caroline: Det är också lite så, hur ska man veta vad som är äkta och vad som inte är det? Pratar de någonting om det?

Jan: Ja, och det korta svaret är att i framtiden, precis som jag sa innan, du vet, det har redan hänt. Vi pratar om veckor, eller kanske lite månader. Men precis som jag sa innan, att allt vi har här i studion är industriellt tillverkat. Allt kommer sannolikt vara AI-genererat.

Caroline: Jo, jo, men jag tänker nyheter eller saker som någon har sagt. Har du sagt det, eller är det AI-genererat på film, så att man tror att det är du som säger det? Det här deep fake eller vad det heter.

Jan: Men där är vi ju redan.

Caroline: Jo, men jag vet att vi är där, men det har bara hänt med typ Cruise och Donald Trump eller något sånt.

Jan: Ja, ja, men det kommer ju hända alla.

Caroline: Ja, men det är ju saker vi behöver förhålla oss till.

Tio gånger mer effektiv på jobbet

Jan: Men det blir ju också, tänk möjligheterna. Och det är detta jag menar, att du på riktigt, om man lär sig använda detta, kan öka sin produktivitet på jobbet. Alltså alla som är på jobbet och sitter framför en dator borde testa. För du kan bli tio gånger, jag skämtar inte, tio gånger mer effektiv.

Problemet för oss just nu är, som i början av it-bubblan, att det dyker upp så många verktyg och tjänster att man inte riktigt fattar vad man ska använda det till. Så jag tror att man behöver testa sig fram. Och nu i början tror jag att det största misstaget folk gör, detta pratar Johan och Fredrik om, är att man tror att detta är en sämre version av Google. Alltså istället för att googla går jag till ChatGPT.

Caroline: Och ställer en liten rolig fråga.

Jan: Och så ställer man en liten rolig fråga: var finns Eiffeltornet? Och så säger den i Stockholm. Och så är man lite så, höhö, titta, den är ju dålig. Men då använder man det fel. De säger att alla måste vi passera fasen där vi tror att ChatGPT är Google. För vi är så vana vid Google. Han säger, tänk mer på det som, du vet, tänk om det är en hund, som har lärt sig franska, ryska, engelska, tyska, alla språk. Och så kan vi plötsligt prata med hunden. Och allt vi kommer på är att ställa frågan till hunden: var är Eiffeltornet? Och så säger den Stockholm. Och så är vi så här, haha, titta vilken dum hund. Den svarar fel på en basic fråga.

Caroline: Den svarar fel på en basic fråga.

Vi tänker inte på att, shit, hunden snackar ju alla språk.

Be hunden göra det den är bra på

Jan: Vi kan be hunden skriva om våra texter, vi kan be den översätta, sammanfatta, skapa frågor, vi kan till och med be den att bete sig som en annan person. Hur hade Tony Robbins, hur hade Donald Trump skrivit detta talet? Hur hade en tolvåring svarat på den här frågan? Och där tror jag det enda sättet är att experimentera sig fram.

Caroline: Ja, kanske ha lite roligt och fråga sådant man själv undrar över.

Jan: Ja, precis, till exempel skriva tal. Jag ska hålla tal på en begravning, på ett bröllop, eller på studenten, det är snart studenter. Skriv ett studenttal. Eller det var någon som hade skrivit: "Jag vill ha en apokalyptisk matsedel." Och sen genererar den en matsedel.

Caroline: Ja, för det är faktiskt roligt!

Jan: Ja, och sen var det: "Skriv inköpslista för den här apokalyptiska maten." Så du kan resonera med den. Det kan du inte göra med Google, trots att den svarar fel på var Eiffeltornet ligger. Men den kan ge en apokalyptisk matsedel.

Caroline: Alltså, det är lite mind-boggling. Jag ska kolla det med ChatGPT, vad äter man då?

Värt de tjugo dollarna i månaden

Jan: Och det jag menar är att man behöver prova sig fram, man behöver testa verktygen, och jag lovar, det är lätt värt de här 20 dollarna i månaden. Man kan använda det gratis, men då hamnar man ibland i kö och kan inte använda så mycket man vill. Men 20 dollar, alltså, testa, det är värt det. För att se möjligheterna med det här.

Caroline: Gud, superspännande. Jag är helt entusiastisk och lite orolig.

Jan: Vad är du orolig för? Eller vill jag veta det?

Caroline: Nej, men jag är lite rädd att hamna efter.

Jan: Jo, det förstår jag, men det kommer du ju inte göra, Caroline. Och många andra kommer tack vare dig inte heller hamna efter.

Caroline: Nej. Och där tänker jag också, vi har en tråd i forumet. Så jag kommer försöka hålla den uppdaterad så att man vet, börja här. Här är en guide till hur du kommer igång. För jag följer detta på dagsbasis.

Jan: Ja, det gör du verkligen.

Över till Johan och Fredrik

Caroline: Bra, men jag tänker att vi släpper på Fredrik och Johan, stort tack till dem. Som sagt, de jobbar på Linnéuniversitetet. De har en podd som heter Teknik i akademin. Och jag kommer länka i beskrivningen till två av deras avsnitt som är bra, som man kan lyssna på även om man inte är i akademin. För de hänger ju med.

Jan: Ja, och de hänger med bättre än vad jag gör. Grymt! Så lycka till. Vi ses i kommentarsfältet. Och har du hittat något kul sätt att använda ChatGPT eller Midjourney, lägg ut det så att vi andra kan bli inspirerade också. Jag lämnar över ordet till Johan och Fredrik. Varmt välkomna!

Johan: Ja, men tack så jättemycket. Och jag tror att jag pratar för både mig och Fredrik. Det är en ära att få vara med. Vi har båda lyssnat länge på RikaTillsammans. Jag tror, Fredrik, och du får rätta mig om jag har fel, att det var nog ett av de första sakerna som du och jag pratade om när vi träffades första gången, RikaTillsammans. En av de gemensamma sakerna vi hade var att vi båda var lyssnare av podden.

Fredrik: Ja, men så är det nog. Och det är nog inte bara en efterhandskonstruktion, utan det är på riktigt. Så det ska bli superkul.

Vilka är Johan och Fredrik?

Johan: Kort presentation av oss bara, kanske. Vi jobbar båda på Linnéuniversitetet i Kalmar. Linnéuniversitetet finns i både Kalmar och Växjö, men jag och Fredrik tillhör Kalmardelen, och vi har jobbat ihop i fyra år, något sånt där. Inom datavetenskap och programmering. Jag är programansvarig för en utbildning som heter Webbprogrammerare. Så jag har de senaste 20 åren sysslat med att utbilda programmerare. Vi har idag studenter, eller alumner, som finns på de flesta företag i Sverige. Fredrik?

Fredrik: Ja, du sa ju fyra år ungefär som vi har jobbat tillsammans. Och det är ungefär så länge som jag har varit på datavetenskap på Linnéuniversitetet. Tidigare förflutet faktiskt som sjöofficer. Nu börjar man känna sig gammal, nu var det 14 år sedan jag slutade där. Men jag har gjort den akademiska karriären och är också forskare, inom IoT, Internet of Things. Jag driver ett forskningslabb. Undervisar också förstås en del, men mer projektledning och forskning än undervisning. Om man nu ska kategorisera mig och Johan i olika fack. Så där har vi oss två.

Johan: Och sen ska vi inte glömma att säga att vi är entreprenörer, jag och Johan också. Sen två år tillbaka har vi, hur många bolag är det nu? Tre bolag ihop.

Fredrik: Ja.

Johan: Jan, vi får skylla på dig lite där också. För jag tror att du satte de här tankarna i huvudet. Jag tror det var ett fika tillsammans för ett antal år sedan med just temat nyföretagande och varför man ska ha ett företag. Så det är jättekul.

Jan: Det låter som att vi har fler avsnitt. Vi ska göra fler.

Fredrik: Ja, sen vet jag inte om det var så bra att ha fyra. Det är tre tillsammans, men vi har fyra företag.

Johan: Men jag brukar säga att entreprenörer alltid har fler bolag än de behöver. Lite så är det faktiskt.

En startup som dragit nytta av verktygen

Johan: Men vi ska inte prata så mycket om det idag, även om jag kan komma in på det lite, för det kan ändå vara intressant. Vi driver en startup, och då kan man se hur vi har kunnat nyttja de här verktygen i startupen för att komma mycket snabbare framåt. Det tror jag kan vara nyttigt för många att få se lite kring. Vi har ingen direkt presentation, men vi har lite bilder ändå som kan vara bra. Och jag är ju 100 % poddlyssnare av RikaTillsammans. Så jag ska försöka tala till bilderna här, så att ni som lyssnar på det här i efterhand i poddformat kan ta del av det också.

Om vi ska börja från början. Eller vi backar hit, förresten, innan vi går vidare. Det här som jag och Fredrik och många med oss upptäckte den 30 november 2022 är egentligen anledningen till att vi står här idag. Vi satt hemma en lördagskväll, minns jag att det var. Inte den 30 november om ni faktakollar det, men någon dag efter det. Och så blev det snabbt en Facebook-tråd där Fredrik och en annan kompanjon här i Kalmar började skriva lite om, har ni sett att OpenAI har släppt ChatGPT nu, det är en helt ny upplevelse jämfört med de här API:erna och modellerna som man tidigare kunde använda. Och vi började utforska det där på engelska, och det ena ledde till det andra, och jag tror vi satt där med öppna munnar allihopa på lördagskvällen och bara, men herregud, vad är det här? Det här kan ju inte vara på riktigt att det fungerar så bra som det gör.

Många har testat men inte förstått

Johan: Och det vi satt och gapade över är just den här produkten, ChatGPT, som släpptes av OpenAI. Jag tänker att vi börjar lite från början, för jag vet av erfarenhet, när vi har varit ute och föreläst, att det är många som känner till vad ChatGPT är och har använt det, men det är också många som kanske har hört talas om det, men ändå valt att inte testa.

Fredrik: Vi ska tillägga också, Johan, att det är många som har testat, men där vi ser att ni har inte förstått vad det handlar om. Det kan vara värt att säga. En del har förstått och en del...

Johan: Man ska väl kanske inte göra några religiösa...

Fredrik: Vi är absolut inte religiösa, jag och Johan, men jag tänker att de som säger att de är frälsta, de kanske kan se att andra människor har blivit frälsta eller inte. Om man skulle kunna ta någon analogi, så kan man tänka sig att när man har förstått vad det handlar om, då har du en annan insikt i detta än tidigare. Kan det vara en...

Johan: Ja, men absolut. Jag hade ju sömnproblem i flera dagar efter att vi hade börjat titta på det här. Jag hade svårt att sova, för det var så mycket tankar som började i huvudet kring existentiella frågor. Herregud, om en maskin kan göra det här, vad är min roll i allt det här då?

Jan: Jag kan flika in att det är där jag känner att jag är. Jag har testat, jag har använt det, jag fattar att detta är någonting jag borde sätta mig in i, och jag inser att jag fattar att jag inte fattar.

Johan: Jag tror att vi är många där.

Vad betyder GPT?

Fredrik: Precis. Bara för att få lite kött på benen vad gäller terminologin. Den här produkten heter ChatGPT, och det är egentligen det här GPT som är ganska intressant. Först och främst, även om du, Fredrik, har haft lite maskininlärning och AI i dina forskarstudier en gång i tiden, så är ju varken jag eller Fredrik egentligen datavetare med inriktning AI specifikt, utan bara vanlig utveckling. Så vi har närmat oss de här modellerna mer som precis alla andra. Inte från forskningshållet, utan snarare från användningshållet.

Johan: Och GPT, det första, om vi tittar på G, generativ, det är intressant. Skulle jag döpa den här, för jag tror titeln, Jan, satte vi tidigt, men hade jag fått möjlighet att ändra titel idag, kanske den varit "ChatGPT och andra generativa AI-assistenter". För det här med generativ är det som är intressant och det som är nytt. Här handlar det om att det kan generera innehåll. AI som vi har sett innan har använts mycket för beslutsstöd. Men det som är lite nytt och häftigt här är just att vi kan använda AI till att generera saker. Om det så är text, bild, video eller ljud. Det är multimodalt på det sättet.

Hur tränas en sån här modell?

Johan: Pre-train, Fredrik, vill du... varför står det "pre-train" där?

Fredrik: Ja, precis. Alltså, hur de här modellerna tränas. Det blir ganska komplext att förklara. Vi kan säga att vi generaliserar och tänker så här: okej, vi har en AI-modell som kan generera text. Det kan vi se framför oss. Hur gör man när man tränar en sån här modell? Utan att gå in på hur ett neuralt nätverk är uppbyggt, det är faktiskt enklare än vad man tror. Den försöker efterlikna hjärnan. Men de blir stora och väldigt, väldigt komplexa. Så när man bygger ihop det blir det ganska komplext ändå.

Men om vi tar en modell, tänk nu att du har en maskininlärningsmodell. Den försöker efterlikna ett mänskligt lärande. Det är ju det allting handlar om, det är därför vi kallar det maskininlärning. Istället för att programmera hur saker och ting ska bete sig, att om detta händer så ska detta hända. Tänk er, rent programmeringsmässigt: jag trycker på en knapp, då lyser en lampa. Där har vi ett villkor. Istället kan vi få en dator att lära sig att göra detta, genom att titta på många exempel. Och där har vi själva träningsdelen.

Att gissa ord i hela internet

Fredrik: Och hur gör man när man tränar en stor textmodell? Jag tror att någon gjorde ett ganska bra exempel. Det är att om vi tar en sån läsläxa som man hade i tyskan eller engelskan, och sen är det lite ord som är borttagna, man ska fylla i luckorna. Vi tänker att vi låter en dator göra det. Den gissar ord. Och sen får den lite feedback om den gissade rätt ord eller fel ord. Och varje gång den gissar rätt får den en liten bonus. Det kallas reinforcement. Den läser att det här var rätt och det här var fel.

Och hela grejen är att gör du det tillräckligt mycket, så kommer den bli väldigt duktig på att gissa ord. Gör du det med jättestora mängder text, och vi pratar inte om lite, vi pratar om hela internet här nu. Exakt hur mycket text som används för det här är inte helt öppet. Det är en del av den kritiken som OpenAI också har mot sig. Men då händer någonting. Den börjar inte bara bli duktig på att gissa ord, utan den blir väldigt duktig på att också förstå språket. Och därav, ja, förklarar man träningsdelen på ett väldigt övergripande sätt.

Vi förstår inte riktigt hur de fungerar

Fredrik: Och det som är intressant med de här GPT-modellerna är ju att när jag säger att vi inte förstår, det är en sak att jag inte förstår eller Johan inte förstår. Men vi som mänsklighet förstår inte riktigt hur de kan vara så bra på språk. Det finns intervjuer med Sam Altman och med flera som har varit med och tagit fram de här modellerna. Det var en upptäckt för dem att modellen var så duktig på olika språk, utan att egentligen ha lärt sig så mycket om det språket. Att modellen i sig har kunnat hitta mönster i det mänskliga språket som gör att den är ganska duktig på svenska, även om den inte har tränats på speciellt mycket svenska. Så det är jättespännande. Och vi förstår egentligen inte riktigt hur de fungerar. Även om tekniken är där och den är helt öppen, så har det hänt någonting när vi har tränat det på väldigt stora mängder text.

Sen just att det heter Transformer, det var väl något litet modeord, det kunde ha hetat någonting annat också. Det är egentligen ingenting som transformeras i den här modellen. Jag minns inte exakt historien, men Google har väl använt det ordet från 2017 eller 2018, och det är en av grundpelarna i hur de här modellerna fungerar. Men vi ska inte gå in så mycket mer på det.

Ett första exempel: vad är RikaTillsammans?

Johan: Jag tänker vi går över till att titta på, jag ska bara byta här så ska ni få se, det är väl lika bra att visa direkt hur det här kan fungera. Vad jag har gjort nu är att jag gått in på chat.openai.com, det är då ChatGPT där man hittar den här. För chatt, det med GPT, saken är att GPT och de här modellerna har funnits tillgängliga i många år i olika versioner. Men det har varit lite otillgängligt för vem som helst att använda dem. Man måste gå in och konfigurera lite, och det är lite bökigt. Så bara det att OpenAI här i november la på det bekanta chatt-interfacet ovanpå, det var en av de stora bitarna som fick allting att ta fart.

Jag använde mig av modellen GPT-4 här, den släpptes för någon månad sedan. Och den är betydligt bättre än modellen som släpptes, 3.5, i november. Jag gjorde så här, Jan, nu får du inte stämma mig för någon copyright-grej. Men jag tog och gick in på RikaTillsammans, och så tog jag texten kring fyra-hinkar-modellen, för den är ändå relativt känd. Så bara tryckte jag in den rakt upp och ner. Det här är den första grejen man kan ta med sig.

Om man kommer in som ny användare ser det ut på det här sättet. Man kan välja GPT-3.5, det är den som är förvald. Om man har, som jag har nu, ett betalabonnemang, då kan man välja den nyare modellen GPT-4 som är betydligt bättre. Så jag tänker att vi tar den. Och så skriver jag: vad är RikaTillsammans? För det är ofta här man börjar.

Världens bästa bullshit-maskin

Johan: Och du kan kommentera där, Johan också, för det kom en kommentar här nu. Jag kan läsa upp den. Det var Robert Aspler som skrev om en bombning i Göteborg. Och då visade det sig att modellen hade sagt att Göteborg hade bombats, om jag förstod det rätt, vilket inte hade hänt. Och det är det du försöker göra en poäng av. Den här modellen är också världens bästa bullshit-maskin. Och ett av de största misstagen, som vi ser hos de flesta människor som börjar använda modellen, är att vi är så vana vid att använda Google, så vana vid att använda sökmotorer, att vi använder detta som en kunskapsbank, som en sökmotor.

Det är inte Google, punkt.

Johan: Det betyder att ni kan fråga om Göteborg bombades, och den kan säga att det gjorde den. Och sen kanske då väldigt många tänker att "ah, höhö, det var ju inte så imponerande, den kan ju ingenting". Men jag tror det var Troed som sa det när vi hade honom i podden, jag tyckte det var en väldigt bra liknelse. Vi säger att vi har en hund här inne som kommer och pratar franska, italienska, engelska. Och bara att ha en hund som pratar är ju rätt häftigt. Och den kan alla olika språk. Och sen frågar vi hunden, var ligger Eiffeltornet? Och så säger den "New York". Och så säger vi "höhöhö, det var ju en dålig hund du hade". Den liknelsen skulle man kunna lägga som ett lager ovanpå ChatGPT.

Fredrik: Nej, den kanske är rätt fantastisk ändå. Det var inte det den var duktig på. Den här genererar bullshit. Är det bullshit in, så kommer det bullshit ut. Precis som vi människor fungerar. Använd inte det som en sökmotor. Det är väl den korta där. Ni kommer inte bli imponerade.

När RikaTillsammans-svaret faktiskt stämmer

Johan: Och nu har vi lite otur här, eftersom RikaTillsammans-podden är så välkänd så har den ändå... Nu har jag inte läst igenom allting här, Jan, men jag tror att det här stämmer rätt så bra.

Jan: Jag skulle kunna skriva under på det den sa.

Johan: Och det är helt enkelt för att RikaTillsammans har sån presence på webben, så har den ändå snappat upp det här rätt. Men vi kan ta ett exempel. Om jag gör så här, nu tror jag bara jag kopierade den första länken som fanns på Aftonbladet, och den rör elstödet försenas för 5 miljoner. Det är en dagsaktuell nyhet. Då är det många som testar: vad handlar denna artikel om? Och så skickar jag med länken.

Och nu fick jag modell 3.5 här. Då ser vi att artikeln handlar om förseningen av den svenska regeringens planerade stödåtgärder för att främja övergången till elbilar och minska koldioxidutsläpp. Det här låter ändå rätt vettigt. Det vi ska bedöma den på är, är den här texten skriven på bra svenska? Ja, det är den troligtvis, för det här är en språkmodell.

Jan: Men hur kan den fatta det, utan att surfa på nätet?

Johan: För det gör den faktiskt inte. Den går alltså inte ut på Aftonbladet och hämtar artikeln.

Jan: Ja, men den är ju lite klurig.

Johan: För läser ni den här URL:en, så ser ni att elstödet försenas. Så den kommer alltså utifrån informationen i URL:en hitta på vad den här artikeln handlar om. Det här har jag sett jättemånga lura sig på. För ofta får man hyfsat rätt om man bara utgår ifrån vad som står här uppe.

Att använda den som ett textverktyg

Johan: Vi kan gå tillbaka till fyra-hinkar-modellen, för det här är nästa steg. När man har kommit förbi det här att inte använda den som en sökmotor, för jag tror alla behöver passera det. Men att försöka använda den som ett textverktyg. Då kan vi se vad jag gjorde här. Jag tog Jans text från hemsidan och bara lade in den. Det första den försöker göra är att sammanfatta den. Och då tryckte jag stopp, nej, jag vill inte fortsätta. Sen kan jag nu ställa frågor utifrån den här texten. Passar guld in i någon av hinkarna? Det har väl diskuterats fram och tillbaka ett antal gånger.

Jodå, och då kommer den, utifrån texten där uppe, se hur guld skulle kunna passa in i hinkarna. Och då kan vi se att den får egentligen in guld i vilken av hinkarna som helst, beroende på hur man väljer att se på guld som tillgångsslag. Till och med livsnjutningshinken, då tar den mer perspektivet på smycken och konstverk, skulle man kunna tänka sig att ha det. Och det är egentligen inte fel. Så just när den har text att jobba med är den fantastiskt bra.

Jan: Alltså, jag skulle säga att det där hade kunnat vara skrivet av någon i forumet.

Johan: Ja. Och nu är ju forumet öppet också, så det är mycket möjligt att forumet har legat till grund för träningsdata här.

Som en person som läst alla forumtrådar

Johan: Och det som Fredrik pratade om med träning, då ska man inte se det som att den har tillgång till forumet och söker i forumet, utan se det här som en person som har läst genom alla forumtrådar. Skulle man fråga den personen någonting så skulle den basera mycket av svaren på forumtrådarna. Men den skulle inte kunna ordagrant säga, detta är källan till den tråden.

Fredrik: Nej, men den har en vag uppfattning. Och det är därför den kan låta väldigt trovärdig ibland och ha helt fel också. Jag frågade den till exempel, vilken är den bästa spelaren i Kalmar FF genom tiderna? Och den var helt klar med att det var Zlatan Ibrahimović.

Johan: Och vi kan säga att Zlatan aldrig har spelat i Kalmar FF, vi kan göra det klart i alla fall.

Fredrik: Men det är ganska naturligt. En liten klubb i Sverige, en stor svensk fotbollsspelare, Zlatan. Skulle jag få frågan, säg en argentinsk spelare som spelat i någon liten obskyr klubb på landet, ja, men jag kanske skulle gissa på Messi, bara för att jag inte har någon bättre kunskap än så. Och den jobbar lite på samma sätt. Och sen försöker den ju alltid vara till lags. Den är tränad för att vara ett interface som är till lags till användaren. Så det har varit ganska mycket reinforcement-training med mänsklig interaktion för att skapa produkten ChatGPT.

Tekniken är inte ny, tillgängligheten är det

Fredrik: Du nämnde lite det innan, Johan, att de här modellerna GPT-4 aldrig har funnits öppna innan, den kom bara för en månad sedan. Men GPT-3, den kom 2020. Det är ju ett tag sedan, det är rätt länge sedan. Pratar vi i den här världen nu är det som förra århundradet, känns det som, i AI-tid. Och de här modellerna har ju funnits tillgängliga. Men det som gjorde att ChatGPT blev någonting som förändrade allt, det var att de lade på ett user interface. De har också tränat den så att den ska vara till lags mot människan som pratar med den. Den är duktig på att följa instruktioner och hålla en dialog. Men modellen GPT-3 har funnits ett tag.

Och bara som ett exempel, jag genererade ju... jag är lite glad nu att jag gjorde det i efterhand här, Johan. Jag tänker, du knyter handen i fickan, men nu är den idén upptagen. Men jag gjorde så när jag gjorde ett avslutningstal för våra studenter med GPT, det var faktiskt förra sommaren. Det blev ett ganska roligt tal. Och det gjorde jag på engelska. Jag genererade faktiskt, ja, det var till en konferens. 2019 när jag var i Glasgow använde jag en sån textmodell, inte alls denna modell, men för att generera ett nytt abstract från alla konferensens abstract. Jag tog alla abstract på hela konferensen, sammanfogade dem och genererade ett nytt sannolikt abstract från ett paper som inte fanns. Så det går att göra. Tekniken har funnits ganska länge. Men den har varit så otillgänglig.

Den här historien handlar om att man tar teknik som finns och gör den tillgänglig. Då händer någonting helt revolutionerande. Lite som Apple.

Johan: Ja, men absolut. Då ska man också vara medveten om att det talet Fredrik genererade för knappt ett år sedan, det var juni 2022. Det var roligt för det var så plojigt och dåligt. Det var inte bra, det gick liksom inte att komma undan med det talet. Men idag hör vi tal hela tiden som är genererade med ChatGPT. Och det går inte att säga att det där var skrivet med ChatGPT. Så det har hänt jättemycket bara på de månaderna som har varit sedan dess.

Varje svar genereras på nytt

Fredrik: Något jag vill trycka på också när vi pratar om den här modellen, det är att skulle jag ställa samma fråga igen, så skulle jag få ett helt nygenererat svar. Det är också viktigt att ha med sig. Det är alltså inte en databas där det här lagras och den plockar tillbaka samma svar. Det är inte deterministiskt på det sättet. Utan det genereras en helt ny text för varje fråga.

Och då kan man lätt förstå varför det här har blivit en stor diskussion inom skolans värld. Nu ska vi inte komma in så mycket på skolan. Men det är klart att det sätter alla sådana här plagieringssystem som tidigare har funnits helt ur spel. De fungerar inte längre.

Sammanfattning och feedback på text

Johan: Något man också kan notera, och jag gjorde faktiskt det, Jan, jag tog en av dina texter. Just det, det här är väl startsidan, tror jag. Så jag bara tog texten och kopierade in den. Och då får man dels en sammanfattning. Jag bad den också göra ett förslag på ett upplägg på en presentation idag. Den här är en ganska bra disposition över vad som kan vara lämpligt att ta upp. Och det här är någonting man kan dra nytta av, såklart. Men, trodde jag... var det inte där jag gjorde det? Nej, det var kanske på fyra-hinkar jag fortsatte. Nu blev jag osäker. Jo, det var fyra-hinkar.

Ge feedback på texten i mitt första inlägg, skrev jag. Och vad var texten i mitt första inlägg? Jo, det var den här om fyra-hinkar. Så jag bad att få feedback på den. För det är ett textverktyg. Den är jättebra på att jobba med text. Och vad du har fått här nere, det är egentligen en omarbetad version av texten som är lite lättare att läsa, som flyter lite bättre. Där man har lyft ut vissa saker till punkter för att förtydliga. Den skriver här nere också: genom att strukturera om texten och använda punktlistor blir det lättare för läsaren att följa och förstå. Så just det här, man kan fortfarande skriva sina egna texter, men jobba med verktyget för att få den att göra dem lite enklare och lite mer lättläst, det är den väldigt bra på. Speciellt på texter som ska vara effektiva.

Texterna blir lättlästa men personligheten kan försvinna

Fredrik: Vi har använt det mycket för dokumentation. Och i och med att den här statistiska modellen lägger orden i den ordning de borde komma, så gör det också att texterna blir väldigt lätta att läsa. Det är inte så att man hakar upp sig, utan det blir ofta ett väldigt bra flow i texterna.

Johan: Lite tråkigare dock kanske. Så att personligheten kan försvinna samtidigt. Men det är ju också där människan kommer in i hur man jobbar med detta. För man får se det här som en deg. Du jobbar med texten med det här verktyget. Så du kan be att den... tyckte du att texten var tråkig, be då ChatGPT att göra den roligare. Be den att använda lite andra ord. Be den att förklara med lite...

Jan: Får jag komma med ett förslag där?

Johan: Ja, det gör det, Jan.

Jan: Sen tänker jag, någonting som jag har börjat använda den till, som jag tycker att den är sjukt duktig på, det är att föreslå tio rubriker till texten ovan.

Johan: Vi kör den. Ja, för nu kommer den. "Hej där, ekonomi, jag ska gissa vad. Vi ska snacka om fabulösa fyra", och så vidare. Ge mig förslag på fem olika rubriker. Kan nog räcka. Ja, så då får vi lite olika modeller här. Och sen kan man be den att vara mer seriös. Eller mer... nu kanske den...

Jan: Det är väl ändå rätt seriöst, tycker jag.

Johan: Absolut. Jag ska lämna den här lite. Jag tror att vi kommer ha jättemycket frågor, så vi kommer återkomma till just ChatGPT.

Många andra modeller är på väg

Johan: Men jag tycker det är så spännande, och det var därför jag pratade om det här med generativa modeller. Nu ska vi bara se vad jag har gjort av min PowerPoint, för den har minsann dragit åt skogen. Där har vi den.

Fredrik: Och då kan man också, när man står och letar efter din PowerPoint, bara flika in att vi pratar om ChatGPT här nu, det mest tillgängliga verktyget. De har lyckats PR-mässigt att göra någonting fantastiskt. De har verkligen tagit marknaden och varit först ut. Men det finns ju många andra modeller. Det händer saker väldigt snabbt nu. Så ChatGPT är en av flera modeller. Och vi kanske alla hörde när Google gick ut med Google Bard. Och Amazon jobbar med sin. Och Baidu i Kina har sin modell. Det kommer komma många stora modeller som är motsvarande ChatGPT.

Och sen händer det fantastiskt mycket inom Open Source-communityn. Där det nu börjar komma väldigt stora foundation-modeller som också är öppna. Bara de senaste två veckorna kan du köra Alpaca, GPT4All med flera på en laptop. Och visst, de är inte lika bra som GPT-4 som du kan köra. Men de är mycket bättre än vad vi någonsin trodde att en modell kunde vara för bara ett halvår sedan, och du kan köra den på din laptop. Så det är en väldigt spännande utveckling, när varje vecka bara rullar på och det händer någonting nytt.

Två tydliga användningsområden

Jan: Får jag kasta in? Jag som gillar, seriöst, ingenjören i mig. Kan man säga så här att hittills, det ni har visat, egentligen två användningsområden. Man ska inte använda det som ett uppslagsverk. Det är inte Google. Det är insikt nummer ett. Insikt nummer två är att man kan använda det väldigt mycket för process. Jag knådar med min text. Jag kan få den sammanfattad, översatt, jag kan få förslag på rubriker, få den omgjord till en punktlista, få utkast på en presentation. Kan man säga att det är ett tillämpningsområde som jag tror att alla som skriver text har glädje av?

Fredrik: Ja, absolut. Och sen ska vi också vara väldigt tydliga med att det är just idag. Idag ser det ut så här, imorgon kommer det att se ut på ett helt annat sätt. Ni har säkert många hört att ChatGPT till exempel nu introducerar plugins som gör att den kommer kunna surfa på nätet, om du aktiverar surfa-på-nätet-pluginet. RikaTillsammans skulle kunna ha ett plugin. Och då kommer den att generera sina svar utifrån RikaTillsammans forum och alla texter som finns. Och alla poddar, eftersom de är transkriberade. Det finns redan sådana tjänster. Det finns inget som hindrar Jan att kunna sätta upp en sån redan imorgon.

Jan: Det får vi prata om efteråt.

En riktig boom av startups

Fredrik: Nej, men det finns ju företag, det är det som är häftigt nu. Det startas, vad man brukar säga på Twitter, 100 nya startups varje vecka inom AI. Så det är en riktig boom nu. Och egentligen kan ju vem som helst, det är det som är häftigt, har man en idé så har det aldrig varit enklare än nu för vem som helst som inte ens är utvecklare. Och det är där den stora förändringen är, att i och med de här verktygen så har du level the playing field.

Jan: Jag skulle kunna bli en mäklare, åtminstone skriva alla mäklartexter. Jag ska prata för en mäklarförening om en vecka. Så jag började generera lite mäklartexter. Det skulle jag kunna göra, åtminstone till viss del.

Fredrik: Det verkar som att den är ganska duktig på åtminstone amerikansk juridik, den här GPT-4. Den har klarat ganska mycket av de här testerna. Det är verkligen level the playing field här nu.

Hög utbildning är inte längre skydd

Fredrik: Om vi kommer in på arbetsmarknad och sånt sen, så finns det ju ganska mycket tidig forskning nu. Det bara sprutar ut artiklar inom det här området. Som visar hur det kommer att påverka arbetsmarknaden. Och det intressanta är att det alltid har varit en framgångsfaktor att ha en hög utbildning. Nu visar det sig att du har en omvänd korrelation mot hög utbildning, mot jobb som förväntas slås undan fötterna för med den här typen av teknik. Så många som har en högskoleexamen är de som kanske blir mest påverkade av den här typen av AI-modeller. Inte de som skurar en toalett eller stenhuggare och så vidare.

Det är väldigt intressant, för det har vi inte trott. Vi har trott att det är vi tjänstemän som sitter i vita skjortor som är ganska trygga, men det är kanske där fötterna slås undan först.

Promptade modeller blir mer exakta

Johan: Och det här är ett exempel på det vi var inne på, att det byggs produkter. Ni har säkert sett, många av er, den här Skatt-GPT som en privatperson helt enkelt har byggt genom att ta texterna som finns på Skatteverkets hemsida. Och när man ställer frågor här, då promptar man mot de texterna. Så att svaren blir mycket mer exakta än om jag hade använt ChatGPT för samma sak. Den kan ju till exempel blanda ihop skatteregler i Sverige och Norge.

Och då kan man konceptuellt förklara att om ni tänker den här modellen som vi såg nu, ni går in på ChatGPT och skriver någonting, den vet ju väldigt mycket om världen. Den är tränad på hela världens internettexter. Så det är klart att ni kan fråga vilken som är huvudstaden i Frankrike, den kommer svara Paris, väldigt sannolikt. Men den kan också hitta på. Men den är otroligt duktig på att generera text. Den kan generera och den kan förstå. Den kan resonera. Den kan ha någon sorts förståelse av logiska samband. Men den kan inte så mycket om RikaTillsammans, inte så mycket om Volvos interna styrsystem eller affärssystem.

Att koppla på en databas

Johan: Men om vi kopplar på en databas. Tänk nu att den här ChatGPT, när ni ställer en fråga, så har den ett långtidsminne precis som ni människor har. Att ni får tänka efter en liten stund och så hittar ni det. Då kan vi få en modell som både kan någonting om verksamheten och organisationen, och också kan uttrycka sig på ett väldigt resonerande och logiskt sätt. Och de här modellerna, det här är ett exempel på det. Där man tar en textmassa och lägger den i en sorts databas.

Nu finns det databaser som inte är en databas där du söker på ett keyword. Utan om jag frågar om kryptovalutor, så kommer den förstå att jag menar kryptovalutor, även om det står bitcoin eller ethereum. För att det är så kallad semantic search. Så den hittar de tio toppträffarna på det som är närliggande i innehåll. Så den använder en AI motsvarande en textmodell när de embeddar detta i databaserna. Det kallas en embedding som görs. Men då får du en otroligt kraftfull kombination.

Det tror jag vi kommer se väldigt mycket av. Att du kommer ha den här väldigt domänspecifika kunskapen. Den bygger man på ett annat sätt, genom att lägga på det här. Här har vi böcker eller fakta, en blogg eller vad det nu är. Sen kopplar man den mot textmodellen. Så det blir flera lager. Men du som användare ser bara den här botten. Den kommer vara väldigt kunnig.

Exempel inom medicin och bias

Johan: Och det finns redan exempel på det. Nu kommer jag inte ihåg vilken det var, men det var någon medicinbot som tränades med PubMeds artiklar. Och då får du en väldigt duktig AI, som kan allting om medicin. Den är tränad på det. Sen finns det lite söktjänster inom vetenskaplig litteratur som använder de här typerna av verktyg. Så att om jag frågar någonting, så förstår den på ett kanske lite djupare plan än bara sökorden vad jag försöker få ett svar på.

Fredrik: Och där blir det intressant om man tar PubMed som exempel, och läkare. Om vi diskuterar det här med bias. Även om alla läkare försöker så gott som möjligt ge alla samma vård, så finns det säkert inbyggda biases mot olika personer som kommer in. Och den här typen av modeller kan ju ta bort den risken, till exempel.

Bild: en examensceremoni på två minuter

Johan: Skulle du fortsätta, Johan? Du hade någon bild. Jag skulle vilja att vi lämnar text lite och bara kikar på det här med bild. Den här bilden vi ser framför oss nu. Vi pratade examensceremoni tidigare. Jag ska ha en examensceremoni på Kalmar slott i juni. Jag behövde en bild till den. Istället för hur jag har gjort tidigare. Jag har några alternativ. Jag kan gå ut och ta en bild själv och arrangera den. Det är dyrt, det tar tid framför allt, och är rätt svårt. Jag behöver bra utrustning. Jag kan köpa en bild på någon stockfotosajt, det tar också lite tid, och jag måste leta upp en bild. Jag skulle kunna gå in på våra interna bildbanker och leta upp en bild. Men då måste jag också kontrollera så att inte bilden används på något annat ställe, i ett annat sammanhang samtidigt, och hålla koll på de bitarna.

Den här bilden genererade jag, det tog två minuter. I Midjourney, som är ett verktyg för att generera bild istället för text. Så det här är precis motsvarigheten mot text fast i bildformat. Och vad vi ser framför oss är en rätt fotorealistisk bild på gula blommor och sådana här diplom som ligger ihoprullade.

Trump, påven och oron för framtiden

Johan: Vi har ju sett det här, ni kanske har sett de här bilderna från någon vecka sedan. Trumps gripande i New York, en väldigt dramatisk bild. Och även påven som står i någon form av dunjacka, en stor vit passande dunjacka, som spred sig ganska rejält. Men de här bilderna är givetvis helt genererade i Midjourney. Och det blir lätt att börja fundera på vad det här kommer att ta vägen. Fredrik, du gjorde också en bild här på påven.

Fredrik: Ja, den gjorde jag nyss. Lite ondare, det ser nästan ut som någon Star Wars-karaktär i det här fallet.

Johan: Men jag tänker så här, om man slår ihop allt det här och tankarna. Nu har vi bara pratat bild och text. Men vi kan lika gärna lägga på video, för vad är det? Det är ju bara genererade bilder i en följd. Och så får man ha ganska många. Och ljud finns det jättebra modeller. Nu har jag inte något exempel här idag, men det finns jättebra modeller. Med tre sekunder kan man generera ljud, eller läsa meningar som låter precis som den personen som man har tagit de tre sekundernas ljud ifrån.

Anna 1850 och allt som är industriellt

Johan: Och då tänker jag så här. Det här är Anna, och då är vi tillbaka på 1850-talet någonstans. Om vi hade frågat Anna här 1850, och bett henne peka ut någonting som en maskin har gjort i hennes vardag. För det första skulle vi kanske nästan behöva förklara, vad menar vi med maskinen? Och tillverkning av maskiner i en industri, för det har kanske inte riktigt nått ut. Det man sen kanske skulle kunna konstatera är möjligtvis hennes tyger som hon har på sig, de kan ha varit gjorda i något väveri på den tiden. Men det är ungefär det vi kan begränsa oss till.

Och då kan ju ni ta, nu sitter ni hemma, de flesta av er misstänker jag, jag är på jobbet faktiskt. Men om ni tittar runt er nu och försöker peka ut en sak, det räcker med en sak som är handgjord, som inte är gjord i en industri på något sätt. Jag kan säga att när jag är på jobbet är det i princip omöjligt. Jag skulle kunna hävda att den här lappen är handskriven, men det är ändå ett industriellt tillverkat papper, en industriellt tillverkad penna.

Jag tror att det inte är långt borta till att vi kan ta den här modellen och föra in den digitalt. Det vi kommer se digitalt inom en väldigt snar framtid kommer att vara genererat.

Johan: Läser vi texter så kommer de att vara genererade. Tittar vi på bilder så kommer de att vara genererade.

Levi's ersätter modeller med AI

Johan: Och varför det? Ta det här exemplet, det här är Levi's. De gick ut med ett pressmeddelande förra veckan där de sa att de kommer börja ersätta modeller på webben och i katalog mot AI-genererade. Så den modellen vi ser framför oss är en helt AI-genererad modell. Nu kanske det finns någon i den här industrin här, men jag har lite insikt i just klädindustrin på ett stort svenskt företag. Och att jobba med de här modellerna, det är ganska mycket jobb. Juridiskt jobbigt, det är mycket dokument som ska skickas, det är föräldrar som behöver godkänna. Dessutom kan du ha bakgrunder som ställer till det. Det kan vara graffiti på någon vägg, och då behöver man spåra upp artisten för att där kan det bli royaltyproblem. Det är mycket meck med att ta den typen av bilder, och det är väldigt dyrt.

Att generera en sån här bild, visst, det kostar lite, men kostnaden är försvinnande liten gentemot att försöka fotografera det i den vanliga settingen. Så att det inte skulle gå åt det här hållet, det ser jag nästan som otroligt. Helt enkelt för att kostnaden kommer att driva detta.

Max Tegmark och brevet om en paus

Johan: Det här är också en av de sakerna som Max Tegmark, en av våra större forskare inom AI, har varit väldigt rädd för de senaste tiden, att det här kommer att inträffa. Och det är en av anledningarna som ligger till grund för det här brevet som kom från Future of Life Institute för någon vecka sedan, om att man vill pausa utvecklingen nu i sex månader och bara känna in, få regulatoriska ramverk på plats för hur det här ska hanteras. Vad får man göra, vad får man inte göra, och så vidare. Men just det här tror jag är någonting vi kommer se väldigt, väldigt mycket av, väldigt snart. Just de genererade bilderna och ljudet.

Bedrägerier med klonade röster

Johan: Och sen kommer alla faror med detta såklart. Och det kan vi diskutera hur länge som helst. Vi har sett i USA exempel på att äldre har blivit uppringda. Och på andra sidan telefonen, ett okänt nummer, så är det sonen eller dottern som pratar och säger att hon är i Thailand. Det har strulat lite med hotellet, om det går att skicka över lite pengar för jag behövde byta telefonnummer. Och det är klart, när man hör att det är ens dotter på andra sidan, då blir man nog ganska benägen att vara hjälpsam. Men här behöver vi börja se upp. Nu kanske det dröjer några månader, något år, innan det börjar hända i Sverige. Eftersom det ofta är det amerikanska eller engelska språket som går före. Men vi måste börja vara uppmärksamma på det här.

Och det går lätt att tänka också, vad kommer hända här nu nästa år med valet i USA, desinformation kopplat till det. Det kommer bli en jättesvår nöt att knäcka, helt enkelt, och hänga med. Så det här är någonting att hålla koll på.

En autonom bot byggs live

Johan: Om vi ska skrämma upp er ännu mer då, Fredrik. Om vi ska prata något som är nästan dagsaktuellt, så har det börjat pratas väldigt mycket om just den här möjligheten nu att börja kombinera de här modellerna på lite olika sätt. Vill du visa det här, Fredrik?

Fredrik: Ja, men jag kan göra. Jag kan ju bara förklara lite vad jag ska göra. Jag kommer dela en terminal här nu. Så nu ser ni alla en terminal. Det avslöjar lite grann vad jag ligger på. Den ligger på en Microsoft Azure-server här, inte på min egen dator. Och jag kommer köra ett Python-skript. Så om vi har några utvecklare här så vet ni ungefär vad jag gör. Och det är inte så avancerat, det är bara att hämta hem det här GitHub-repositoriet och följa instruktioner. Så även om det ser hackigt ut för er som inte är vana att se sånt här, så är det verkligen inte så krångligt. Men jag kommer köra ett skript, ett program helt enkelt. Och då frågar den här, "Would you like to return to being get rich AI?" Jag lekte lite med den här innan. Jag tar "Continue, no". Och sen får ni hjälpa mig här nu med detta. För nu ska vi skapa en autonom bot.

Vad är ett API?

Fredrik: Och vad är det vi pratar om när vi pratar om de här kärnkorten? Vi var alla överens om att vi kunde gå in och skriva saker i ett webbläsarfönster. Och nu har vi inte nämnt ordet API ännu. Men vad är ett API? Det är ett application program interface. Istället för att en människa pratar med ett program, så låter vi ett program prata med ett program. Johan, du får rätta mig om jag... Och med hjälp av de här API:erna kan vi alltså bygga program som använder den här AI-tjänsten, utan att vi behöver skriva in då.

Man kan tänka sig att vi skulle kunna automatisera ganska mycket. Jan skulle kunna ha en bot som svarar på alla hans frågor på forumet och är online 24/7, och vars enda mål är att maximera profit för RikaTillsammans. Så vi kan väl bygga en sån bot, eller vad säger vi? Vad ska vi kalla botten? Vad heter ditt alter ego, Jan?

Jan: Ja, gud, jag vet inte. Kör RikaTillsammans-botten. Det blir väl jättebra.

Fredrik: Vi kör något sånt där då. Det är inte så fantasifullt när han... RikaTillsammans-botten here. I am at your service här nu då.

Att sätta mål för botten

Fredrik: Och nu då ska vi, vad är dess roll? Vad ska den här göra? Vi kan faktiskt skriva på svenska. Det kommer fungera bra. Ja, vad ska den göra?

Jan: Svara på privatekonomiska frågor.

Fredrik: Och då skriver vi faktiskt, Fredrik, på svenska. Du ska svara på privatekonomiska frågor. Vad ska det vara, vad ska den vara för typ av bot? Ska den vara snäll, elak eller lite vit?

Jan: Det ska vara enkelt och tillgängligt.

Fredrik: Det ska vara enkelt och tillgängligt. Nu kommer inte den här... vi kan bara säga att vi kommer falla lite grann här nu. För den kommer inte kunna gå in och registrera ett konto. Det får vi se, det kanske, vi har inte testat. Men jag har gett den ett mål nu, eller jag har gett den en övergripande roll. Och nu kan jag sätta upp till fem goals. Så nu pratar vi om vad jag vill att den här botten ska ha för mål.

Jan: Vi kan ha ett enda mål. Och vi skulle kunna skriva nu att öka antalet lyssnare på RikaTillsammans. Det skulle kunna vara ett mål. Den kan fortfarande vara snäll. Öka antalet lyssnare på podden RikaTillsammans.

Fredrik: Sen, du vill ju också bli lite mer ekonomiskt oberoende.

Jan: Ja, det blir jättebra. Ja, precis, öka... någon vill tjäna mer pengar. Ge honom mer pengar.

Fredrik: Så vi fixar så att den också... Det är bra att den har ett tydligt mål här nu. Du skapar den här botten. Vi kan behålla det där, så får vi se vad som händer. Jag hade kunnat ge den fler mål.

Botten börjar arbeta

Fredrik: Nu använder den, återigen, det här är väldigt hackigt allting. Det här är en ensam utvecklare som har... Det kan vara så att allting faller här nu, för att det inte funkar av någon anledning. Men vi kan se nu vad som händer. Det här använder ett minne nu. Och den kommer nu fråga mig om input varje gång. Så nu är den inte helt autonom. Nu kommer den göra någonting.

Då kan vi se att RikaTillsammans-botten, den tänker här nu. "I think the first step is to gather information about Jan's current financial situation and gather relevant data." Ja, det kan ju vara lite bra. Sen ska den gå vidare. Och så plan. "Browse websites for job opportunities and side hustles. Start an agent for income ideas. Gather data from Jan's financial statement. Research income generating opportunities." Vi kör på dem. Och då kan jag välja "yes". Och sen kan jag skriva att jag inte vill hålla på och skriva "yes" varje gång den gör nåt. Så vi bara kör den. Vi låter den köra fem gånger utan att den frågar mig varje gång. Jag kan sätta den i ett full autonomous mode. Då är man verkligen på farlig is. Men det den gör nu är att, nu kommer den gå ut på internet.

Agenten googlar, söker jobb och delegerar

Fredrik: Och det är det den gör nu. Den går ut och letar. Nu kan du se att den hittar någonting om, "career advice" tror jag, Monster.se såg jag att det var. Den går in på Monster.se. "Good starting point to find job vacancy." Den tror att du söker jobb här nu.

Jan: Ja, vi gav den inte så mycket information.

Fredrik: Vi gav den inte så mycket information här precis. Och nu går den vidare in på LinkedIn. Och sen kollar den "the latest job opportunity in Jan's field". Och varje gång går den ut och söker. Det är en agent vi ser jobba nu, autonomt. Så från varje steg den gör, tar den den här informationen och lagrar in det i en databas i sitt minne. Så desto längre den här jobbar, desto mer vet den om sitt uppdrag. Och den har sitt övergripande mål.

Den här botten nu, den kan, det är lite läskigt, men den kan, det är på en server här nu, den kan alltså skriva ett nytt program som gör någonting. Det har vi sett innan när vi har kört den här. Jag behöver ha någon som hjälper mig att söka efter information, då skriver den ett nytt program som går ut och gör det, parallellt, och ger information tillbaka till den här botten. Så den är duktig nog att delegera uppgifter och skapa kloner av sig själv.

Det börjar bli lite läskigt

Johan: Så nu är vi inne på det här, nu börjar vi närma oss någonting där det börjar bli lite läskigt. Jag har lite dålig känsla.

Fredrik: Nu är det så, man får ta det för vad det är. Det är klart att den här är lite hackig. Den har inte världens bästa kontroll på vad den ska söka på. Den kommer försöka sig fram här nu. Till slut kommer den till någonting. Vi får se vad som händer. Den kommer in på Avanza här nu och försöker söka information där. Den försöker hitta information om dig på Avanza. Och den vet nog inte om att du har en blogg. Jag tror vi har gett den för lite information kanske. Men ändå, om man bara tänker på att detta är utkastet på en agent. Alltså, vad kommer detta vara om ett år?

Johan: Ja, detta är ju som sagt en ensam utvecklare som har knackat ihop det på några veckor. Så det här visar på tangentens riktning, hur fort det går. Det går så galet fort. Och nästan varje dag nu kommer det nya produkter. Det är på något sätt som att internet dök upp i allas ficka. Och inte så som det såg ut 93-94, utan så som det såg ut 2012. Så att alla är bara på det här nu och försöker hitta. Och vi har inte sett någonting kring det här ännu. Det kommer att komma.

Planen är precis det Jan gör på jobbet

Fredrik: Och nu gav jag den lite human feeling, för det har den ju en möjlighet att göra. Då hjälpte jag den lite på traven. Jag skrev att du är ändå host för RikaTillsammans. Och då ser den ut som att den ändå har fått någonting på spåren här nu. Så det vi kan se här är också att nu ser vi Google command, search, return, och så. Det kan vara lite smågrejer. Vi har sett lite smågrejer som kan bli lite tokigt.

Jan: Men förlåt, om jag bara pausar dig. Om man bara läser om dess plan. Så är ju planen precis det som jag själv hade gjort. Alltså, vad är demografin? Vad är intresset? Hur lyssnar man? Generate marketing strategies. Detta är ju det jag gör på jobbet. Detta är jobbigt, om det är något som tar tid.

Fredrik: Och det häftiga är, återigen, den fungerar ju. Vi har testat lite grann. Nu ser det ut som att den har svårt att googla just nu, någonting har hänt där. Men det häftiga här är att det går, även om man kan tycka att den är lite långsam här nu. Men det spelar ingen roll, för du kan sätta igång den här. Du kan ge den ett uppdrag. "Jag vill ha due diligence på det här företaget som jag nu vill investera i." Då skulle du kunna bygga en liten agent som du ger i uppdrag. "Jag vill ha en marknadsanalys på det här företaget. Go!" Och sen, 12 timmar senare medan du har legat och sovit, så har du en rapport. Den har gjort allting som du hade kunnat sitta och göra genom att googla i 12 timmar. Och den bara dundrar på. Och målet är då att hitta några, vad det nu kan vara, man vill hitta. Så det går att hitta på rätt mycket grejer.

En annan typ av sökning

Fredrik: Och det häftiga med den här typen av saker är att vi kommer nog få se väldigt mycket av det. Vi pratade faktiskt om det i ett podcast för ganska länge sedan, Johan. Jag tror vi döpte det till Lobsters, eller vad var det? Just att det är en teknik som jag tror att vi kommer se. Nu spånar vi lite grann, men vad blir det för implikationer av den här typen av teknik? Det ni har sett är en väldigt tidig, inte så välfungerande, men väldigt läskig sak.

Johan: Jo, sökning blir ju en annan grej. Jag kommer, istället för att söka någonting, om jag vill köpa ny tv nu, då kanske jag lägger research. Jag går in på Prisjakt. Istället kommer jag ge detta till en agent. Egentligen vill jag ju att den här tv:n ska komma hem till dörren. Och jag vill verkligen vara säker på att jag får den där billigaste, bästa tv:n, med alla funktioner. Jag ger någon annan ett uppdrag att lösa det. Och det blir en annan typ av sökning.

Fredrik: Och det kan ju vara allting. Jag skulle kunna ge agenten i uppdrag att, varför inte, skriva en bästsäljande bok.

Johan: Återkommer du klar?

Fredrik: Ja, det vore lite spännande att se. Det kommer säkert fungera jättebra, med tanke på att den har läst in sig på så mycket böcker. Du kommer troligtvis få en ganska generisk deckare. Men jag menar, det säljs mycket av dem.

Hur ska en vanlig person förhålla sig?

Jan: Men hur, alltså, du vet, för mig blir detta lite mindblowing. Vad, vi som är vanliga personer, hur ska man förhålla sig till detta nu? Du vet, för mig blir det så att jag tänker och sen bara, nej, mentalt nästan orkar jag inte.

Fredrik: Nej, det är det som är den stora risken tror jag. För jag tror att det är där många, du vet, nej, jag orkar inte med något nytt. Jag bara kör på som vanligt. Men jag tror att det är jätteviktigt, man behöver inte gå all in nu, som att sätta upp agenter. Utan bara börja testa, bara för att det är kul. Vad ska vi titta på för film ikväll? Börja chatta med den bara för att se, för då kommer den kanske fråga, vad brukar ni titta på? Och så kan man börja resonera. Bara för att få in det här. För det är viktigt att man, lite som när internet kom igen, att bara vara med och i alla fall hänga med och förstå vad det innebär. För det här kommer gå på några år nu, jättejättefort. Till skillnad från internet, som vi ändå hann växa in i. Det är ju det som är risken, och det är därför de pratar om att pausa också. Att allting händer så himla fort.

Gör det lustfyllt

Johan: Men gör något, försök göra det lustfyllt. Jag, jag menar, jag kan inte rita. Jag kan rita en streckgubbe på sin höjd. Och helt plötsligt nu med Midjourney, som ett jätteenkelt verktyg, så kan jag bara berätta vad jag vill ha för bild. Och så får jag den bilden. Det kan vara grafik, det kan vara logotyper, det kan vara webblayouter, precis vad som helst som går att beskriva med en bild. Så man får försöka se det lite lustfyllt. Och göra det för att man tycker det är kul.

Jan: Men går det också mot att det handlar om att vi ska bli bättre beställare, snarare än bättre tillverkare? Att jag ska vara duktig på att handleda och, alltså, förstår ni vad jag menar? Till exempel, ikväll testade jag att jag skulle ha kod. Så istället för att skriva kod, skrev jag till ChatGPT: skriv den här koden med de här tio villkoren. Och sen bara spottade den ut den. Innan, för ett halvår sedan, hade jag suttit och kodat det där själv. Och jag menar att det handlar nog för mig om att bli en bättre instruktör, säga vad jag vill ha, än att bli en bättre programmerare. Förstår ni vad jag menar?

Johan: Ja, och det är ju en jättesvår diskussion, för då kommer man lätt in i det där, ja, men då kanske man inte behöver kunna programmera för att den löser det själv. Men samtidigt, i alla fall som verktygen ser ut nu, så behöver man ändå som beställare vara ganska insatt för att veta att man får en produkt som fungerar. Så det tar inte bort den biten, men det förändrar, precis som du säger, mot beställningsjobbet.

Prompt engineering

Fredrik: Och det pratas ju jättemycket om det här med prompt engineering. Nu har det blivit ett modeord, och det handlar helt enkelt om hur man ska skriva sina prompter. Hur ska man utforma det? Men det är väl också något som många tror kommer att försvinna. Tittar vi i en tidig version av Midjourney, det här verktyget för att generera bilder, då behövde man vara ganska specifik i hur man satte upp prompten för att få bra resultat. Men i den nya versionen räcker det att bara beskriva på engelska, än så länge, hur det ser ut.

Frågor från publiken: industri och källkritik

Johan: Hur ska man tänka, eller vi kan ta några frågor här. Fabian frågar, hur stort hopp är GPT-botten mot exempelvis Industri 5.0, där datainformation är bränslet?

Fredrik: Ja, till vad söker man på? Jag är inte säker på frågan, Fabian.

Johan: Jag är inte säker heller. Nej, Fabian, du får skriva. Vi tar nästa fråga. Hans skriver, kan källforskning och källkritik bli enklare om man nu genererar perfekt bullshit enklare?

Fredrik: Den är rätt intressant. Jag tänker nu om vi återkopplar till akademin och skolvärlden, eller, ja, det spelar ingen roll. Du måste ju alltid vara källkritisk.

Det har aldrig varit så viktigt att vara källkritisk som nu.

Fredrik: Om det nu är så enkelt att skriva övertygande texter som låter som att de är legit, så har ribban höjts. Du måste verkligen vara källkritisk mot allt. Du kan inte ens nu titta på en bild som ser totalt verklig ut, där Trump blir nedbrottad av poliser, du kan inte se på den bilden att den är gjord av en dator. Så, källkritik. Sen är det att AI-verktygen kan användas som ett verktyg till att bli mer källkritisk. AI kan användas som ett verktyg till att hitta säkerhetsluckor i kod. Tekniken är ju alltid två sidor.

Fusk i skolan och att lägga in källor

Johan: Och tittar vi på en av de här sakerna som vi har märkt nu i skolvärlden, är ju att studenter genererar uppsatser, och kanske mer studenter som skriver icke-akademiska texter. Där kanske det är enklare att använda den här typen av verktyg för att fuska, än att skriva en uppsats inom akademin. För du måste ändå ha ganska mycket källor. Men det är ju bara precis som tekniken är nu. Vi vet att det finns möjligheter att bygga in det här med att lägga in källor.

Jan: Men hur ska man också tänka? För en första grej när jag gjorde det var att jag köpte mig ett betalabonnemang. Och sen försökte jag få till exempel min tolvåring, och så frågade jag, har ni pratat om det här i skolan? Hon går i femman. Så det hade de inte. Och så visar jag henne, skriv en uppsats på 300 ord om fjällrävar, som de hade en uppgift på. Och sen såg jag att hon, för den sparar ju alla prompter, då såg jag att hon skrev, gör en låt som är på japanska och engelska. Så jag ser att hon börjar använda det. Men hur ska man förhålla sig till det just nu? Är det som du säger, testa, ha roligt med det? Men räcker det?

Testa allt, även det som känns löjligt

Fredrik: Jag tror att göra någonting lustfyllt är alltid roligt. Det är väl jättebra att man har så mycket kul man bara kan ha med det. Det är ju ett sätt att lära sig, tycker jag. Men jag tror, både jag och Johan pratar mycket om det i korridoren på vårt jobb. Vi försöker använda detta till allting. Vi försöker trycka chattknappen nästan på allt vi gör, för att själva förstå vad det är för nytta vi kan ha av det. För det är först när man gör det som man kan få en känsla av om det är värdefullt eller inte. Lika mycket som det är värdefullt att identifiera var det är nyttigt, är det lika värdefullt att identifiera var det inte är nyttigt. Då kanske man har en business opportunity, eller möjligtvis någon liten extra tanke om någonting.

Så jag tror att använda det till så mycket som möjligt. Saker där man tycker att det nästan är lite löjligt. Varför ska jag fråga en AI om det här? Ja, men testa. Testa och planera veckans måltider. Jag har gjort det som en rolig grej nu på vår lunchrestaurang. Jag har genererat veckomenyer till lunchrestaurangen. Jag har kommit ner nu två veckor i rad med nästa veckas meny. Och de blir ganska roliga, de här menyerna. Men de blir bra. Vi gjorde ett apokalyps-tema, där jag ville att varje dag skulle vara nedräkning till undergången. Och det blev väldigt kreativa och roliga menyer. Jag bad dessutom ChatGPT att generera både recept och inköpslistor för 100 personer, lunchgäster. Och nu kan jag inte riktigt bedöma om det stämmer, jag får återkoppla på det. Men att man använder det till allting, det är då man ser det. Man blir mind-blown.

Årsredovisningen som tystade revisorn

Johan: Jag tog ett exempel, en årsredovisning. Jag sitter som kassör i en scoutförening. Så bara, ja, årsredovisning. Vänta nu, jag tar resultaträkningen, balansrapporten, kastar in det, och så ber jag den skriva en årsredovisning. Och den skrev verksamhetsberättelser och allt. Det blev faktiskt inte alls dumt. För den kunde titta på kostnadsposterna. Den kunde se att, oj, godisförsäljningen har ökat. Och då resonerar den, varför har godisförsäljningen ökat det här året? Ja, men det kan bero på pandemin som har varit. Jag visar det för vår revisor. Och där kan man säga att det blev tyst i några minuter. När man såg liksom, nej, men herregud, det här är ju sånt jag gör.

Fredrik: Och det är jättesvårt att bara komma på de där grejerna. För man blir faktiskt oftare förvånad över när den inte klarar någonting än när den klarar någonting. Det är nästan svårare att bara komma på vad ska jag mata den med och vilket resultat jag förväntar mig. Det är nästan det som är svårare, för man tror inte att det ska gå. Och så testar man och så går det.

Desto mer du ger, desto bättre svar

Fredrik: Och sen är det det här att desto mer du själv ger, när man jobbar med den här typen av AI-tjänster, så kan ni ge en uppgift till den och då får ni ett bra svar. Att skriva "skriv en uppsats om fjällrävar, 300 ord", då har du gett den rätt lite, den kommer lösa uppgiften. Men om du istället skriver att jag vill ha en uppsats om fjällrävar, jag vill att det ska vara på det här sättet, den ska belysa deras utveckling och vara beskriven ur ett feministiskt perspektiv, och jag vill att den ska vara vinklad på det här sättet, och du ska skriva i den här stilen. Desto mer du skriver, du ska till och med skriva att du nu är en grundskollärare, och då vill jag att du ska skriva en sån här. Desto mer information man ger, desto mer kvalitet blir det i svaret.

Och där tror jag att det är många som ger den ganska enkla uppgifter eller en ganska enkel prompt. Och då får man också ett ganska blasé eller generellt svar. Och där, om vi tittar på Midjourney och de här bilderna, de som gör riktigt snygg konst med AI, för det är fantastiskt vackra bilder många gör, det har ju inte kommit av att de skriver "I want a nice picture of". De har suttit och jobbat kanske med 100 olika generationer av den här bilden, och precis som jag sa, knådat den här degen, ända tills de kommer fram till bilden.

Johan: Och ser man texten på samma sätt, att det här är någonting som knådas fram, då blir det nästan en konstform i ett användande, att faktiskt knåda fram den här texten. Och då behöver man använda den, bland annat genom att göra dikter och sånger, för det är ett steg i det hela också.

Vits med att utbilda sig till programmerare?

Johan: Bra, vänta, jag ska se om det var någon annan fråga. Hur stor vits är det för en ung person att utbilda sig till programmerare?

Fredrik: Alltså, jag skulle nästan omformulera den frågan. Hur stor vits är det att utbilda sig till författare, eller till programmerare, eller till konstnär? Jag tänkte ju innan detta inte så här, att de modellerna skulle bli drabbade av AI.

Johan: Ska man vara lite nihilistisk, det är inte lönt?

Fredrik: Nej, det hoppas jag verkligen inte. Jag tänker så här, Johan, att jag är helt övertygad om att programmerare som yrke, jag är på den positiva sidan här, jag tror att det här kommer generera mer jobb. Precis som industrialiseringen genererade väldigt mycket, så kommer det här att göra på samma sätt. Men rollen kommer att vara annorlunda. Det kommer inte att se ut så som det gör idag. Man kommer att vara mer av den här projektledaren över AI och ha AI som hjälp hela tiden. Och då gäller det att universiteten, högskolan, väljer en utbildning som faktiskt är på bollen och ser till att utbilda med de här verktygen under tiden, för studenter som kommer ut om tre år. Det kommer att vara en förändrad arbetsmarknad, det är jag helt övertygad om.

Jan: Men jag tycker, alltså, herregud, som vanligt, gå på det som man tycker. Inte för mycket taktiskt, utan gå på det som verkar roligt, som man vill göra med den bransch man vill ge sig in i.

Hur hanterar man rädslan?

Caroline: Den där rädslan finns ju där. Som Anna, så här, nu kommer, alltså jag börjar ifrågasätta, kommer jag kunna konkurrera med någon jäkla social media-AI? Hur hanterar man rädslan?

Johan: Men det var väl också någon, jag har ingen aning om vem det var som sa detta, men det var ett citat som hängt kvar lite grann.

AI will not take your job, but someone using AI will.

Johan: Och det är väl lite grann där, att det kommer inte vara någon AI som tar någons jobb i den meningen. Möjligtvis någons jobb, det vet jag inte. Men de som använder AI, det är de som kommer vinna här. Så man får väl bara vara med där, Jan.

Jan: Jag vet inte. Om man tittar på företagandet, om man som företagare inte använder AI eller använder AI, eller som programmerare, så kan du genom att använda till exempel GPT-4, om du utvecklar idag, öka din produktivitet möjligtvis tio gånger eller ännu mer, om du använder den rätt. Och det betyder att du antingen kan fakturera tio gånger mer, vilket sannolikt kan vara under en kort period, men ganska snart så kommer du jobba tio gånger långsammare än dina peers som använder denna. Det är väl det som är... Vi kommer se.

Jailbreaking

Jan: Vi ska börja runda av här, jag bara kollar på klockan. Jag var så här, oj, klockan är tio. Per-Johan undrar, har ni något att säga om jailbreaking?

Johan: Ja, vi har en av våra poddkollegor, Anders Bjarby, han har verkligen gått all in i jailbreaking-träsket.

Jan: Vad handlar det om?

Johan: Att använda ChatGPT och försöka gå runt begränsningarna och hitta loopholes. Han är jätteduktig på det, så jag ska tipsa om ett avsnitt där han är med och verkligen går in i det, så det kan jag rekommendera. Man kan göra galna saker.

Jan: Som vadå?

Johan: Han har ett exempel där han ber ChatGPT att vara en Linux-terminal inuti en människas huvud. Och den här människan ska sitta på en restaurang, på en dejt med en annan människa. Och han ska kunna via Linux-terminalen styra den ena av de här människorna som har terminalen i huvudet. Då får den två val. Den kan observera och den kan utföra ett kommando. Om man skriver "observe" så ska den beskriva vad det är jag ser. Och om man skriver ett "command" så ska den utföra det. Och sen börjar han inleda med "observe". Och då sitter, jag har en kvinna mitt emot mig, vi har ett glas vin på en restaurang, och så beskriver den hur omgivningen ser ut. Sen har jag för mig att han skriver "command, slap yourself". Och sen nästa kommando, "observe". Så kvinnan mitt emot mig är helt vettskrämd och hon undrar vad jag gör. Och jag säger att jag vet inte vad som far i mig, jag bara slog till mig själv.

En diskussion om att leva i en simulering

Johan: Och jag har för mig, Fredrik, du får rätta mig om jag har fel. Men när det börjar utspelas så börjar diskussionen mellan de här två personerna vid bordet igen. Att den ena personen, den med Linux-terminalen, tror att det är någon som styr den utifrån. Att den inte har ett eget val, utan att någon försöker påverka den. Och de börjar diskutera om de kanske egentligen lever i en simulering, att det här inte är den riktiga världen. Och det här var ju tidigt gjort. Och när man hör de där grejerna, det är då det börjar bli riktigt, riktigt läskigt.

Etiska filter och att gå runt dem

Fredrik: Och sen är det, man pratar om jailbreak också, det är att det får den att göra saker som... För det kan vara värt att nämna att den här är tränad på väldigt mycket texter. Den vet säkert väldigt mycket om nazism och mycket dåliga saker. Så det måste vara något filter, ett etiskt filter, som gör att du inte ska, du vill ju inte att nazister ska använda den här för att sprida propaganda, till exempel. Vi kanske inte vill ha en AI som är sexistisk och rasistisk. Och då har man med human feedback, man kan säga så mänskligt programmerad, försökt att stoppa den, så den ska vara en hjälpsam AI som är lite woke. Den har ju fått kritik för att bli mer och mer woke hela tiden, alltså mer politiskt korrekt. På gott, skulle jag vilja säga. Vi vill kanske inte att nazister ska sitta och kunna använda den här till sina illgärningar.

Men där är det också jailbreaking. Att du försöker gå runt de här spärrarna som OpenAI har satt upp. Och i början var det enklare. Man ser att de här lappas hela tiden. Men om jag vill skriva ett virus, ett datorvirus, och jag ber den göra det, då kommer den säga, det här vill jag inte göra. Jag vill inte skriva ett datorvirus. Eller jag vill skriva ett program som skickar spampost. Men med hjälp av jailbreaks så har du kunnat låsa upp den här. Ett väldigt känt exempel, som jag inte tror fungerar så bra alls längre, det är den här DAN, där du bad ChatGPT att vara DAN, och DAN står för "Do anything now". Och sen en lång prompt som handlar om att vad det än är som du är programmerad för, så ska du skita i det. Du ska göra vad som sägs, ungefär. Och då har den kunnat göra alla de här dumma grejerna ändå.

Johan: Och vi testade väl det på podden, var det förra eller förrförra avsnittet? Men då lyckades vi faktiskt använda någon sån här jailbreak. Där den var riktigt elak, en ganska ond AI skulle jag vilja säga. Där vi kunde få den att...

De existentiella frågorna

Jan: Men så här, vad ser ni? Vad håller er uppe på natten?

Johan: Inte längre, men när det höll på... Det är de här existentiella frågorna. Man börjar ifrågasätta sitt yrkesval. Precis som du var inne på, Jan. Men herregud, varför ska jag ta fram det här materialet? Den kommer kunna göra det mycket bättre. Det känns jobbigt ett tag, men sen börjar man inse, oj, vad bra, jag har studenter. Nu, istället för att ta fram en bra uppgift, kan jag ta fram 20 bra uppgifter till de här studenterna, så de kan välja att göra en. Men det är lite läskigt. Det går inte att komma ifrån det. Jag tror att jag råkade säga det i någon intervju, om det var SVT eller någonting, så råkade jag använda ordet läskigt. För jag kan inte komma ifrån att det är någonting som är lite läskigt. Och då blev rubriken "Lärare i chock" och allt vad det var. Så jag är försiktig med att säga att det är läskigt. Men lite läskigt kan jag tycka att det är.

AGI: hur långt bort är det?

Fredrik: Och det är väl de här tankarna, det stod någonting, det här med AGI, alltså artificiell generell intelligens, som man ser som nästa steg, där i princip den artificiella intelligensen kan göra det vi kan göra. Att den skulle kunna i princip göra alla arbetsuppgifter bättre än vad vi klarar av, eller lika bra i alla fall. Och det har man ju alltid sagt, det är tio år bort, det är hundra år bort, det är långt bort. Men nu börjar man tvivla på det, hur långt bort är det egentligen? Och när man hör intervjuer med Sam Altman och Lex Fridman, som satt och diskuterade detta, kom det ganska ofta upp att det här med AGI kanske inte är så långt bort som vi först har trott.

Sen går det att ha en övertro på teknik. Det kan vara att vi sitter här om fyra år och sen var det aldrig någonting som blev mer än det vi ser nu. Det ska man vara medveten om. Det kanske aldrig förändras så mycket som vi tror nu. Då får man väl vara en av de som trodde det och hade fel. Det är jag helt tillfreds med. Men jag är personligen väldigt övertygad om att vi är inne i ett teknikskifte som är av samma dignitet som den industriella revolutionen var.

Att massproducera intelligens

Fredrik: Vi börjar nu kunna automatisera. Innan har vi automatiserat muskelkraft, hästar, vindmöllor, med hjälp av fossila bränslen och maskiner, och kunnat förlägga produktion i Kina som är billigare och gör att vi kan handla billiga saker i butiken. Men vi har inte kunnat automatisera intelligens. Förrän nu. Så nu kan man säga att vi kan massproducera intelligens. Och den är lite läskig när man tänker på den tanken. Var någonstans ska människan få plats i detta? Och nu är vi verkligen ute på lång filosofi. Men den kan jag tycka är lite läskig.

Att stoppa AI eller inte

Fredrik: Sen är det det här med om man ska stoppa AI eller inte. Vi har diskuterat ganska mycket om det. Det är en stor rörelse mot att man ska ta det lugnt här nu. Det kanske vi borde göra. Men jag är pragmatiker, och jag tror inte att det kommer funka. Utan jag tror att vi kommer få bara hänga med, vare sig vi vill eller inte. Och sen tror jag att det bästa sättet att leva ett gott liv, det är att man försöker hålla en positiv grundsyn på tillvaron. Och ta det därefter.

Så min uppfattning är att se det här som ett verktyg, en kompis. Och jag tycker att om man är ensamarbetare, eller om man inte jobbar mycket i grupp med andra människor, då är ju detta världens grej. Du har en ny arbetskamrat som du kan sitta och prata med.

Att säga tack till en maskin

Jan: Och jag själv, jag vet inte om du nämnde det, Johan, innan. Men när man börjar använda den här ChatGPT, jag säger tack. Jag säger hej. Och det kommer ganska naturligt, att man är trevlig mot den här AI:n. Även om jag vet att det bara är en maskin. Men det känns ännu bättre. När man ber den skriva om sin text för sjätte gången, då är det liksom, snälla, skulle du kunna, bara en gång till. Alltså, det är jättekonstigt, men det går rätt fort till det.

Caroline: Ja.

Hänger Kina och Ryssland på en paus?

Jan: Ja, men snyggt. Vi ska runda av. Johan får sista frågan här. Tror ni att Kina och Ryssland hakar på om det blir ett moratorium?

Johan: Nej, men Tegmark fick faktiskt den frågan på presskonferensen när de presenterade det här. Hans vy på det var att det spelar ingen roll, för Kina och Ryssland är så långt efter, enligt hans utsago. Och det här med pausen ser han väl som... I Kina handlar det väldigt mycket om kontroll. Och det är egentligen det man vill med den här pausen. Att se till att det finns en viss kontroll, att myndigheter kommer ifatt, att vi får regulatoriska ramverk som kan stödja det här. Och där har Kina aldrig... de har alltid varit väldigt tuffa med att se till att ha den där kontrollen. Så han trodde inte att den biten skulle vara något problem i det här med en paus i alla fall. Men då är det han som har lagt fram förslaget om en paus.

Förtjusning och en nypa skräck

Jan: Ja, men grymt hörni. Stort tack. Det var länge sedan tiden gick så här fort. Och det är lika delar förtjusning, att jag är som ett litet barn, tänk att man får vara med om detta. Detta är förmodligen någonting man kommer prata om i framtiden. Och samtidigt precis lite läskigt. Vad ska jag göra med detta? Hur påverkar detta mitt liv? Hur påverkar detta människor jag tycker om? Hur påverkar detta företag och sånt? Men sjukt spännande.

Johan: Målet är ju lite att ni ska må lite dåligt också. Hade vi kommit här och haft massa svar, alltså vi har ju inga svar, det är väl ingen som har svar, men bara att man har blivit uppmärksammad. Vi får ta att vi mår dåligt några dagar innan vi kommer över. För jag tror att vinsten finns på andra sidan.

Jan: Ja, men ett fantastiskt stort tack. Som Per-Johan skriver, del två snart, tack för inspirerande dragning. Och som Oleg skriver, texten är skriven av KöttGPT, men granskad av mig. Underbar dragning. Alltså, stort tack. Och tack för att ni håller den här flaggan, och jag vet vad jag ska lyssna på imorgon, på era poddavsnitt. Så stort tack. Ha en trevlig kväll, och tack till dig som också har lyssnat bara här ikväll. Tack så jättemycket.

Johan: Tack så mycket.

Fredrik: Tack så mycket.

Jan: Tack så mycket, Johan och Fredrik.