Är det dags för ännu ett stort hopp i BNP till följd av AGI?

https://youtube.com/c/KárolyZsolnai

Bra kanal för current state of AI.

Det är lätt att bli förförd av flashiga AI-demos som Dall•E och tänka att ”nu är AGI runt hörnet”, men det är en tankefälla inte helt olik den när man visar ett tomt skal av ett app för ledningen och de tycker att den 90% klar, de kan ju tydligt se den.

Vi är inte i närheten av AGI. Våra barnbarn kanske kommer vara det, men jag är skeptisk.

En mer realistisk fråga är vad som kommer hända med ekonomin när vi har gratis el via fusion.

Absolut. Som jag antydde i min senare post så finns det förmodligen många områden där man skulle kunna göra stora effektivitetsvinster även med ganska korkade robotar.

För egen del så har jag mest kommit i kontakt med AI-hypen via automatiserad textklassificering av olika slag. Tänkt typ sortera dokument efter olika kriterier. Och där har träffsäkerheten ofta helt enkelt varit för dålig för att möta våra mål.

Här håller jag inte med dig, det finns många olika arbetsuppgifter idag för människor kanske lyckas 80-90% av tillfällena, varför inte ersätta detta med en AI som lyckas i 85-95% av tillfällena på en kortare tid och betydligt billigare?

Vad är din definition av AGI? Jag har tänkt mig en AI som kan genomföra många olika uppgifter, och det har vi redan. Men du kanske menar något annat.

Det är nog mycket detta som gör att folk är skeptiska till att AI är på gång. Man tänker dig att det ska ske nu, utan att tänka på att 10 år är väldigt kort tid. Om någon tror att AGI på samma nivå som en människa är 2 år bort så tror jag att de är överoptimistiska. Jag tittar mer på 10-20 års sikt, och det är nog mer på den horisonten man ska titta.

Från Wikipedia:

Artificial general intelligence ( AGI ) is the ability of an intelligent agent to understand or learn any intellectual task that a human beingcan.

Nej, det har vi inte. Vi har en massa neurala nätverk som var och en kan göra en uppgift som den har tränats för. Du kan inte be Dall•E att skriva en text eller be Teslas ”””Autopilot”””(lmao) att tolka din röst.

1 gillning

Okej, med denna definition så har vi inte AGI än. Jag tänkte mig att allt som inte var ANI är AGI, men då finns det ju saker däremellan. Om man gjorde en AI som kan allt en schimpans kan, det skulle jag inte säga var en ANI men uppenbarligen inte en AGI enligt definitionen. Vad skulle du kalla en sådan AI?

Edit
Finns det inte till och med människor som inte uppfyller detta kriterium? :thinking:

Det är väl precis det Gato är, ett nätverk som kan göra omkring 600 olika typer av uppgifter. Gato består inte av 600 olika nätverk och en kod som väljer vilket att köra beroende på uppgiften, alla noder är med i varje beslut i alla 600 uppgifterna.

Vi kan lämna definitionsfrågorna därhän och ponera att vi kommer få sann AGI inom vår livstid. Det skulle innebära att i princip hela tjänstemannaklassen blir överflödig och kommer att kräva en lika stor samhällsomställning som när vi gick från att vara ett bondesamhälle till industrisamhälle.

Det är precis det jag tror vi kommer få under de närmaste 30 åren. (Min killgissning nu är att AGI på mänsklig nivå uppnår vi kring 2030 och sen tar det 20 år att rulla ut i världen.)

Och utifrån antagandet att det kommer komma hyfsat snart så skrev jag min fråga. Hur ser ekonomin ut i det nya samhället?

Jag är definitivt en vän av att rationalisera bort så mycket low-skill labor som vi kan. Jag reser rätt mycket till USA och slås alltid av hur många meningslösa yrken dom medvetet har bevarat mest bara för att fixa jobb åt folk. Tänkt typ tjocka damer som sitter intryckta i ett litet bås och delar ut parkeringsbiljetter i stället för att bara ha en liten låda som sköter samma funktion minst lika bra (förmodligen bättre).

Det finns också redan nu intressanta appliceringar av t.ex. robotjurister som kan sköta uppgifter motsvarande en lågbetald assistent ungefär.

Jag är dock inte lika optimistisk för hur långt vi kan ta det idag. Robotar kan fungera utmärkt i situationer där man har rigida och tydliga regelsystem. Tänkt typ alla schackrobotar och dylika appliceringar som folk brukar bli så imponerade av. Ett stort problem är dock t.ex. att användarna av systemen, till skillnad från roboten, inte alltid följer reglerna som man ställer upp. I de appliceringar jag har varit med i så har den stora utmaningen nästan alltid handlat om hur man ska lära roboten upptäcka och hantera alla möjliga undantag som oundvikligen kommer dyka upp under resans gång, och i de sämsta fallen så har det tagit så mycket tid och resurser att man lika gärna bara kunde ha anställt en lågavlönad assistent för att göra jobbet manuellt från dag 1.

Problemet här är att din killgissning är helt fel och bygger på missförstånd om vad AGI är, var AI-forskningen står idag och hur system som Gato fungerar. Du kan lika gärna fråga “nu när alla får personliga teleporteringsarmband inom några år, hur kommer BNP att påverkas?”.

Jag läste nyligen att vi redan idag skulle kunna automatisera bort runt hälften av alla jobb, utan att göra några nya upptäckter. Så med bättre AI lär detta fortsätta, det kommer ta tid och vilja att ersätta människor med maskiner.

Jag tänker mig att det är därför många yrken inte kommer ersättas initialt, utan det kommer uppstå en symbios bland de som jobbar med AI. Istället för att AI ersätter jurister så kommer bra jurister vara de som har en AI som gör en del av jobbet. (Och därigenom ersätta behovet av att ha lika stora team av jurister.)

Så kan vara fallet, men då kanske du kan förklara eller hänvisa mig till ett ställe där jag kan lära mig om vad AGI egentligen är och hur det fungerar :slightly_smiling_face:

Den här boken har en del brister, men ger en bra bild av varför dagens AI-system inte är nära AGI: Rebooting AI - Gary Marcus, Ernest Davis - häftad (9780525566045) | Adlibris Bokhandel

Finns det någon som skriver om automatisering och sånt som försökt uppskatta hur mycket kapital som behövs för att automatisera bort så många jobb? Alltså, om man accepterar rakt av att hälften av jobben i Sverige skulle kunna utföras bättre av maskiner, och att 10% av alla inkomster i landet (ca. 500 miljarder) sparas och investeras i just automatiseringen och det som behövs runt om, för att det ger överlägset bäst avkastning på sikt i detta hypotetiska scenario, skulle det ta 1, 10 eller 100 år innan maskinerna är på plats?

Nix, jag har inte hört att någon har uppskattat hur mycket det skulle kosta. Men jag har hört fler som har gett uppskattningar om när det ska ske. (Men när det sker beror väldigt mycket på hur mycket resurser man lägger på det.) Här kan du läsa lite mer om det.

Som du ser i första så gäller det bara kring 35% av jobben i Sverige, vissa länder har det betydligt jobbigare.

Sen tvivlar jag på att det blir så att samhället blir utan jobb bara för att vissa automatiseras. Jag jobbar som systemutvecklare och jag har själv skrivit program och system för att få bort arbetsuppgifter som anställda gjort. Men den bygger man en tjänst och helt plötsligt har man skapat ett nytt jobb för att administrera det :upside_down_face: (frågan är dock om alla som blir av med sina nuvarande arbetsuppgifter kan utföra de nya som skapas.)

Hur AI eventuellt kan göra det är genom en “duplikator”.

Efter jag lagt lite tid att gå igenom hur vi står på väg mot AGI så kan jag nog säga att det råder lite delade meningar om hur långt kvar vi har. Låt mig ta upp det jag har kommit fram till.

1, Det räcker inte att bara skala upp dagens system för att skapa AGI.

Detta är ett påstående utan några bevis, det är en hypotes. För att motbevisa detta krävs att man bygger en större modell som inte blir smartare. Jag skulle också påstå att det är ganska mycket vad som har skett i biologin, djur med större hjärna blir smartare. Vi har inte några unika hjärnceller.

2, Det kommer alltid en AI-vinter efter en AI-vår.

Så här det varit historiskt, och kan bli igen. Men det som skiljer nu är att de modeller vi bygger idag är lönsamma. Och just nu tjänar företag pengar på att bygga bättre AI. Så länge mer pengar skapar bättre AI, som leder till mer pengar, som leder till bättre AI så kommer karusellen fortsätta.

3, AI är bara specialiserade på en uppgift och kan inte göra generella uppgifter.

Delvis sant, men delvis också falskt. De senaste åren har det kommit så kallade multi-task AI. De är inte än generella, men troligen ett steg mellan ANI och AGI. Dessutom är det precis så det fungerar inom biologin. De flesta djur har en hjärna som kan göra specifika uppgifter, men inte lära sig alla uppgifter. Men trots det så ser vi ökad multi-task-förmåga med större hjärna.

4, utvecklingen i AI går så långsamt att det kommer ta enormt lång tid att nå AGI.

Jag tycker det händer mycket. I våras så kom det 2 nya modeller i veckan. Man har redan börjat med att använda AI för att skapa bättre data att träna AI. Det är första steget för att påskynda skapandet av allt bör AI. I takt med att AI för allt fler delar av förbättringen av AI så kommer utvecklingen bara gå fortare och fortare. PaLM lyckades nyligen komma på 54% plats i ett test på att programmera. När kan vi ha en ANI som programmerare nästa generations AI?

5, det tar tid att bygga bättre datorer.

Det bästa argumentet jag har hört bland alla de jag har hittat. Vi har brist på halvledare och Kinas hot runt Taiwan gör inte saken bättre. I nuvarande takt får vi nog förlita oss på Moore’s lag, och då behöver vi 8 stycken dubblingar (16år) innan antalet parametrar går att jämföra men en människas synapser.

Min slutsats är att AGI inte är mycket mer än ett decennium bort.

Följdfråga, finns det någon fond som investerar i AI-företag?

Jepp, Länsförsäkringar global indexnära :wink: det är svårt att veta vilket/boka bolag som lyckas bra med deras AI så nog bäst att köpa ett gäng bolag. Personligen tvivlar jag på små bolag kommer lyckas bra med detta, jag hade nog satsat på Google, Microsoft, Tesla, Amazon osv.

1 gillning

Jo det är ju klart, jag tänkte nog mer på fonder som är helt inriktade på AI. Som det fans internetfonder under IT-bubblan. Jag hade en sådan som tripplade pengarna på under 12 mån.