Du menar nog Idiocracy (videocracy är en helt annan film så kan vara orsaken att AI inte ger förväntat svar) 
2 gillningar
Ja, det har du helt rätt i, har tydligen blandat ihop namnen genom åren.
Det är alltså denna filmen jag tänker på:
2 gillningar
Till vilket pris? Nvidia säljer spadar i en guldrusch, bra situation för dem…
Har det hänt så mycket de senaste 6-12 månaderna annat än att hypen helt plötsligt hamnat i mediernas rampljus? Jag är inte särskilt imponerad av ChatGPT och Stable Diffusion, om man säger så. Det är inget nytt, typ samma saker fanns för flera år sen men sämre. Transformers är ju nya men det är inget jätteframsteg direkt, den stora skillnaden är att man bara kastat enorma mängder hårdvara på problemet, och man bör ha i åtanke att detta gjordes under perioden med minusränta. Som jag ser det är det här fortfarande mest en gimmick. ChatGPT är väl bra om man vill få hjälp med att skriva ett välformulerat klagomål till ett flygbolag eller nåt sånt? Går ju inte att använda till nåt verkligt produktivt, den industriella tillämpningen verkar ju mest vara att generera spam (är ju nästan omöjligt att googla efter nåt som har med någon konsumentprodukt att göra längre, det är bara AI-genererad affiliatelänkspam sida upp och sida ner). Det märks snabbt väldigt tydligt att texten är AI-genererad om man försöker få den att skriva nåt användbart och man måste hela tiden vakta på att den inte spottar ur sig rena rappakaljan. Stable Diffusion har fortfarande inte fattat att händer har fyra fingrar och en tumme.
Det är väl bortåt tio år sen Musk med flera började hypa självkörande bilar och jag kan bara konstatera att vi stått och stampat på ungefär samma ställe i flera år nu: det “typ funkar” men de sista 10% med hela tiden nya situationer kommer man ingenvart med. Det är inte så konstigt, för neurala nätverk kan rent principiellt inte hantera nya situationer utanför träningsdatan. Ber man dem göra det så blir resultatet helt oförutsägbart, vilket bland annat yttrar sig som “hallucinationer”. Det är ständigt samma sak med neurala nätverk, det är “nästan bra”, men aldrig mer än så.
Jag arbetar själv som programmerare på ett tech-bolag och kan ju säga såhär att vi har inga som helst planer på att göra nåt med “AI”. Ingen av mina kollegor använder AI-verktyg till nåt annat än lek. Har inte heller sett nåt om AI på våra innovationsdagar där folk får labba runt med vad de vill. Det är helt enkelt inte särskilt intressant. Vissa tillämpningar är väldigt bra och det finns problemområden som man inte kommer åt med andra metoder, men ofta är resultatet alldeles för instabilt för att vara riktigt användbart, för att inte tala om hur resurskrävande det är jämfört med mer konventionella lösningar.
Min egna första kontakt med neurala nätverk var tillämpningar för bilduppskalning nån gång i slutet av 00-talet, och även om det hänt en del sen dess så tycker jag det går förhållandevis trögt. Om något så tycker jag snarare att man dragit neurala nätverk till absurditetens gräns och visat att även om man gör dem rent astronomiskt stora och mer komplexa än någonsin så har de samma begränsningar de alltid haft. Har svårt att se att vi kommer särskilt mycket längre på det här spåret.
I allmänhet brukar jag bli mer skeptisk till grejer ju mer hypade de är i Silicon Valley. Branschen är ju bara helt fullpackad med skojare. Ibland slår det väl fel, men inte så ofta.
4 gillningar
Jag betraktar AI-hypen med ett stort leende eftersom datavetenskap är mitt yrke och jag dessutom är gammal nog att ha varit med om den första vågen av forskning om neurala nät och den stora internethajpen i slutet av 1900-talet. Redan då fanns det pajasar som Max Tegmark som suktade efter uppmärksamhet och de vettiga rösterna hade svårt att göra sig hörda.
Visst finns det tillämpningar för stora språkmodeller, men man måste förstå deras begränsningar för att kunna använda dem på ett bra sätt. ACM-artikeln av Edlyn Levine som @anon47638710 länkar till här ovan (och som bara tre personer har klickat på hittills) ger en god och realistisk beskrivning av var AI befinner sig och vilka begränsningar som är svåra att ta sig förbi i framtiden. Men den är ju inte så lätt att läsa… Det är mycket lättare att lyssna på en demagog som Max Tegmark och tro att det är en rimlig verklighetsbeskrivning.
2 gillningar
Att Nvidia toner mycket pengar på hårdvara är väl inte en motsats till att det blir bättre med tiden, eller?
Ett lång och bra svar, låt mig gå in på några saker för vi har totalt olika åsikter.
Jag skulle säga att Transformers är hela grunden till den senaste AI utvecklingen. Det är orsaken till att vi har fått så bra AI som vi har idag. En enorm sak är hur enkelt det är parallell träning, som inte får underskattas.
Jag skulle säga att mycket har hänt, förutom just att det blivit mer omtalat. Några exempel enligt mig.
- Modeller som gpt-4, Claude och palm-2 är betydligt kraftfullare och bättre än de vi hade för 1 år sedan.
- Vi kan generera betydligt bättre bilder och grafik från AI-modeller idag än för bara 6 till 12 månader sedan.
- AI kan programmera betala bättre idag än för 1 år sedan.
Jag har en fråga, om du nu inte verkar tro att AI kommer slå stort inom de närmaste åren, viken av de två följande påståendena stämmer inte?
- Gpt-4 kan programmera betydligt bättre än gpt-2.
- Om utvecklingen fortsätter så kommer gpt-6 kunna programmera betydligt bättre än gpt-4.
Om bägge dessa är sanna, som jag tror, så är frågan om det finns något som inte GPT-6 inte kommer kunna programmera? Gpt-2 kan inte få till en for-loop att funka, gpt-4 kan få en enkel hemsida eller metod att funka bra. Om utvecklingen fortsätter i samma takt borde gpt-6 kunna bygga ett större och avancerat program som funkar. Gpt-7 eller gpt-8 borde nog kunna bygga ett operativsystem eller motsvarande. Om det inte finns någon rimlig anledning att tro att gpt-4 är gränsen för hur långt vi kommer nå med Transformers.
2 gillningar
Kom nyss på att jag nyligen läste denna, som jag tycker går igenom varför det är rimligt att anta att AI kommer bli bättre över tid och vi inte har nått peak AI.
Under hela mikroprocessorns historia så har man hela tiden fått mer och mer hårdvara för pengarna, och det har gått rejält fort. För ungefär 15 år sen när jag började tjäna riktiga pengar så köpte jag en riktigt häftig processor till min speldator, en Intel Core2 Quad 6600. Vill minnas att den kostade omkring 2500 kr. Mycket pengar var det i alla fall. Nästan ända fram tills idag har det varit ungefär samma pris för processorer i motsvarande marknadssegment, men de har hela tiden blivit snabbare i rask takt; dagens motsvarigheter är naturligtvis många gånger kraftfullare än min sedan länge pensionerade trotjänare. Men nu börjar denna trend brytas och den är redan bruten för grafikkort. Nvidia:s nya serie av gaming-kort har inte längre bättre pris/prestanda-förhållande än förra generationen. Man kan få bättre prestanda men då får man betala betydligt mer och det drar mer ström än förra generationen. Detta är stort, branschen har vant sig vid att dålig prestanda löser sig själv efter ett par år när hårdvaran blir bättre till samma pris. Det kan man inte räkna med längre.
Den här inställningen är ganska vanlig och man ser den exempelvis hos robotforskare. Eftersom vi ännu inte kunnat bygga en robot som går naturligt eller klarar en så enkel uppgift som att fylla diskmaskinen utan att glasen går sönder behöver vi inte oroa oss för AI-apokalyps.
Underförstått i resonemanget är antagandet att det kommer att ta lång tid från att dessa mål uppnåtts till dess att utgör en risk. Vi kan lugnt vänta tills vi har AI som kan köra bil och robotar som kan fylla diskmasinen, innan vi diskuterar AI-reglering och möjliga internationella samarbeten för att begränsa riskerna.
Jag tror det är gravt felaktigt och en närmast vårdslös inställning. Att AI ligger efter på desa områden beror på att vi inte har enorma datamängder på bilkörning eller packning av diskmaskiner, till skillnad från exempelvis litteratur om biokemi eller programmering.
Det är fullt möjligt att en AI uppnår övermänsklig förmåga i ett flertal områden, inklusive programmering och datorsäkerhet, innan det här uppgifterna löses. Sannolikt kommer en AI klara att köra bil innan vi uppnår äkta artificiell generell intelligens (AGI), men hur lång tid kommer det att ta mellan dessa steg? Det skulle kunna handla om så lite som månader, och därifrån kan steget vara kort till superintelligens.
Att ta fram och implementera reglering samt etablera internationella avtal och kontrollmekanismer tar lång tid, troligen flera år. Jag tycker därför vi bör börja redan nu så vi hinner tänka igenom frågorna och få ett ändamålsenligt ramverk på plats innan det behövs.
Som du kanske redan förstått tycker jag denna fatalistiska inställning är olycklig. Framtiden är vad vi gör den till. Istället för att passivt hoppas samt vänta och se kan var och en av oss bidra till att uppmärksamma AI-risker och uppmana våra politiker att ta upp frågan till diskussion.
2 gillningar
Håller med! Det är dock dumt att gå runt och vara orolig för allt som kan gå fel. Enligt min världsbild är AI inte det största hotet. Allt väl.
Max Tegmark tar upp detta i sitt sommarprat. Dagens AI, som ChatGPT och Bard, är närmast att likna vid orakel och sannolikt ofarliga. AI kan dock utformas som agenter med egna mål. För att AI framgångsrikt ska kunna leda ett företag är det exempelvis en fördel - eller rent av nödvändigt - att den förses med målet att öka företagets vinst. Idag finns inga regler som förhindrar utveckligen av stark AI med egna mål och drivkrafter.
Det här är det första scenariot Max nämner: illvillig användning. Även om AI i sig inte skulle ha någon egen vilja kan en superintelligent AI användas av en illvillig person för att decimera eller utrota mänskligheten. I programmet nämnde Max möjligheten att AI:n används av en psykopat för att fram datafiler med den genetiska koden för ett flertal hittills okända supervirus. Dessa kan sedan laddas upp till företag som producerar virus på beställning och släppas ut i befolkningen.
Som Max säger i programmet: hotet består inte i att AI:n skulle vara illvillig eller ondskefull. Det består endast av att den är kompetent.
2 gillningar
Det var ett underhållande program med mycket tänkvärt. Heder åt folk som går all in 
Max nämnde i förbifarten AGI, artificiell generell intelligens, vilket då är en förutsättning för domedagsscenarier. Det existerar inte i dag.
Max nämde även sin svenska forskarkollega Nick Brostrom. Är man orolig för AI så är det lite next level. Är verkligheten en simulering?https://www.simulation-argument.com/
Ärligt talat är AI den största hotet som finns, och då är jag fullt medveten om att inflationen och klimatet också är viktiga frågor. Vi är mycket nära en katastrofal, exponentiell utveckling. Mängder av de ledande företagsledarna själva (inklusive Google Deepmind och OpenAI/ChatGPT) går ut och varnar för riskerna med sin egen produkt!! Har det nånsin hänt i förut världshistorien? AI är inte “vilken uppfinning som helst” och vi måste passa oss för att implementera AI i samhället redan nu så att vi inte gör oss beroende av något vi inom kort inte kan kontrollera. För den intresserade finns här en debatt (90 min) mellan just Tegmark och andra i branschen där det blir övertydligt hur rätt Tegmark har även när han debatterar mot andra inom AI. https://www.youtube.com/watch?v=144uOfr4SYA
Stäng ned när vi fortfarande har chansen!
2 gillningar
Är din åsikt att vi inte bör forska mer inom detta område alls, eller att vi ska sänka tempot och gå framåt med försiktighet?
Låter alla skapa sig sin egna uppfattning, men ja: Riskerna är för stora tyvärr. För att citera Elon Musk: Mark my words, AI is far more dangerous than nukes. Far.
Sen behöver vi som samhälle forska kring AI-säkerhet för att upptäcka om Ryssland eller andra aktörer trots ett förbud skulle gå framåt inom området. Hur ett sådant upplägg skulle kunna se ut kan jag inte svara på.
För den som är orolig. Kommer ni ihåg när CERN drog igång sin Large Hadron Collider? Bara för att ge lite perspektiv.
2 gillningar
Jovisst, men det handlade om en liten grupp marginaliserade forskare. CERN själva såg aldrig några problem. Det står i stark kontrast med AI-utvecklingen där företrädare för de ledande AI-företagen, inklusive Sam Altman som leder OpenAI, öppet kommunicerat att ansträngningar för att minska risken för utrotning från AI bör vara en global prioritet jämsides med andra samhällsrisker såsom pandemier och kärnvapenkrig.
3 gillningar
Varför håller de själva på med det då om det nu är så farligt?
Anledningen till att de hojtar så mycket om reglering är att de inte vill ha konkurrens. De vill inte förbjuda AI, de vill att bara särskilt ansvarstagande företag med rätt expertis (läs: de själva) ska få hålla på med det. Det är klassisk amerikansk s.k. regulatory capture som vi ser är på gång, de försöker manövrera så att de får specialbeställa lagar som ger dem en särställning. De som ligger efter (t.ex. Musk) är mer högljudda om att pausa nu genast så de har nån chans att hinna ikapp. Alla vill vara med i uppgången av bubblan och tror att de ska kunna hoppa av innan det spricker.
Det finns många problem med AI, inte minst att det håller på att göra hela internet sämre i rask takt, det är AI-genererad nonsens överallt, men de faktiska problemen är helt väsensskilda från de Skynet-scenarier folk verkar föreställa sig. Någon risk för sådant existerar överhuvudtaget inte inom överskådlig framtid, oavsett vad Tegmark fantiserar om.
3 gillningar
Jag tycker du har en poäng i att kommersiella intressen kanske ligger bakom i kraven om paus och styrning, men
är en mycket farlig väg att gå, enligt hur jag ser på det. Olika scenarios och risker med AI måste, och jag menar verkligen måste, tas i beaktande redan nu!
Se bara på vår egen regering som ständigt uttalar sig i media “Vi såg det inte komma…” trots att experter påtalat risken långt innan men där man valt att inte gå vidare överhuvud taget. Där vill jag verkligen inte hamna.
2 gillningar
Om det är 95% chans att vi alla blir miljardärer och 5% att vi alla dör, är det värt att chansa? Jag tror nog att det finns minst någon på jorden som är beredd att köra vidare med de oddsen, även om det finns några miljonärer i Sverige som tycker risken är för stor.
Sen tycker jag det vore praktiskt om vi redan idag började jobba på att minska risken från 5% till 1%.
Det är inte riktigt vad jag tycker mig höra att de säger. De har flera gånger sagt att mindre modeller som start-ups bygger borde inte regleras. Men sen finns det säkert exempel där de försöker med detta, du kanske kan länka till något? 
Finns en teori om från en fransk forskare att om alla länder hade haft 1 kärnvapen var så hade det inte funnits några krig. För rädslan av ett kärnvapenkrig som skapar förintelse. Tror länder med kärnvapen aldrig varit i direkt konflikt med varandra i krig.
Intressant tanke
1 gillning