Vilken dyster tråd. Inget för någon med dålig mental hälsa… 
Själv känner jag bara optimism kring AI. Tror någonstans på människor och det vi tillsammans kan reglera vissa saker. Med destruktiv AI borde det även bli aktuellt med AI som kan försvara eller neutralisera, eller? Vi får se, helt enkelt, men jag är positiv.
Ser också främst positivt på AI. Från ett investeringsperspektiv är detta nästa revolution som vi väntat på vilket kommer att ge otroliga effektivitetsvinster i världen och därmed tillväxt.
Vidare blir jag alltid skeptisk när jag läser om att “AI kommer att förinta oss”. Detta är nog sprunget ur terminator men som jag förstått det inte har någon bäring i verkligheten.
Det man missar är att AI inte har någon egen vilja utan kräver input från en människa.
Det är samma sak som vapen eller kärnvapen. De är inte skadliga i sig men kan självklart vara väldigt skadliga i händerna på fel personer.
1 gillning
Han sa också att de har försökt att komma på hur i 10 år och det stämmer nog. Det har nog varit ett aktivt forskningsområde längre än så. Tyvärr tror jag inte att det går för en mindre intelligent agent att kontrollera en smartare. Det är ett olösligt problem.
Tegmark varnar för att mänskligheten skapar en mer intelligent varelse. I så fall, om det skulle hända, kanske mänskligheten inte behöver ha kontrollen. Vi får väl anta att de med överlägsen intelligens utvecklar en överlägsen moral också. Det kanske vore bra. 
När det händer har väl mänskligheten spelat ut sin roll som ledande art.
Vi själva skulle nog inte vilja ha chimpanser i Sveriges regering. Chimpanserna får det bättre när mänskligheten har kontroll.
2 gillningar
Folk har ju blivit alldeles tossiga av att se LLM:er. AI-hypen är otroligt överdriven. Moores lag är död, hårdvaruutvecklingen bromsar in (vi börjar närma oss fysikaliska gränser för hur små transistorerna kan bli) och redan dagens mycket klumpiga chattbottar är ganska otympliga resursmässigt. Det kommer inte hända mycket här inom 5-10 år. De som påstår att det kommer göra det har ett rent ekonomiskt intresse av att elda på hypen.
“AI” har sina användningsområden men detta är huvudsakligen en IT-bubbla, inte ett hot mot mänskligheten.
Jag tror likt dig att det finns en enorm övertro till vad AI är kapabel till. Än så är alla dess beslut baserade på mänsklig data… Allt den gör är att klippa och klistra ur en enorm pool med data och ge vad den bedömer det mest sannolika svaret (I guess). Visst, AI kanske lyckas nå någon form av högre självständigt “tänkande” och då kan det finnas anledning till oro, men jag tror det är långt borta.
Personligen tycker jag det känns mest som folk vill ha en ny eller fler domedagsprofetior jämte klimatet, kärnvapen, pandemier, etc…
2 gillningar
AI är förstås ett mode-begrepp inom vilket man samlar en otroligt bred samling av modeller och koncept. En följd av det är att våra möjligheter att inom populärkulturen kunna resonera om olika modeller, vad de faktiskt kan göra och är kapabla till att göra är väldigt begränsad. Det är synd.
Food for thought: https://queue.acm.org/detail.cfm?id=3595860
Om AI kommer förgöra mänskligheten är det inte simpla språkmodeller som kommer göra det, utan något annat. Steget dit är långt från där vi är idag (även om ChatGPT & co förstås är fantastiskt bra på vad de är tränade till) och jag tvivlar personligen på att vi inte kommer förgöra oss själva innan vi är där.
4 gillningar
Det har ju alltid varit 30 år bort.
De klipper och klistrar och ger det mest sannolika svaret precis som människor gör när de använder System 1 för att tänka. System 2, att tänka rationellt med olika former av logik är ett mekaniskt system redan mycket bättre på. Det är konsten att kombinera dessa två och konsten att generalisera som är hindren.
Experter inom AI som sagt 30 år bort sen nittiotalet säger idag att det kommer gå “snabbt” istället. Det är ett helt annorlunda svar.
De som tror att det kommer vara något bra tycker ju det är jättegoda nyheter.
1 gillning
Jag gillar verkligen hur du vänder Max farhågor helt bak och fram: att en överintelligent AI tar i från kontrollen från människan och vi har således spelat ut vår roll som ledande art. Hittills har vi ju inte lyckats så bra med segregation, krig, miljöförstöring och överpopulation. AI:n kanske får balans på alla plan och vi kommer ha en betydligt ljusare framtid.
Mycket bra inlägg!
2 gillningar
Det finns väl två skolor om detta. En utopisk och en dystopisk.
Det som är lite läskigt är ju att de allra flesta är överens om att det inte blir ett mellanting
4 gillningar
Ja, de säger det kommer gå snabbt, men det kan de omöjligt veta? Men det är väl det som återstå att se. Och trodde man inte förr (ish 50-tal) att det var nu vi skulle ha flygande bilar, istället fick vi:
3 gillningar
Det stämmer att vi inte har flygande bilar, men om det funnits tillräckliga fördelar hade vi säkert kunna ha person-helikoptrar som primära transportmedel. Rent tekniskt är inte hindren så stora, men tröskeln för att kunna göra det på ett säkert sätt är alldeles för hög i förhållande till fördelarna man får.
Samtidigt hade man nog inte på 50-talet kunnat tänka sig att hela världen skulle vara ihopkopplad så tätt som den är just nu. Pokémon Go spred sig som en löpeld över hela världen inom koppet av några dagar (för 7 år sedan), och det är idag trivialt rent tekniskt att knyta en djup och meningsfull kontakt med någon på andra sidan jordklotet (med streaming, videosamtal osv). Det är många saker som vi ser som självklara idag, som på 50-talet hade varit långt utanför deras vildaste science fiction.
Det stämmer som du säger, att man omöjligt kan veta hur snabbt det kommer gå. För bara något år sedan var stora delar av experterna skeptiska till att AI ens skulle gå att genomföra. Idag är majoriteten övertygade om att det bara är en tidsfråga.
3 gillningar
Det trodde folk i allmänhet skulle jag säga på 80-talet när de talade om “år 2000”, det lät som sci fi då
Dock tror jag ingen som var expert på bilindustrin sa något sådant. De s a kanske att det var 30 år bort.
1 gillning
Oj, för fick Bing något om bakfoten, det är nog ett litet tag kvar innan en AI kan bli ett orakel 
Precis, genom att vi idag diskuterat det så kan vi förhoppningsvis undvika några av de mest troliga problemen. Och det är nog vad vi får nöja oss med, lite som att våra ansträngningar mot kärnvapen har gjort att vi inte har haft något kärnvapenkrig än, men vi har inte heller lyckats avskaffa kärnvapen.
Då är det kanske dags att ligga sömnlös?
Detta är ganska troligt inget detta decennium. Vi får hoppas att det inte blir galet många tokiga beslut. Kanske blir nästa stora yrkesgrupp, städa upp efter alla fokus beslut tagna av AI i raketfart 
Va? Anser du inte att grafikkortet H100 är bättre än A100? Enligt de flesta är det ungefär 6 gånger så bra på att träna en AI.
Oj vilken olika bild av framtiden vi har. Om jag får rätt så kommer vi se enorm utveckling bara de närmaste 6-12 månaderna. Ungefär som vi har sett de senaste 6-12 månaderna.
2 gillningar
Kärnvapenkrig har det väl inte varit primärt på grund av kärnvapets förödande kraft i sig, inte något fånigt internationellt avtal som alla skulle pissa på vid händelse av de facto krig. Inget kärnvapenkrig vare sig med eller utan kärnvapen, låt oss kalla det kärnvapenparadoxen?
Lång ifrån alla stater som har kärnvapen som ingår i avtalet redan idag:
“De mest noterbara av länderna som står utanför avtalet är kärnvapenstaterna Indien, Israel, Nordkorea och Pakistan.”
Och säg att det skulle nås någon liknande (partiell) internationell uppgörelse om AI så tror jag ingen annat än “officiellt” skulle följa den. Kina, Ryssland, Nordkorea, Iran, Indien och även det goda USA hade nog fortsatt kapprustningen i det dolda… Lite som rymdkapplöpningen mellan Sovjet och USA, man vill inte hamna sist! Eller för all del klimatlarmet, alla skriker sig hesa, men utsläppen fortsätter likt förbannat öka snabbt.
1 gillning
Länk från artikeln du länkade till.
Eftersom AI inte kan köra bil så finns det inte på kartan att den skulle kunna infiltrera ett industriföretag och börja bygga mördarrobotar bakom ryggen på mänskligheten.
Chatgpt är en bokstavs-siare som fungerar imponerande väl, 11 poäng av 10, men den är bara en bokstavs-siare och fundamentalt skild från en människa. Chatgpt har inga ögon, ingen näsa, ingen mun, ingen känsel, ingen uppfattning om kultur eller etik, det är helt omöjligt att den skulle förstå världen som vi gör. Vi går en spännande framtid till mötes men en maskin kommer vara en maskin.
1 gillning
Bra länk du hittade, fick mig ett litet skratt
Du har helt rätt i att en AI inte kan köra bil lika bra som en människa i nya och oförutsedda händelser. Frågan är hur högt du ställer kraven på en AI, behöver den köra bättre än 50% av människor innan du anser att den kan köra bil? Att det blir fel ibland får man nog räkna med i början, ungefär som när vi har nya bilförare på vägen.
Detta är inte helt relevant till diskussionen om självkörande bilar, men…
Om man resonerar i termer av “höj blicken” så kan man argumentera för att vilken teknisk utveckling man än kan fantisera sig kommer förverkligas, bara man föreställer sig att tidshorisonten går mot oändligheten. Problemet med den här typen av resonemang är att de inte tar avstamp i verkligheten.
Återigen, det råder begreppsförvirring. Det vi har nu är maskininlärningsmodeller som är extremt bra på att lösa problem inom begränsade problemrymder, men med tillgång till enorma mängder data att aggregera och generalisera information från. Detta är inte att likställa med intelligens, utan kan på sin höjd förmedla illusionen om intelligens.
Med det sagt är det bra att vi har de här diskussionerna förr snarare än senare… 
3 gillningar
Nu önskar jag mig en Netflix-serie a la Black Mirror med olika avsnitt för olika scenarion för utkomsten av AI i vår värld. 
Mina förslag på avsnitt:
Kapitalistisk AI som utifrån konkurrens styr världen - ett med ett positivt tema där människa ligger på en solstol och dricker drinkar medans allt jobbigt styrs med maskiner, ett negativt avsnitt där vi bor nere under jorden och planerar hur vi ska ta tillbaka makten. Inom detta tema kan man spinna vidare med ett avsnitt om AI-styrd börs och hur ekomin blomstrar/dör.
Ett avsnitt där AI generar de mest hemska virus där människan sakta förintas, ett annat mer positivt avsnitt där AI utplånar den ena sjukdomen efter den andra och människan lever frisk i många hundra år.
Ett annat avsnitt om där alla vuxna är döda och AI uppfostrar en ny generation barn från början. I avsnittet får vi följa hur människan och världen blir. Lite kärlek och ny familjebildning på det också.
…
2 gillningar
Så är det säkert, om man har oändligt med tid. Men i diskussionen så talar verken jag eller någon annan om tusentals år. Vi pratar om ungefär 10 år. Vilket har fördelen att det går att verifiera eller avfärda i efterhand. Lite som att alla ni som säger att utvecklingen inte kommer fortsätta, så kan vi i efterhand säga om ni hade rätt eller inte.
Absolut inte. Det vi har nu är modeller som uppnår riktig intelligens, iaf om vi anser att djur och människor har riktig intelligens. Jag vet inte vad du har för definition av intelligens, men AI idag uppfyller flera erkända definitioner.
Om den ska ta över världen så ja! 