Det må så vara, men nu invände jag ju faktiskt inte mot definitionen av intelligens i inlägget jag svarade på. Mitt argument är att en LLM inte uppfyller den definitionen. Om ChatGPT är intelligent, är Google Translate intelligent? Är s.k. “smart bilduppskalning” intelligent? Är FaceID i telefonen intelligent? Vari ligger väsensskillnaden mellan dessa? De bygger på samma teknik som ChatGPT, skillnaden ligger främst i modellens storlek och vilken input och output man väljer att ha.
Jag tycker definitionen av “förståelse” vi använde nyss funkar. Om jag har en mental modell av hur en bilmotor fungerar och kan använda den för att resonera om möjliga anledningar till att den inte startar, då kan man säga att jag förstår en bilmotor. På samma sätt kan man säga att ChatGPT förstår språk; programmet kan använda sin modell av språket för att i någon mening tolka input och generera oftast fullt rimlig output, och modellen är såpass bra att det är rätt svårt att få den att spotta ur sig fullständig nonsens. Men när det sedan kommer till att utvidga modellen och skapa nya abstraktioner om de gamla inte fungerar, det som savecake menar är en del av definitionen av intelligens, då menar jag att de funktionerna har inte ChatGPT och jag är ytterst skeptisk till möjligheterna att överhuvudtaget närma sig de problemen med dagens neurala nätverk.
Inte säker på att jag ser relevansen i det du försöker argumentera. Vad spelar det för roll?
Helt klart är ju att smala AIs i område efter område uppvisar superhuman förmåga att lösa problem, ibland på helt ofattbara sätt. Varför skulle AIs inte kunna lära sig designea bra ANN-topologier/modeller på samma sätt som AI lärt sig att folda proteiner? Eller hitta bättre/snabbare sätt att hitta globala minima/maxima? Kan man få till så att AI gör/stödjer det arbete som människor nu gör när det gäller att designea nya AIs så kan man ju få spinn på det på ett sätt där sedan AIn även förbättrar dessa metoder.
Kan man få till det i en självgående förbättringsloop så kan det snurra iväg på ett sätt där vi inte kan hänga med i vad som händer.
Om vi bortser från domedagsscenarier, så finns det flera stora problem med oreglerad AI i närtid. Med hänsyn till all den personliga data som samlas in och används av de stora teknikjättarna idag för att påverka våra val och beteenden, så är det inte osannolikt att AI kommer att användas på samma sätt. Och med den kapaciteten som finns för AI att samla in, sammanställa, analysera och profilera människor så bör vi vara rädda för hur det kan komma att användas för att styra och påverka demokratiska val, användas för att kartlägga och “förebygga” kriminalitet eller användas av mindre demokratiska organisationer.
Jag ser scenario där AI profilerar människor utifrån algoritmer som vi inte kommer att till fullo förstå. Hur ska vi då använda resultatet? Jämför t. ex. med Rehoboam (Westworld) istället för Skynet. Även om det är ett domedagsscenrio så är det enligt mig mer realistiskt, och förmodligen åt det hållet vi kommer att gå vad gäller riskerna med AI.