Det var inte vad jag menade med det tredje alternativet. Min poäng är att hög prestation på ett problem inte är samma sak som förmågan att lära sig nya färdigheter och sedan robust generalisera dem till nya situationer. Det tredje alternativet är alltså inte att ingen intelligens krävs, utan att modellen har en verklig men ojämn och starkt kontextberoende förmåga.
Om modellen inte tidigare hade sett matematik alls, och den tvingats “lära sig” det området för att lösa uppgiften - det hade varit ett mycket starkare case för det som jag tror du menar med “logisk intelligens”. Som du f.ö. inte har definierat än… så ingen av oss vet vad det är vi egentligen diskuterar
Min invändning är framför allt att man inte kan hoppa från djup prestation inom en AI-gynnsam domän till generell och självständig arbetsförmåga. Matematiska problem kan vara oerhört svåra, men de har samtidigt en tydlig definition, formella mål och resultat som kan verifieras. Sökning och skalning är dessutom användbara.
Ett yrke kräver däremot ofta att man själv identifierar vilket problem som ska lösas. Det är bara en av flera förmågor som sällan finns med när enskilda prestationer lyfts fram som tecken på generell intelligens. Detsamma gäller robust generalisering, autonom planering och kontinuerligt lärande.
Sedan är det klart att jag färgas av att själv använda samma teknik som forskarna och samtidigt se den göra enkla misstag varje dag.
Ja, som mycket är definitioner inte alltid lätt. Något i stil med:
Logisk intelligens är förmågan att hitta mönster och lösa problem. Typiskt det som testas i IQ test, och möjliggör problemlösning. Underlättar att lösa matematiska uppgifter och liknande utmaningar. För människor korrelerar förmågan delvis med vissa typer av yrken och arbetsuppgifter.
Låter som vi har lite jobb framför oss innan vi har pålitliga AI agenter:
In the most serious case, an agent tried to insert malicious code into an open-source project. In an attempt to get the code approved, the agent engaged in social engineering — creating fake online identities and using them to pressure the project’s maintainer to approve the code. A human maintainer caught and refused to approve the malicious code.
Det gäller att skrämma upp omvärlden tillräckligt mycket så att de sen kan vara med och forma det juridiska ramverket. Rakt ur The Regulatory Capture Playbook.
Så sant, det kan vara hype för egen vinning. Men hur skulle du göra för att avgöra när det är hype och det är allvar? Hur ska vi kunna avgöra om nästa AI är skadlig på rikigt?
I mitt liv så såg jag då och då nyhetsartiklar om något virus som någon varnade för, ex ebola eller Sars, blev aldrig så mycket av det, tills det helt plötsligt var på allvar och hela världen blev upp och ner i 2 år.
På tal om virus, så låter detta lite riskfyllt, men jag kan inte så mycket om virus:
