Du har helt rätt. Jag försöker hjälpa användare av tjänsten att förstå skillnaden på när en fråga är mer lämpad för ett uppslagsverk eller en sökmotor. Många tror att Chatt GPT är ett orakel.
Frågar du vart Bermudatriangeln ligger kan den svara Bifrost i Mölndal. För när den inte vet så hittar den på. Frågar du då om den kan förbättra sitt svar så finns chansen att den letar igenom bibban lite noggrannare och faktiskt producerar ett korrekt svar. Det handlar mycket om att den vill ge ett svar snabbt, men saknar kapacitet, eller tokens som de kallas att snabbt relatera till saker som den har i minnet på det sätt en människa fungerar.
Visst är den bra på att producera kod, även med referenser till vad olika delar gör. Eller granska din kod. Men handlar det inte mer om logik och matematik än faktauppgifter?
Jag utvecklar gärna resonemang med den, som du också nämner. Det är mycket lärorikt.
Men gemene man behöver oftast få instruktionen att det inte är en sökmotor, i början. För att inte få en negativ upplevelse och förlora förtroendet för verktygets användbarhet.