AI-genererade svar i forumet

@Handlarn
@Handlarn
Tack för ditt svar och att du tog dig tid till att svara på mina funderingar, verkligen tacksam för det. Jag försöker verkligen ta reda på “hur” och “varför” folk använder sig av AI / chat gpt samt orsak, målet/poängen och mest intressant är “vad” det innebär för “sanning” för personer och att navigera med resultatet som Ai gav och där människors följdfrågor tog slut…
För jag tänker ju att om människor i största del använder AI till att
“bekräfta det man redan vet” eller tycker sig “hålla med om att man förstod det som”,
så blir ju ens värld mindre och mindre pga av AI och ChatGPT och eftersom behovet att förstå var orsaken för dig , så tänker du att du har förstått när det passar det du kan relatera till, och inget som kommer ifrågasättas då “målet” är " uppnått "

Jag själv tål inte när jag behöver kommunicera i skrift med personer som väljer att “dra slutsatser” , " göra antaganden" och tycker sig “läsa mellan raderna” och göra egna tolkningar utifrån deras referensramar och aktivt tro att jag menar något annat än det jag skriver!

Just därför blev jag så nyfiken över det du hade delat med dig av då för mig är det rena mardrömmen när det uppstår och tack för det fina bemötandet då jag är van vid att mina frågor jag ställer defensiva och som om jag ifrågasatte personerna när jag egentligen verkligen är genuint intresserad av att förstå just den hur den personen känner och tänker och varför och va det innebär.
så det va en fresh breeze att du förklarade för mig. och där fick du mitt perspektiv och vilka tankar jag fick.

nu sitter jag och tänker vidare att jag ska be min chatgtp skapa en text där om man läser mellan raderna så kommer man fram till det jag vill förmedla! eller är det, det som är att programmera kanske?!

2 gillningar

@kandih
Håller med.

Det låter absurt men jag har sett det flera gånger på detta och andra forum, även utan AI, där en skribent typ behandlar en annan som psykiskt sjuk och ska överanalysera och förvanska allt den säger istället för att bara läsa innantill.

Konkret exempel är några trådar om varför folk inte vill ha barn där några sakligt svarar på frågan medan vissa läsare inte kan acceptera svaren. Enligt resonemanget: “Du tycker ju fel så du måste ju ha fel och ljuga för dig själv och/eller andra! Så här tycker du egentligen och det beror på X och Y!”.

Därför läser de mellan raderna, diagnostiserar och ifrågasätter huruvida personerna verkligen har en egen fri vilja och klarar av att förmedla den.

Att då lägga på en LLM på det är riskfyllt. Den kan lika gärna förvränga och anpassa innehållet efter frågeställarens önskemål och ledande frågor, alt. bara p.g.a. att den inte klarar jobbet, men alltid låtsas att den gör det.

Jag tycker att det är lite slappt att outsourca tolkning av specifika inlägg till en LLM även om det i enstaka fall kanske kan ha något värde.

Om det handlar om att tolka en skribent som inte klarar av att förmedla vad den menar så tror jag att risken är att LLM:en fyller i luckor med fel information. Det är alltid bättre att bara be skribenten fylla i luckan så att man får mer information än att med eller utan AI extrapolera och killgissa istället för att fråga vad som menas.

Har man så dålig läsförståelse att en LLM klarar av att tolka ett inlägg medan man själv inte gör det så har man ännu mer anledning att träna på att göra det själv och inte outsourca jobbet. Eftersom man då evt. inte ens klarar av att kolla om den resonerat rätt.

Eller ska vi i slutändan ha en situation där jag slutar fråga min respektive hur han/hon mår eller vad denne vill och istället mata en AI med min subjektiva info och få svar därifrån? Det låter skruvat men är ungefär samma sak och lika dumt.

TLDR: fråga den som skrev det om du inte förstår eller tycker något är otydligt. Om det är svårförståeligt och otydligt för dig är det sannolikt det även för en LLM och det blir skit in - skit ut.

3 gillningar

Hej! Hittade den här tråden efter att ett inlägg jag lagt ner lite tid på blev flaggat och borttaget för att det skulle vara AI-genererat.

Jag kan förstå att någon vid en första anblick skulle kunna tänka det då jag skrev ett långt inlägg och dessutom använder jag emojis när jag skriver för att markera olika stycken och göra det mer lustfyllt att läsa. Så gjorde jag i min egen kanal även innan AI blev allmängods. Det är liksom mitt uttryck och ger igenkänning där.

För mig är det bara otur att mitt sätt att skriva innehåll (tydliga stycken med emojis) just nu är välkända AI-markörer. Man kan tänka sig att om ett par år kanske AI-tjänsterna har lagt sig till med andra uttryck som vi kommer få lära oss känna igen.

Utvecklingen i stort är nu väldigt utmanande både för användare på olika plattformar och de som modererar och sätter upp regelverk. Om vi redan gått varvet runt så att välskrivet innehåll blir borttaget för att det påminner om AI, då är risken stor att bara de som skriver känslomässigt och ogenomtänkt, rakt från höften blir kvar och innehållet blir helt ointressanta för oss andra.

emojifri text för säkerhets skull

Mitt inlägg som blev borttaget men nu är tillbaka, som referens.

6 gillningar

Ja, samma sak hände mig, och efter det har jag gått och funderat på om det är värt att lägga tid på att skriva långa och genomarbetade poster överhuvudtaget. När någon säger “Är det där AI?” i tråden så svärtar det i nuvarande klimat ner posten och gör den värdelös oavsett om AI använts eller inte för att skriva den. Det känns helt omöjligt att försvara sig mot, och för mig känns det som ett argumentationsfel på nivån Ad Hominem eller “När slutade du slå din fru?”—det tar helt död på diskussionen.

Samtidigt är det väldigt lätt att göra en denial-of-service-attack mot någon eller hela forumet genom att bara lägga två sekunder på att generera ett långt AI-svar och bara motposta hela tiden, och för de som råkar ut för det så kan man förstå att balansen känns väldigt ojämn mellan de som använder AI och de som vägrar.

Det är väldigt komplicerat.

Men efter att ha grunnat på det från den här vinkeln så skulle jag vilja ha en regel att det inte är OK att i publik post säga att någon annan post är AI, eller fråga om det. Den typen av diskussion/fråga borde bara få gå i privat meddelande eller som flaggning. @moderatorer @janbolmeson Hur ser ni på ovanstående komplexitet?

Jag anser att text bör bedömas på det som står: innehåll, argumentation, kongruens, källor, osv, och inte baserat på vilka verktyg som används för att skapa den.

Ett påstående som jag gör rakt av utan bakgrund är egentligen inte värt något i en diskussion, precis på samma sätt som ett påstående från en AI utan resonemang eller källa är värt något. Det är egentligen samma sak, och borde gå att behandla och argumentera emot på samma sätt.

5 gillningar

Absolut. Egentligen är det ju en dum regeln som jag inte hade velat ha, för i min värld är den typ: “du får inte använda dator när du skriver, du måste skriva för hand”.

Men å andra sidan blir det ju helt ohållbart om varje svar ska vara AI-genererat. Tror t.ex. inte ni vill se AI-genererade svar av mig eller någon annan.

Svårt det också, man kan ju flagga det så tar vi bort det, men å andra sidan så får man ju också bara kontakta oss moderatorer säga: “Det var inte AI” och inte ta åt sig så lägger vi tillbaka eventuellt dolt inlägg.

För perspektiv, det kommer in ungefär 400 - 600 kommentarer om dagen + ca 25 nya trådar om dagen, det är ohållbart för mig och @moderatorer att ha koll på alla dessa. Det typ tristaste som finns är att öppna forumet och ha 35 flaggade inlägg som man ska gå genom och sätta sig in i, och där någon blir sur hur man än agerar. Så jag tänker att empati behövs åt båda hållen.

4 gillningar

Jag tycker det är vettigt att ha regeln att AI ska vara markerat med citat-tagg om man postar i stilen “jag frågade AI och den sade så här”. Klockrent citat, precis som alla externa grejer. Klipper man t ex in text rakt av från Skatteverkets web så ska det också citat-markeras, för det är ett textstycke man pastear in med inramningen att det inte är skrivet av en själv, precis som när man säger “jag frågade AI och här är vad den sade”.

Men har man jobbat med texten i t ex canvas, och skrivit texten tillsammans med AI eller med AI-stöd, då tycker jag texten är ens egen och kan postas som ens egen. Dvs man rapar inte ur sig något från en papegoja, utan det är ens egna tankar man använt maskin för att få hjälp att formulera. Saknar tankarna källa eller resonemang bakom så är de inte värda så mycket oavsett om man skrev dem själv eller om det var AI som hjälpte en, och man kan bedöma det på det sättet utan att alls behöva anklaga om AI-vinkeln.

7 gillningar

Jag är mest ute efter att det inte ska vara ok att smutskasta texten och på det sättet döda värdet av den, utan att bemöta innehåll och argument. Alla har förstås valet i en tråd att strunta i att svara på de poster de inte vill svara på, eller på annat sätt ignorera argument, men vad jag tycker man ska undvika är att säga “Det där ser ut som AI-text” i samband med det, för det färgar texten för alla andra, utan att man behöver göra någon ansträngning. Det går att göra en denial-of-service-attack åt det hållet med, att publikt anklaga allt för att vara AI-skrivet och på det sättet attackera skribenten snarare än innehållet.

Tänker man framåt så kommer det vara en omöjlig uppgift att alls ens försöka bedöma om något är AI eller ej, så vi kan lika gärna vänja oss vid att det är innehållet som gäller, inte verktyget.

2 gillningar

Personligen tänker jag att vi då inte behöver ett forum.

2 gillningar

Är det verkligen så enkelt? Beroende på vilka instruktioner du ger och vad du tänkt innan de instruktionerna, så varför inte? Kanske kan du svara fem personer personligen i stället för en, för du får ur dig texterna du har i ditt huvud fem gånger snabbare. Hur bra behöver texten vara för att detta ska vara rimligt? 100% lika bra? 90% så bra? Tänk om du kan svara till alla, men texten är bara 50% av kvalitén som den skulle ha om du verkligen lade lång tid och fokus på att skriva den? Är detta svar ändå bättre än att bara kort länka till en artikel eller FAQ? Kanske finns det utrymme att få med mer av "jag länkar till denna längre artikel och du bör titta specifikt på x, y, z i den för det är direkt relaterat till din fråga?

Så AI-genererade svar… Kanske?

Jag tänker att det är ett väldigt ytligt tankesätt. Det är lite som att säga att alla vägar man använt grävmaskin och asfaltsmaskin för att bygga är värdelösa och de enda bra vägarna är handgrävda med kullersten på.

Eller att löparskor tillverkade i fabrik har ingen poäng, det är bara skomakartillverkade skor som har existensberättigande.

Det finns en poäng med mysiga små kullerstengsbelagda gränder och bakgator, där man kan gå i sina skräddarsydda finkläder och nyputsade handgjorda finskor på vägen till någon trevlig gårdsfest i landshövdingehus fulla med snickarglädje, men det finns också en poäng att snöra på sig sina Nike löparskor och springa några varv på 400 metersbanan i modulbyggda idrottshallen av stål och betong.

Samma med handskrivna brev med vax-sigill vs att skriva TT-artiklar i ordbehandlare eller generara sportresultatartiklar med robot.

2 gillningar

Men hur kul är det att läsa x hundra inlägg per dag, där majoriteten av texterna inte speglar eller har skrivits av personen som gjort inlägget?

Då läser jag hellre något vettigt eller gör något annat än hänger här.

2 gillningar

Jag menar att det helt beror på innehållet. Det går att jobba med AI-verktyg och ge instruktioner som gör att de spottar ut det du tänker, och innehållet blir ditt. Du kan putsa och formulera och tweaka också. Dåligt innehåll är dåligt innehåll vare sig det är handskrivet eller framtaget med verktyg. Och bra innehåll är bra innehåll.

Problemet som ofta syns i AI-genererade texter är ju att de är onödigt långa och pratiga, och att folk inte filar eller anpassar outputten till sammanhanget. Det är ett lätt fel att göra med AI, men det går att göra det felet på andra sätt också.

När man skriver mha AI så blir det mer strategiska beslut än rena taktiska handgrepp på texten. Man får tänka på det övergripande och någon annan kan sköta detaljerna. Mer som en regissör på en film än skribent på en text. Man har någon under sig som följer ens instruktioner. Men man måste fortfarande ge instruktioner som återspeglar vad man faktiskt vill. Det är inte annorlunda än att ge instruktioner till någon junior på jobbet. Det är ett skillset man kan bli bra på, och då kan det som kommer ut från den processen också bli bra.

1 gillning

Jag undrar, när ni sitter där i studion, är det på riktigt? Kanske ser vi en AI-Janne medans du själv sippar pinacolada på playan? Tillochmed live videos? Helt sjukt att det kan faktiskt vara så :grin:

7 gillningar

Jag tycker det vore trist om det blev ett AI drivet forum, så skulle nog sluta hänga här som sagt.

Det är användarna och skribenterna som skapar mervärdet i forumet, förloras det så försvinner kärnan.

Sen gillar jag med att använda AI till vissa saker, men att använda det i forumsvar känns inte helt ok, ens när det markeras.

2 gillningar

Jag kan se en viss typ av “AI-skrivet” som skulle bli så, helt klart, Men använt rätt så kan “AI-skrivet” också i stället höja kvalitén på texterna, höja antalet bra tankar och få fram vettig information.

Redan nu verkar det ju otroligt svårt att bedöma i text då folk sannolikt både kan tycka och formulera sig lite hur som helst. Och lägger man ut texten och lägger lite omtanke och möda bakom tror somliga att ingen varken orkar tänka eller skriva längre än en första magkänslaimpuls, så då måste det vara AI. Så jag är nog inne på samma linje som @axr att det är innehållet som kommer behöva räknas i förlängningen. Annars kommer ingen kunna skriva någonting vettigt och varenda plattform blir full med :poop: och därmed helt ointressant.

4 gillningar

Som jag ser det är problemet egentligen inte om det är AI genererat eller inte. Utan 2 saker.

  1. Mängden text, det blir som en denial of service attack. Eller en form av sea-lioning. Det går liksom inte att bemöta allt genom att skriva själv.
  2. Antydan om att ett inlägg är AI genererat färgar hur det betraktas.

En lösning på båda är kanske att begränsa längden på inlägg (men kanske inte första inlägget i en tråd). Då blir det inte en textmassa att ta sig igenom, och AI genererar nån ett svar blir det få argument att bemöta.

6 gillningar

Jag tror personligen inte på att begränsa längden på inlägg, däremot är ju alla fria att skita i att läsa vad någon skrivit (TLDR) eller bara skumma igenom det. Man straffar bara sig själv genom att skriva ogenomträngligt lång text.

3 gillningar

Den logiska följden är att folk kommer skita i forumet, vilket knappast är det vi vill eller hur?

1 gillning

Det är inte nödvändigtvis den logiska följden. Det hänger som sagt på innehållet (motiverat i flera inlägg ovan).