Så fungerar AI-detektorer och varför de kan ha fel

En AI-detektor jämför mönster i en text, till exempel hur förutsägbara orden är och hur meningarna varierar, med mönster från mänskliga texter och AI-texter. Resultatet är en statistisk uppskattning, inte ett bevis. Enkel, formell eller andraspråksskriven text kan flaggas felaktigt, och omarbetad AI-text missas ofta. Därför ska resultatet aldrig vara enda underlag mot en person.

Kort svar: vad gör en AI-detektor?

En AI-detektor räknar ut hur mycket en text liknar texter som skrivits av språkmodeller, jämfört med texter som skrivits av människor. Den läser inte avsikt, kunskap eller hur texten kom till. Den ser bara mönster i själva texten: vilka ord som följer på varandra, hur långa och olika meningarna är, hur ofta samma fraser återkommer. Resultatet blir en uppskattning, ofta ett värde eller en etikett som "troligen AI".

Det betyder att en detektor kan ha fel åt två håll. Den kan flagga en text som en människa skrivit (falskt positivt), och den kan missa en text som AI har skrivit eller hjälpt till med (falskt negativt). Ingen detektor kan ge ett säkert besked, och därför är det viktigaste du kan lära dig i den här guiden hur man läser ett resultat utan att dra för stora slutsatser.

Vill du pröva själv finns AI-detektorn på AdeptWrite. Den visar en uppskattning tillsammans med sina begränsningar. Resten av guiden förklarar hur sådana verktyg fungerar och var de brister.

Hur räknar en AI-detektor fram ett resultat?

Det finns flera tekniker, och många verktyg kombinerar dem. Här är de vanligaste i enkel form.

Förutsägbarhet (perplexitet)

En språkmodell väljer ofta det ord som är mest sannolikt efter de föregående. Därför blir AI-text i genomsnitt mer förutsägbar än mänsklig text. Detektorer mäter detta med ett tal som brukar kallas perplexitet: ju lättare det är att gissa nästa ord, desto mer maskinlik är texten. Problemet är att många människor också skriver förutsägbart, särskilt i formella genrer.

Variation (burstiness)

Människor blandar ofta korta och långa meningar, bryter mönster och byter tempo. Modellskriven text är ofta jämnare. Variationen i meningslängd och meningsbyggnad kallas ibland burstiness. Även här gäller att en vältränad skribent som följer en mall kan skriva jämnt och regelbundet.

Inlärda mönster (klassificerare)

De flesta moderna detektorer är klassificerare: statistiska modeller som tränats på stora mängder texter märkta som "människa" eller "AI". Modellen lär sig själv vilka teckenföljder, ordpar och stilmått som skiljer grupperna åt, och ger sedan en poäng för en ny text. Kvaliteten beror helt på träningsdata: vilka språk, vilka genrer och vilka AI-modeller som fanns med.

Så gör AdeptWrites detektor

AdeptWrites AI-detektor är en statistisk modell som jämför mönster som teckenföljder, ordpar och ett tiotal stilmått med mönster från texter av människor och av AI. Den statistiska delen körs i din webbläsare. Du kan också välja en valfri djupanalys, som skickar texten till en AI-modell för just den körningen för ett andra utlåtande. Resultatet visas i tre band (troligen skriven av en människa, blandad eller osäker, troligen AI-genererad) med ett ungefärligt värde och markerade meningar. Poängen är kalibrerad på testdata med lika många mänskliga och AI-skrivna texter, så den är inte sannolikheten att just din text skrevs av AI. Texten måste vara minst 40 ord och högst 6 000 tecken per körning.

Varför kan AI-detektorer ha fel?

Det finns flera skäl, och de förstärker varandra.

1. Mönstren är statistiska, inte bevis. Ett mönster som är vanligt hos AI är inte unikt för AI.
2. Korta texter ger lite underlag. Under cirka 150 ord blir bedömningen mycket osäkrare, och det är ofta så kort en inlämningsuppgift eller ett svar är.
3. AI-modeller förändras. Nya modeller skriver annorlunda än de som fanns med i träningen, och en detektor kan missa dem.
4. Redigering ändrar mönstren. AI-text som skrivits om, kortats eller bearbetats för hand missas ofta.
5. Språket spelar roll. En detektor som tränats mest på engelska är sämre på svenska. Svenska har sammansatta ord, ä, å och ö och egna meningsmönster, och det är inte självklart att det som fungerar på engelska fungerar här.
6. Blandade texter är svåra. När en människa skriver stora delar och AI föreslår några stycken (eller tvärtom) hamnar resultatet ofta i mitten.

AdeptWrites detektor säger detta rakt ut. Verktygets begränsningar visas tillsammans med resultatet, och uppmätta värden per språk visas där de finns. För språk som ännu inte mätts står det "inte utvärderat", och för svenska gäller det som står på verktygssidan vid den tidpunkt du använder den. Då ska uppskattningen tolkas med extra försiktighet. Inga träffsäkerhetssiffror anges i den här guiden, eftersom en siffra utan språk, textlängd och testdata säger lite.

Svenska exempel som kan flaggas felaktigt

Följande texter är skrivna av människor men har egenskaper som en detektor ofta förknippar med AI. Exemplen är egna och visar principen, inte en mätning.

Formelartad text

Exempel (laboratorierapport, gymnasiet): "Syftet med laborationen var att undersöka hur temperaturen påverkar reaktionshastigheten. Resultaten visar att reaktionshastigheten ökar när temperaturen ökar. Slutsatsen är att temperaturen har en tydlig inverkan på reaktionshastigheten."

Mallen är given av genren: syfte, resultat, slutsats. Meningarna är jämnlånga, ordvalen förutsägbara och orden återkommer. Det är en god rapport, men den är statistiskt jämn, och en detektor kan läsa den som maskinlik. Samma sak gäller många andra genrer med fasta formuleringar: myndighetsbrev, avtal, försäkringsvillkor, produktbeskrivningar, årsredovisningar och standardiserade ansökningstexter.

Text på ett andraspråk

Exempel (svenska för invandrare, SFI): "Jag bor i Malmö sedan två år. Jag arbetar på en restaurang. Jag gillar min arbetsplats. Det är bra kollegor."

Den som lär sig svenska skriver ofta enkla, korta och regelbundna meningar och använder ett begränsat ordförråd. Det är samma drag som en detektor kan tolka som låg variation. Bedömningar av andraspråkstext är därför särskilt riskabla, och en detektor som inte mätts på sådana texter kan ge fel utan att varna. Samma sak kan gälla någon som skriver på svenska men har ett annat modersmål, eller en student som medvetet skriver enkelt för att undvika språkfel.

Genomarbetad och polerad text

En text som slipats flera varv, kanske med stavnings- och grammatikkontroll, kan bli jämnare än ett första utkast. Texten som korrigerats eller omformulerats med AI-skrivverktyg, även AdeptWrites egna som Grammatikkontroll och Omformulera text, kan få etiketten blandad eller troligen AI. Det betyder inte att något fusk har skett, men det betyder att resultatet inte kan läsas som ett utslag på "AI eller människa".

Det omvända: AI-text som slinker igenom

Exempel: Ett utkast från en språkmodell som en person skrivit om med egna exempel, personliga detaljer och ändrad ordföljd. Texten har nu både mänskliga och maskinella drag och bedöms ofta som mänsklig. Det går alltså inte att använda en detektor för att "bevisa" att en text är ren.

Varför bör skolor och lärosäten vara försiktiga?

Konsekvenserna av ett felaktigt utslag är stora för den enskilda eleven eller studenten, medan detektorns uppskattning inte kan styrkas. Några skäl att inte låta ett resultat avgöra:

• Ett resultat går inte att granska. Eleven kan inte kontrollera hur poängen kom till, och läraren kan inte visa det för någon annan som bevis.
• Felen drabbar inte alla lika. Enkel stil och andraspråksskrivande ökar risken för felaktiga flaggningar.
• Det finns bättre underlag: elevens tidigare texter, utkast och versionshistorik, och ett samtal där eleven förklarar sitt arbete.
• Det är regelverket på den egna skolan eller det egna lärosätet som styr vad som räknas som otillåtet stöd, inte detektorn. Läs kursplanen, uppgiftsinstruktionen och institutionens riktlinjer. Uppgifter om hur lärosäten hanterar misstänkt fusk finns hos respektive lärosäte, och reglerna kan ändras, så kontrollera dem själv.

AdeptWrites egen text säger samma sak: använd aldrig resultatet som enda underlag mot en person. Verktyget bör inte användas för betygssättning eller disciplinära beslut.

Checklista: så tolkar du ett detektorresultat

Om din text har flaggats: så gör du

Du kan hamna här även om du skrivit allt själv. Gå lugnt tillväga.

1. Be om att få veta vad flaggningen bygger på. Vilket verktyg, vilken text och vilket resultat?
2. Samla din process. Anteckningar, källor, tidigare versioner och dokumentets versionshistorik visar hur texten växte fram.
3. Var beredd att förklara innehållet. Kan du redogöra för resonemanget, källorna och dina val är det ett starkt belägg för att du förstår texten.
4. Visa tidigare texter. Din stil över tid säger mer än en poäng.
5. Hänvisa till detektorns begränsningar. Verktygen själva anger att resultatet inte är ett bevis. Det går att peka på exemplen ovan.
6. Kontrollera policyn. Om du använt AI-stöd som tillåts men ska redovisas, redovisa det. Om du är osäker på om stöd är tillåtet, fråga innan du lämnar in.

Om du själv vill skriva texter som inte låter maskinella

Det bästa sättet är inte att lura en detektor utan att skriva med egen röst. Konkreta exempel, egna iakttagelser, varierad meningsbyggnad och källor du faktiskt läst gör texten både bättre och mer personlig. Några idéer:

• Börja med en egen tanke, inte med en allmän inledning.
• Använd exempel från din egen kurs, ditt eget jobb eller din egen stad.
• Läs högt och korta det som låter stelt.
• Använd Ordräknaren och LIX-räknaren för att se längd och läsbarhet, men lita på ditt eget öra för tonen.

AdeptWrite har även en AI-humanizer som skriver om ett AI-utkast så att det låter naturligt och personligt med samma fakta. Den är tänkt som skrivhjälp, inte som ett sätt att gömma AI-stöd. Redovisa AI-hjälp när din skola, ditt lärosäte eller din arbetsgivare kräver det.

AI-detektor och plagiatkontroll är olika saker

En plagiatkontroll jämför din text med befintliga källor och visar var det finns överlappning. Det går att granska, för träffarna kan öppnas och läsas. En AI-detektor jämför mönster och kan inte peka på någon källa. Därför är de inte utbytbara. Plagiatkontrollen på AdeptWrite jämför med öppna källor och visar vilka som genomsöktes. Läs mer om begreppet i Vad är plagiat?.

Sammanfattning

• AI-detektorer ger en statistisk uppskattning, inte ett bevis.
• De bygger på mönster som förutsägbarhet, variation och inlärda stilmått.
• Formelartad text, enkel text och andraspråkstext kan flaggas felaktigt. Omskriven AI-text missas ofta.
• Svenska är ett mindre språk än engelska i träningsdata, så ett utslag ska tolkas med extra försiktighet.
• Resultatet bör aldrig vara enda underlag för beslut om en elev, student eller anställd.
• Dokumentera din skrivprocess, och läs alltid den egna skolans eller arbetsplatsens regler.

← Alla guider