Användning av generativ AI vid skrivande av akademiska texter inom utbildning på forskarnivå

När du till exempel skriver en vetenskaplig artikel, en examinationsuppgift, halvtidsrapporten eller kappan till din doktorsavhandling får du vanligtvis ta hjälp av AI – men om du gör det måste du i de flesta fall tydligt och transparent beskriva hur du har använt generativ AI.

I denna text avser ”AI-verktyg” och ”generativa AI-verktyg” främst stora språkmodeller (LLMs).

Kan du lita på generativa AI-verktyg som hjälpmedel?

Först av allt måste du fråga dig själv: kan jag lita på generativa AI-verktyg som hjälpmedel när jag skriver? De flesta av oss har nog hört att AI-verktyg ibland ger felaktig information trots att de låter övertygande. Generativa AI-verktyg fungerar inte som sökmotorer i sig; i stället producerar de text baserat på statistisk sannolikhet – utan någon som helst utvärdering av informationen. Följaktligen kan informationen inte bara innehålla faktafel utan också vinklad information (”bias”) och vanliga missuppfattningar. Det är dessutom oklart vilka data generativa AI-verktyg är tränade på, vilket ytterligare underminerar trovärdigheten i det de producerar. Vissa generativa AI-verktyg kan dock tillhandahålla referenser, vilket kan få verktygen att uppfattas som mer trovärdiga. Det är dock ofta oklart hur dessa källor valdes. Beroende på var AI-verktygen hämtar källor så kan det till och med förekomma oseriösa tidskrifter (ofta kallade ”rovdjur”). Generativ AI sammanfattar dessutom ibland källor på ett felaktigt sätt och sammanfattningen bygger ofta enbart på en artikels abstrakt, eftersom många AI-verktyg inte kan nå information bakom betalväggar.

Eftersom generativa AI-verktyg i nuläget inte är pålitliga för information kan du inte använda dem som källor. Ett absolut minimum skulle kunna vara att faktagranska allt som AI-verktyg producerar – noggrant och med pålitliga källor – och sedan lägga till de pålitliga källorna. Var dock försiktig: om du enbart faktagranskar den information som du får från ett AI-verktyg kommer du enbart att leta efter information som stödjer det som står i den AI-genererade texten – och på så sätt riskerar du att få en snedvriden, ”biased”, text.

Det står dessutom tydligt i instruktionerna för kappan/ramberättelsen till avhandlingen att både innehållet och texten ska vara din egen, så detta är ytterligare ett skäl att inte lita för mycket till generativa AI-verktyg.

Sist men inte minst bör du vara medveten om att generativa AI-verktyg kan lagra den information som du matar in i dem. Doktorander på KI som är anställda eller anknutna kan dock använda Microsoft Copilot; dina data är då säkra – förutsatt att du är inloggad via KI. (Var medveten om Microsoft Copilot inte är detsamma som Microsoft 365 Copilot – den senare kräver betallicens.)

Hur kan du använda generativa AI-verktyg?

Trots generativ AI:s begränsningar och kravet att din halvtidsrapport, kappa eller monografiavhandling ska vara skriven av dig själv kan generativa AI-verktyg användas – både för att hitta källor och för att assistera dig i skrivprocessen.

Vissa generativa AI-verktyg kan vara hjälpsamma för att leta efter vetenskaplig litteratur, såsom Elicit, Scispace, Connected Papers, and ResearchRabbit. Till skillnad från traditionella databaser kan de här verktygen utföra en sökning baserat på naturligt språk, vilket liknar en googlesökning. Dessa verktyg kan användas som en utgångspunkt när du letar information, men det är viktigt att förstå verktygens ovannämnda begränsningar vad gäller reproducerbarhet och transparens. För att säkerställa att din sökning blir tillräckligt omfattande bör du i många fall komplettera din AI-sökning med en sökning i traditionella databaser.

Generativa AI-verktyg kan hjälpa dig både i din skrivprocess och för att förbättra kvaliteten på din text. I början av din skrivprocess kan generativ AI hjälpa dig att idégenerera kring ett ämne eller komma över skrivkramp genom att lista punkter du kan ta upp i en inledning till ditt valda ämne. Du kan då använda dessa förslag för att börja skriva din text, vilket gör att du slipper stressen att sitta med en tom skärm framför dig. Längre fram i skrivprocessen kan generativ AI ge feedback på ditt skrivande eller hjälpa dig att förbättra språk, grammatik och flöde i din text. Att använda AI-verktyg på dessa sätt tillåter dig att producera en välskriven text som fortfarande är din egen.

Eftersom doktorandforskarutbildningen är just en utbildning behöver du dock ständigt reflektera över hur just din AI-användning påverkar ditt lärande. Lär du dig lika mycket när du använder AI som du skulle ha gjort om du inte gjort det, tror du?  Kappan i din sammanläggningsavhandling eller i förekommande fall monografiavhandlingen för doktorsexamen är dessutom uttalat central för att kunna visa att du har uppnått lärandemålen för din forskarutbildning. Så, fundera alltid på om din användning av AI känns rimlig – och mer specifikt, om din användning av AI tillåter dig att uppnå lärandemålen för en doktorsexamen. 

I relation till ditt lärande när du använder AI är det bra att vara medveten om att forskning och opinionsbildning pågår om eventuella effekter på hjärnan av att överlåta kognitivt krävande delar av skrivandet och andra högre exekutiva funktioner till AI-verktyg på bekostnad av stimulering av kognitiva processer och kritiskt tänkande under skrivprocessen (se t.ex. Kosmyna, N. et al. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task, preprint on arXiv (2025), León-Domínguez, U. Potential cognitive risks of generative transformer-based AI chatbots on higher order executive functions. Neuropsych 38(4), 293–308 (2024), Editorial. Writing is thinking. Nat Reviews Bioeng 3, 431 (2025).  

Om du däremot i stället promptar generativ AI att ge förslag på justeringar i din text i stället för ändringar har du chansen att både göra bättre överväganden och lära dig mer. Detta eftersom du aktivt måste ta ställning till alla förslag. Det kan också vara en bra idé att prompta AI-verktyg att ge förklaringar till de förslag som ges. På så sätt kan du göra bättre val och också lära dig mer om text och hur den blir tydligt och effektiv. Dessutom får du bättre nytta av AI-verktyg om du promptar AI-verktyg att vara specifika i förslag och förklaringar, till exempel genom att fokusera på struktur, flöde eller korrekt och formellt språk. Ge också så mycket kontext som möjligt för att få relevant feedback, till exempel om det sammanhang du skriver för.

Deklarera din användning av generativ AI

Du måste också vara transparent kring hur du har använt AI och AI-understödd teknologi när du skrivit din text för halvtidsrapporten, kappan i sammanläggningsavhandlingen och monografiavhandlingen. Många vetenskapliga tidskrifter begär också en AI deklaration när ett manuskript skickas för review till dem och kursgivare kan begära en AI deklaration av studenter i samband med inlämnande av examinationsuppgiften. I KI:s instruktioner/mallen för att skriva halvtidsrapporten/kappan/monografiavhandlingen specificeras att du måste lägga till en ”AI statement”, en deklaration, i texten angående användning av generativ AI. I denna AI-deklaration måste du tydliggöra all användning av sådana generativa AI-verktyg – både vilka verktyg du använt och hur du har använt dem. Om du exempelvis har använt AI-verktyg för att generera idéer med syfte att förbättra ditt innehåll, för att få återkoppling vad gäller strukturen i din text eller för att skriva om din text måste du deklarera exakt detta (och självklart också dubbelkolla allt och säkerställa att du kan hållas ansvarig för allt som står i din text).

Om du däremot enbart har använt AI-verktyg för t.ex. stöd i språk och grammatik behöver du inte göra någon AI-deklaration. Men vad innebär då det? Generellt behöver du inte berätta om du använt verktyg för att automatisera tidskrävande arbete där slutresultatet blir ungefär detsamma. Du kanske till exempel har använt referenshanteringsprogram såsom Endnote, Zotero eller Mendeley för att ange dina källor i exakt rätt format. På liknande sätt kanske du har tagit hjälp av ordbehandlingsprogram med din stavning, grammatik och stilnivå, samt för att hålla din text koncis. De förslag du då får baseras på grammatiska regler och stilistiska principer – och dessa program kommer inte att skriva om din text. Sådana program inkluderar Microsoft Word, grundfunktionaliteten hos Grammarly samt Instatext. Självklart är du fortfarande ansvarig för din text, så kolla noggrant förslagen från dessa program. 

Om du är osäker på om du bör deklarera specifik användning av AI-verktyg föreslår vi att du diskuterar frågan med din handledare. Var gärna överförsiktig; det är säkrare att deklarera att du använt generativ AI när det inte behövs än att underlåta att göra det när en deklaration är nödvändig.

Några avslutande ord

Till sist måste vi tänka på – och påminna oss själva om – att generativa verktyg är nya för oss och att de nu kan göra saker som de tidigare inte har kunnat. Därför har vi ännu inte alla svar kring hur vi ska använda verktygen på ett ansvarsfullt sätt. Vi måste därför vara ödmjuka och lite extra försiktiga, och kommunicera med handledare och kollegor med öppna sinnen, vara så transparenta som vi bara kan – och lära oss tillsammans. 

Ytterligare resurser

Om du vill lära dig mer om generativa AI-verktyg och hur du kan använda dem kan du besöka "AI för studenter" på Karolinska Institutet universitetsbibliotekets (KIB:s) hemsida och titta på inspelade presentationer från KI-eventet “AI in practice” 28 maj 2024 nedan (filmerna är på engelska). Om du har frågor är du välkommen att kontakta KIB.