Användning av generativ AI när du skriver kappan till din doktorsavhandling

I denna text avser ”AI-verktyg” och ”generativa AI-verktyg” främst stora språkmodeller (LLMs).

Kan du lita på generativa AI-verktyg som hjälpmedel när du skriver din kappa?

Först av allt måste du fråga dig själv: kan du lita på generativa AI-verktyg som hjälpmedel när du skriver kappan till din doktorsavhandling? De flesta av oss har nog hört att AI-verktyg ibland ger felaktig information trots att de låter övertygande. Generativa AI-verktyg fungerar inte som sökmotorer; i stället producerar de text baserat på statistisk sannolikhet – utan någon som helst utvärdering av informationen. Följaktligen kan informationen inte bara innehålla faktafel utan också vinklad information (”bias”) och vanliga missuppfattningar. Det är dessutom oklart vilken data generativa AI-verktyg är tränade på, vilket ytterligare underminerar trovärdigheten i det de producerar. Vissa generativa AI-verktyg kan dock tillhandahålla referenser, vilket kan få verktygen att uppfattas som mer trovärdiga. Det är dock ofta oklart hur dessa källor valdes. Beroende på var AI-verktygen hämtar källor så kan det till och med förekomma oseriösa tidskrifter (ofta kallade ”rovdjur”). Generativ AI sammanfattar dessutom ibland källor på ett felaktigt sätt och sammanfattningen bygger ofta enbart på en artikels abstract, eftersom många AI-verktyg inte kan nå information bakom betalväggar.

Eftersom generativa AI-verktyg i nuläget inte är pålitliga för information kan du inte använda dem som källor. Ett absolut minimum skulle kunna vara att faktagranska allt som AI-verktyg producerar – noggrant och med pålitliga källor – och sedan lägga till de pålitliga källorna. Var dock försiktig: om du enbart faktagranskar den information som du får från ett AI-verktyg kommer du enbart att leta efter information som stödjer det som står i den AI-generarede texten – och på så sätt riskerar du att få en snedvriden, ”biased”, text.

Det står dessutom tydligt i instruktionerna för kappan att både innehållet och texten ska vara din egen, så detta är ytterligare ett skäl att inte lita för mycket till generativa AI-verktyg.

Sist men inte minst bör du vara medveten om att generativa AI-verktyg kan lagra den information som du matar in i dem. Doktorander på KI som är anställda eller anknutna kan dock använda Microsoft Copilot; dina data är då säkra – förutsatt att du är inloggad via KI. (Var medveten om Microsoft Copilot inte är detsamma som Microsoft 365 Copilot – den senare kräver betallicens.)

Hur kan du använda generativa AI-verktyg?

Trots generativ AI:s begränsningar och kravet att din kappa ska vara skriven av dig själv kan generativa AI-verktyg användas – både för att hitta källor och för att assistera dig i skrivprocessen.

Vissa generativa AI-verktyg kan vara hjälpsamma för att leta efter vetenskaplig litteratur, såsom Elicit, Scispace, Connected Papers, and ResearchRabbit. Till skillnad från traditionella databaser kan de här verktygen utföra en sökning baserat på naturligt språk, vilket liknar en googlesökning. Dessa verktyg kan användas som en utgångspunkt när du letar information, men det är viktigt att förstå verktygens begränsningar vad gäller reproducerbarhet och transparens. För att säkerställa att din sökning blir tillräckligt omfattande behöver du komplettera din AI-sökning med en sökning i traditionella databaser.

Generativa AI-verktyg kan hjälpa dig både i din skrivprocess och för att förbättra kvaliteten på din text. I början av din skrivprocess kan generativ AI hjälpa dig att idégenerera kring ett ämne eller komma över skrivkramp genom att lista punkter du kan ta upp i en inledning till ditt valda ämne. Du kan då använda dessa förslag för att börja skriva din text, vilket gör att du slipper stressen att sitta med en tom skärm framför dig. Längre fram i skrivprocessen kan generativ AI ge feedback på ditt skrivande eller hjälpa dig att förbättra språk, grammatik och flöde i din text. Att använda AI-verktyg på dessa sätt tillåter dig att producera en välskriven text som fortfarande är din egen.

När du använder generativa AI-verktyg måste du alltid reflektera kring hur du använder dem. Är din användning rimlig? Fyller texten sitt syfte – och kan den fortfarande ses som din egen text? Tillåter din användning av AI dig att uppnå lärandemålen för en doktorsexamen? Kappan i din doktorsavhandling är central för att kunna visa att du har uppnått lärandemålen.

Du måste också alltid reflektera kring huruvida din användning av AI-verktyg verkligen gör din text bättre. En stor del av svaret på den frågan beror på vad du ber AI-verktyg att göra samt hur du ber dem att göra det (det vill säga vilken prompt du använder). Till exempel kan en generell prompt – där du ber ett AI-verktyg att ”förbättra” din text – resultera i diverse ändringar såsom ändringar av ordval och tonalitet – eller att nytt innehåll läggs till. Om du däremot i stället promptar generativ AI att specifikt ändra din text vad gäller stavning, skiljetecken och meningsbyggnad kommer verktyget sannolikt att applicera grammatiska regler och ändra din text baserat på dessa principer, utan att lägga till nytt innehåll eller ändra dina begrepp.

Om du väljer att använda generativa AI-verktyg är det viktigt att se alla förslag från verktygen som just förslag – och du måste tänka igenom vartenda ett mycket noggrant. Tänk på att generativa AI-verktyg till exempel kan ändra dina ordval baserat på en stor mängd texter som inte alls är medicinska. Även om du, till exempel, skriver om ”vaccine effectiveness” kan ett generativt AI-verktyg ändra detta till ”vaccine efficacy”. Orden “effectiveness” och “efficacy” är nära nog synonymer i vardagligt språk, men i en medicinsk kontext är skillnaden viktig. Det kan vara lätt att missa sådana misstag även om du kollar texten noga, särskilt om du klipper och klistrar stora sjok av text från AI-verktygen till ditt eget dokument.

Deklarera din användning av generativ AI

Du måste också vara transparent kring hur du har använt AI och AI-understödd teknologi när du skrivit din text. I KI:s instruktioner för att skriva kappan specificeras att du måste lägga till en ”AI statement”, en deklaration, i slutet av din kappa (före referenslistan). I denna AI-deklaration måste du tydliggöra all användning av sådana generativa AI-verktyg – både vilka verktyg du använt och hur du har använt dem. Om du exempelvis har använt AI-verktyg för att generera idéer med syfte att förbättra ditt innehåll, för att få återkoppling vad gäller strukturen i din text eller för att skriva om din text måste du deklarera exakt detta (och självklart också dubbelkolla allt och säkerställa att du kan hållas ansvarig för allt som står i din text).

Om du däremot enbart har använt AI-verktyg för att hantera dina referenser eller som stöd i språk och grammatik behöver du inte göra någon AI-deklaration. Men vad innebär då det? Generellt behöver du inte berätta om du använt verktyg för att automatisera tidskrävande arbete där slutresultatet blir ungefär detsamma. Du kanske till exempel har använt referenshanteringsprogram såsom Endnote, Zotero eller Mendeley för att ange dina källor i exakt rätt format. På liknande sätt kanske du har tagit hjälp av ordbehandlingsprogram med din stavning, grammatik och stilnivå, samt för att hålla din text koncis. De förslag du då får baseras på grammatiska regler och stilistiska principer – och dessa program kommer inte att skriva om din text. Sådana program inkluderar Microsoft Word, grundfunktionaliteten hos Grammarly samt Instatext. Självklart är du fortfarande ansvarig för din text, så kolla noggrant förslagen från dessa program. 

Om du är osäker på om du bör deklarera specifik användning av AI-verktyg föreslår vi att du diskuterar frågan med din handledare. Var gärna överförsiktig; det är säkrare att deklarera att du använt AI när det inte behövs än att underlåta att göra det när en deklaration är nödvändig.

Några avslutande ord

Till sist måste vi tänka på – och påminna oss själva om – att generativa verktyg är nya för oss och att de nu kan göra saker som de tidigare inte har kunnat. Därför har vi ännu inte alla svar kring hur vi ska använda verktygen på ett ansvarsfullt sätt. Vi måste därför vara ödmjuka och lite extra försiktiga, och kommunicera med handledare och kollegor med öppna sinnen, vara så transparenta som vi bara kan – och lära oss tillsammans. 

Ytterligare resurser

Om du vill lära dig mer om generativa AI-verktyg och hur du kan använda dem kan du titta på inspelade presentationer från KI-eventet “AI in practice” 28 maj 2024 nedan (filmerna är på engelska). Om du har frågor är du välkommen att kontakta Karolinska institutet universitetsbiblioteket.