”AI leder till sämre resultat”

Han har mycket att stå i, Erik Winerö på Göteborgs universitet. Han är doktorand i tillämpad IT med inriktning mot utbildningsvetenskap, där han bland annat undersöker hur AI förändrar lärares arbete med bedömning. I grunden är han lärare i svenska och religionskunskap och undervisar på naturvetenskaps- och teknikprogrammen på Lerums gymnasium. Dessutom jobbar han inom kommunen med att utveckla strategier för digitalisering och AI och med att fortbilda skolledare inom området. 

Hur använder du själv AI? 
– Först måste vi definiera vad AI är. Vi brukar säga att artificiell intelligens är teknologier som gör saker som normalt kräver intellektuellt arbete, till exempel det som ligger bakom rekommendationer på Spotify eller skräppostfilter. I den meningen använder vi alla AI hela tiden. 

– Men det man i allmänhet nu kallar AI är tjänster som Chat GPT, alltså verktyg som bygger på stora språkmodeller. Även dem använder jag mer eller mindre varenda dag. Som lärare tar jag fram undervisningsmaterial, till exempel quizfrågor eller bilder till presentationer. Jag kan också språkgranska mina instruktioner till eleverna. I religionsämnet ingår etik, då kan jag använda AI för att generera etiska dilemman. Och i mitt skrivande som akademiker använder jag verktygen som bollplank. Men jag försöker akta mig för att generera text och använda den rakt av. För mig är det viktigt att man äger sin text. 

– Och så privat förstås: ”Oj, hur är det nu man parar fjärrkontrollen med tevespelet?”. Då frågar jag Chat GPT och får en förklaring. 

Använder de flesta lärare AI i sitt arbete i dag? 
– Nej. Det finns väldigt lite storskalig forskning på det, men jag ser att vissa lärare – och elever – är oerhört insatta. Jätteintresserade. Sedan är en stor grupp lite intresserade och använder det lite grand. De blir fler och fler, men så finns det också ganska många som inte har satt sig in i det alls. 

Vad kan det bero på att de inte gjort det? 
– Att man inte mäktar med att förhålla sig till en sak till, om man inte får tydlig tid avsatt i sin tjänst för det. 

Och eleverna, har de ett kunskapsövertag över sina lärare?
– Nej, att unga skulle vara så mycket bättre på digital teknik är inte helt sant. Tekniken numera är designad för att fånga vår uppmärksamhet och kräver inte så mycket tekniskt kunnande. Men elevers användning av AI är problematisk. De överlåter processer som är nödvändiga för lärande till AI. Lockelsen är förrädisk. 

Vilka skolämnen påverkas mest? 
– Textbaserade ämnen. Svenska och engelska. När lärare är vana vid att text produceras i dator, med ordbehandlingsprogram och rättstavningsstöd, så kommer vissa av dem att tänka att det är klart att vi ska använda de här språkmodellerna också. Medan andra lärare tänker att nej, nu måste vi gå tillbaka till papper och penna. Då slår det väldigt olika. Och det leder till ökad ojämlikhet. 

– De elever som redan har god studievana lär sig ofta mer. De vet hur man använder AI som ett stöd, till exempel för att testa sin förståelse eller formulera frågor. Elever som saknar de strategierna riskerar i stället att använda AI för att ta genvägar. Då kan tekniken förstärka skillnader.

Finns det någon forskning som visar att AI har lett till bättre elevresultat? 
– Den samlade evidensen är fortfarande begränsad, men den pekar på att användning av AI leder till sämre resultat. 

I så fall, varför ska de här verktygen ens användas i skolan? 
– För att de finns. Skolan måste förhålla sig relevant till sin omvärld och utbilda elever för verkligheten. Men om man bara ser till skolans grundläggande uppdrag att lära eleverna läsa, skriva och räkna så är det bra att inte använda de här teknologierna. 

I boken ”AI för skolledare”, som du har skrivit tillsammans med Johan Lundin och Marie Utterberg Modén, betonar ni att AI-verktyg ska förstärka undervisningen, inte ersätta den. Vad innebär det? 
– Man ska undvika att uppmuntra eleverna att använda AI på ett sätt som urholkar själva lärandet. Det kan vara att generera texter, läsa upp och sammanställa text eller analysera material. Mardrömsscenariot är att eleverna använder AI för sitt arbete och att läraren sedan tar hjälp av AI för att bedöma det. Då har vi plockat bort människan ur hela situationen. 

– Här är det kognitionsvetenskapliga perspektivet nödvändigt. Det bygger på en förståelse av att vi har ett arbetsminne och ett långtidsminne. Att kunna något handlar om att vid behov hämta hem information från långtidsminnet till arbetsminnet. För eleverna brukar jag visa en AI-genererad film där Kurt Cobain ”trashtalkar” Nirvana och hyllar Nickelback. Hälften brukar skratta och hälften fattar inte poängen. För poängen är att Kurt Cobain var sångare i Nirvana och dog 1994, medan Nickelback grundades 1995 och dessutom är en helt annan musikgenre. För att förstå poängen behöver du ha den informationen tillgänglig i ditt långtidsminne. Det hjälper inte att den finns på internet, för du vet inte ens att du behöver ta reda på den. Du kan inte tänka kritiskt inom ett område du inte är välbekant med. 

– Forskningen har i mer än 100 år testat vilka metoder som fungerar bäst för att förankra kunskaper i långtidsminnet. Det absolut mest effektiva är så kallade övningstester, ”retrieval practise”. Alltså att du tar till dig information, genom att lyssna eller läsa, och så efter en stund tvingas du återge informationen. För den typen av praktiker är det utmärkt att använda AI. 

Hur?
– På Googles plattform finns exempelvis AI-verktyget Gemini med Notebook LM som kan generera quizfrågor. Det använder många elever sig av. Men inte alla, så där blir det återigen ojämlikt. 

Gör verktyget rätt då? Blir quizfrågorna och facit korrekta? 
– Tillräckligt ofta. Om nitton av tjugo quizfrågor är rätt så räcker det. Och verktygen blir bättre och bättre hela tiden. 

Men mer generellt, hur ska man hantera detta att AI så ofta sprider faktafel och hallucinerar? 
– Både elever och lärare behöver förstå hur de här systemen genererar texter och bilder. De är så kallade probabilistiska system, de genererar statistisk sannolikhet utifrån en viss slumpvariation. Man kommer aldrig ifrån att det finns risk för fel. Därför måste man jobba med källkritik, lära eleverna att ställa frågorna: Är det här rimligt, kan det stämma? Och att de ska kolla av mot pålitliga källor. Sedan behöver eleverna få testa tekniken och jämföra resultat. Och slutligen måste läraren trycka på att eleverna ska förankra kunskaperna i sitt långtidsminne. Få eleverna att förstå det och säkerställa att de gör det. 

Klippet du nämnde med Kurt Cobain har kanske ingen politisk sprängkraft, men det finns ju andra AI-klipp som har det. Hur ska lärare hantera det? 
– Läraren måste göra eleverna spontant skeptiska och medvetna om filterbubblor och logiken i sociala medier. Sedan hoppas jag att den här skepsisen inte spiller över och skadar tilliten till medmänniskor. Det vore katastrof. Om man kan öka tilliten till människor man möter i det verkliga livet och öka skepsisen mot det man möter i sociala medier så hade det varit bra. Men det kanske är en utopi. 

AI-verktyg tränas ju, som du beskrev, på befintliga data. Det gör att de förstärker stereotyper. Hur ska lärare förhålla sig till det? 
– Genom exempel. Jag kan säga ”generera en bild på en professor som gör ett spännande experiment” och det blir alltid en 60–70-årig man med vitt galet hår som står i något laboratorium. Gärna med glasögon. Och om man ber om en bild på en gangster så får man en bild på en mörkhyad person. Då måste man diskutera med eleverna: Varför?

– Man kan också ha detta som utgångspunkt för olika etiska dilemman. Polisen i USA använder ansiktsigenkänning som bygger på AI för att hitta brottslingar. Det gör att fler brott klaras upp, men systemen är tränade framför allt på vita människor, vilket gör att de har svårare att korrekt identifiera mörkhyade. Så mörkhyade blir felaktigt misstänkta i ganska stor utsträckning. Det öppnar för svåra etiska frågor som det kan vara givande att diskutera med eleverna.

Vad har du sett av hur språkmodellerna påverkar elevernas svenska språk? 
– Man kan se att eleverna efterapar modellernas språk, till exempel med fler tankstreck eller versal förstabokstav på viktiga ord i rubriker, som ”Ny Studie Visar att Människor Använder AI för Mycket”. Det är inte bara att de använder AI för att generera text utan också att de möter den här typen av texter och tror att det ska vara så. 

Och det här inställsamma språket som Chat GPT har, till exempel att den så ofta svarar ”Jag förstår”? Ser du det hos elever? 
– Och att den säger förlåt? Nej, men det skulle inte förvåna mig om det kommer. Språk förändras ju av användarna. Det som är unikt nu är att språket också påverkas av hur de här modellerna använder det. Troligtvis kommer det att spela roll i framtiden. 

Jag mötte en ung man som berättade att han tack vare Chat GPT kan formulera mejl som han känner sig trygg med. Det kunde han inte innan. Rättvist, menar han.
– På sätt och vis har han ju rätt. Men han har samtidigt berövat sig själv möjligheten att utveckla sitt skrivande. 

Är det säkert? Kanske lär han sig av att se hur AI förbättrar hans skrivande? 
– Här kommer det vi kallar expertparadoxen in. När jag genererar ett utkast till ett mejl så tittar jag på texten jag får ut och så fixar jag tills jag blir nöjd. Den förmåga jag behöver för att avgöra om det här är bra eller inte har jag själv byggt upp genom att läsa och skriva mycket. Men om du inte är den där duktiga skribenten så ser du inte vad som blir bra och mindre bra. 

– Man ska vara medveten om att många av de här problemen inte är nya. AI gör dem bara mer påtagliga och tvingar fram en ökad medvetenhet om ett problem som redan fanns. 

Då tänker du på elever som får hjälp med läxorna av sina högutbildade föräldrar? 
– Exempelvis. I och med avancerad AI kan alla elever få den typen av hjälp. Inte bara eliten, om man uttrycker sig så. På ett sätt är det mer demokratiskt. Och då kan det bli lite provocerande att vi först nu tycker att vi måste ta tag i detta. Men ur ett utbildningsperspektiv, om vi tänker att elever ska lära sig något, så är AI-användningen problematisk. Det blir en väldigt tydlig målkonflikt. 

Hur ser du på lärarnas egen kompetensutveckling i relation till det? 
– Om du är lärare och ber om en lektionsplanering så behöver du ha planerat och genomfört många lektioner för att se om det du får är bra eller inte. Har du inte den kompetensen och använder de här modellerna så får du inte chans att bygga upp din kompetens. 

Så hur ska mindre erfarna lärare hantera det? 
– De måste motivera sig själva att inte ta de genvägar som generativ AI möjliggör. 

Hur motiverar man sig själv till det? 
– Otroligt svårt! Jag tror att det faller på skolledaren att skapa förutsättningar. Till exempel genom att nya lärare kan arbeta lite mindre i klassrummet och få mer tid för planering. 

Om vi pratar om bedömning så menar ju många lärare att betygsgrundande hemuppgifter inte fungerar längre, i stället är det papper och penna i klassrummet som gäller. Är rätt tänkt?  
– Lärare går till tre olika typer av bedömningsformer. Papper och penna är ett. Ett annat är digitala provsystem som låser ner datorn så att du inte kommer åt AI-tjänsterna. Och så är det muntliga examinationer, att du får samtala på olika sätt. Det är inte dåligt, men om man undervisar i till exempel skönlitterärt skrivande blir ju sådant onaturligt, för man vill ju att eleverna ska kunna sitta hemma och fundera. Då bygger det på att man jobbar nära eleven och följer processen. Och det är resurskrävande. Men den typen av arbete måste också få finnas. 

– Det finns ett moraliskt problem med att utgå från att alla elever ska fuska. Forskning inom psykologi visar att om man har samtal om AI inför examinationer, där man som lärare uttrycker att man inte är naiv samtidigt som elever får uttrycka att de inte ska fuska, så har det god effekt. Problemet är om eleverna har väldigt mycket att förlora: ”Klarar du det här så kommer du vidare, annars är det stopp.” Då är det svårare. 

Men prov kan ju vara avgörande. 
– Ja, det största problemet är produktpedagogiken, att eleverna allt oftare förväntas prestera sådant som ska bedömas. Det hänger ihop med hur läroplanerna är formulerade. Skolan är ju målstyrd – i läroplanerna står vad elever ska kunna, uttryckt i ganska generella färdigheter. Men vad det faktiskt innebär och hur man ska ta sig dit lämnas åt läraren att tolka. Till det kommer att svensk skola sedan 90-talet är präglad av en kunskapssyn som kan förstås i termer av att vi förlänger oss själva med hjälp av olika verktyg.

– För skolorna är det också en resursfråga. Att ge elever tekniskt stöd som kompensation – att låta dem lyssna eller använda generativ AI på olika sätt – är billigt. 

Kan lärare själva ha användning av AI för bedömning och betygsättning? 
– Enligt EU:s AI-akt får lärare inte låta AI sköta betygsättning, men det sägs inget om att man inte får använda AI i bedömningsprocessen alls. Så det är upp till lärarna och skolledarna att tolka. Att till exempel rätta nationella prov i svenska tar lång tid och kan vara ganska tråkigt. Om du då har en magisk knapp som gör att bedömningen sker på ett bra sätt direkt så är det lockande att trycka på den. Är det dåligt? Ibland. För det första: Om en elev har ansträngt sig med en text så förtjänar texten att bli läst. För det andra: För att vara en bra lärare behöver du ha kännedom om vilka misstag eleverna gör, vad de kämpar med och tycker är svårt. Den kunskapen får du genom att jobba med bedömning. 

– Men samtidigt är vi människor ganska dåliga på att bedöma kvalitet. Olika lärare bedömer samma text olika och samma lärare kan bedöma samma text olika, beroende på när man läser texten. Så om vi leker med tanken att jag läser en text och även låter en AI läsa den och sedan jämför min bedömning med AI:ns så skulle det faktiskt kunna göra bedömningen bättre. Kombinationen av mänskligt omdöme och teknologi. 

Så om bedömningarna samstämmer vet man vilket betyg som är rimligt, men om bedömningarna diffar så behöver man titta på texten igen? 
– Ja, men om man lägger över det på AI bara för att effektivisera går processernas värde förlorat. 

Hur ska skolledare använda AI på ett effektivt och ansvarsfullt sätt? 
– Skolledaren har två uppgifter här. Den ena är att säkerställa att AI används i undervisningen och på ett sätt som inte urholkar lärandet och inte är integritetskränkande. Det kan du bara göra genom att lärare får bra fortbildning inom detta. Det borde finnas mer riktlinjer kring det, men i dag är det rektorerna som måste lösa det.

– Det andra är att säkerställa en hållbar digital infrastruktur där man kan dra nytta av de möjligheter AI ger. I skolan i dag används en myriad olika digitala system för att lägga schema, lägga upp skoluppgifter, ta närvaro, göra bedömningar, kommunicera med vårdnadshavare och så vidare. Systemen pratar inte med varandra. När min schemaläggare lägger ett schema så skulle jag ju vilja att det hamnade i min kalender, men så är det i regel inte i dag. Det skapar otroligt mycket merarbete. 

– Och som rektor vill du ju kunna samla in information. Till exempel: Hur många av eleverna som åt sen lunch hade underkänt i ett visst ämne? Den typen av frågor hade en AI kunnat svara på om den haft tillgång till informationen. 

Vad kan rektorn göra åt det? 
– Ställa krav på vilka system som köps in och på vilka grunder. Då måste rektorn vara medveten om att de här möjligheterna finns: system som pratar med varandra och där personuppgifter inte hanteras på ett sätt som bryter mot GDPR. Det är jätteviktigt. 

Hur ser du på risken att AI leder till att framtidens vuxna blir mindre intelligenta och kunniga än dagens? Min anekdotiska evidens är ungas lokalsinne, som jag tror har försämrats på grund av GPS-apparna. 
– Om vi ser till kognitiv förmåga, alltså att till exempel lösa matteuppgifter, så har man mätt det storskaligt på personer i 20-årsåldern i västvärlden sedan 1940-talet. Och då ser man att varje generation stabilt har presterat lite, lite bättre än den föregående. Fram till 1995, alltså de som är födda 1975. Sedan går det ner och vi blir i samma takt sämre. Det är väldigt tydligt. 

Varför? 
– Man har kunnat visa att det har med miljöfaktorer att göra. Någonting där har skiftat. Då är den misstänkta ”brottslingen” att vi överlåter kognitiva processer till teknologier. Om det är så, så kommer vi troligtvis se ett ökat fallande. I så fall är det mycket riskabelt att använda AI för att kognitivt avlasta oss ännu mer. 

Blir man också som individ mindre intelligent av att använda AI? 
– Det beror på vad man menar med intelligens, men klart är att om du använder AI för sådant som du själv behöver göra för att lära dig, då tränar du de förmågorna mindre. 

Nu har ju paradigmet i skoldebatten svängt från en-till-en-idealet till det som kallas ”från skärm till pärm”. Tror du att det kommer att svänga på samma sätt när det gäller AI om tio eller femton år? 
– Ja, om vi inte implementerar verktygen på ett klokt sätt. Jag menar att datorer och mobiltelefoner har tagit sig in i skolan på ett ogenomtänkt sätt. Man har sett användandet som ett värde i sig. Det finns en risk att vi gör om samma fel, men det behöver inte bli så. Vi har makt att styra detta och se till att teknologin förstärker de metoder vi vet fungerar. Sedan behöver vi separera det från att undervisa om AI – det kan man göra analogt. Men självklart måste elever på gymnasiet få testa och använda språkmodeller. 

Hur ser framtiden ut? Ser du något stort inom AI som kommer att påverka skolan? 
– Någon stor teknologisk landvinning inom AI, som en ny Chat GPT, kan jag inte förutse. Men vi kommer att se att de här systemen blir kraftfullare och det kommer ha en stor påverkan på samhället. Skolans uppgift har ju varit att skapa medborgare som kan försörja sig. Låt oss säga att AI tar över en massa jobb. Då kanske vi inte behöver arbeta så mycket. I det läget måste vi kanske prata om att minska arbetstiden och diskutera någon form av medborgarlön. Då kanske skolan kommer att handla mer om att vi ska leva väl och vara lyckliga.