”En AI ska inte sätta betyg”

Det är slitigt att vara AI-expert i dessa dagar. Olof Mogren, forskningsledare på statliga institutet Rise i Göteborg, har kommit med morgontåget till Stockholm och tagit en solig promenad till Kungliga Ingenjörsvetenskapsakademien på Östermalm där han har hållit en presentation om tekniken bakom AI, ”det som finns under huven”. Så snart han har samtalat klart med LÄRA ska han logga in på ett skärmmöte med kollegerna på Rise innan han framåt kvällen får kliva på tåget tillbaka till Göteborg.

Sedan AI-verktyget Chat GPT började spridas i breda kretsar förra året har det talats om AI med skräckblandad förtjusning. Men vad är egentligen AI?

– AI är det vi tidigare trodde att det krävdes mänsklig intelligens för och som i dag kan göras av en dator. Eller som vi försöker få en dator att göra. En central del är inlärningsförmåga. Vi människor behöver lära oss mycket för att kunna resonera om saker och ting. Därför är maskininlärning en viktig del av AI. Det är, kan man säga, när ett program går igenom data och lär sig något utifrån det.

– Ett exempel kan vara att skilja mellan katter och hundar på bild. Då talar en människa först om för programmet att på den där bilden är det en katt och på den där bilden är det en hund. Sedan får programmet gå igenom massor med bilder och avgöra om de föreställer katter eller hundar. Det är det vi kallar snäv AI – den kan lösa en uppgift och ingenting annat.

– Nu har en del börjat fråga sig om Chat GPT är en snäv AI eller om den är något mer, något som liknar mänsklig intelligens. För en människa kan inte riktigt vara snäv. Vi kan inte få en människa som tittar på bilder att bara kunna klassificera hundar och katter, utan en människa ser alltid en hel del annat och lär sig då också en massa annat. Detta kallar vi för generell intelligens. Och att utveckla generell intelligens har alltid varit en dröm för många som utvecklar AI. Att vi en vacker dag kanske kan göra en dator som är generellt intelligent.

Det är alltså det som kallas artificiell generell intelligens. Har Chat GPT det?

– Nej, den är tränad för vissa uppgifter som den löser bra i ganska många fall. Men lite sämre i andra fall.

Vad är det den kan?

– Den kan svara på frågor. Det har den lärt sig utifrån att läsa en väldig massa text. Det innebär inte bara att den memorerar fakta, det verkar också som att den kan föra vissa logiska resonemang. Och när man tränar den med frågor så lär den sig att abstrahera utifrån de här resonemangen och att presentera fakta i en ny kontext, med andra ord. Men den hittar på saker också. Det kan man fundera på: är det kanske också en aspekt av intelligens? Att kunna ljuga.

Ja, eller att fantisera?

– Precis. Det är ju på gott och ont. Den har blivit bra på att svara på frågor, men den gör fel, både faktafel och logiska fel. Och fel som inte en människa skulle göra. Här kan man nämna att på 50-talet så var det en framstående forskare inom datavetenskap som hette Alan Turing. Han presenterade det som senare skulle kallas Turingtestet. Det går ut på att en dator får chatta med en människa och lyckas datorn lura människan att den är en människa så har datorn klarat Turingtestet.

Finns det datorer eller chattbottar som klarar det nu?

– Det har hävdats att en dator klarade det 2014. Det var en chattbot som hade en persona och som utgav sig för att vara en tonåring från Ryssland, vilket kunde förklara att den inte var perfekt på engelska. Den lyckades övertyga en del av en jury om att den var en människa. Men Turingtestet är mest ett tankeexperiment, jag tror inte man har testat Chat GPT till exempel. Skulle den klara testet? Kanske. Den har ju i alla fall hästlängder bättre språklig kvalitet än en bot hade 2014.

Vad kan en lärare använda AI till?

– I dag och med en ganska kort horisont kan lärare få hjälp med vissa arbetsuppgifter. Det ser jag själv i mitt jobb, jag använder Chat GPT till vissa saker. Jag kan ge den instruktioner – till exempel att jag vill argumentera för något – och så ber jag den skriva ett stycke om det. Det kan vara ett sätt att komma i gång i min egen skrivprocess. Men jag nöjer mig aldrig med det jag får ut, jag skriver alltid om det.

– AI kan även användas för att formulera texter. Om du ger den instruktioner med rätt nivå av finkornighet kan du få en välformulerad text till svar. Chattformatet i botar som Chat GPT kan också användas som en form av assistent. Man kan till exempel göra frågesporter.

Kan den också vara användbar för lektionsplanering? Om jag ska ha en lektion om vindkraft i en högstadieklass, kan jag då be Chat GPT att planera den lektionen?

– Det kan du säkert göra. Du kan ju ge den ett resonemang utifrån tankar som du har.

Räcker det inte med att skriva till exempel: kan du föreslå hur jag ska lägga upp en lektion om vindkraft för 15-åringar?

– Jag tror att det kan räcka, den kan fylla i saker. Den kan kolla upp vad som är viktigt inom vindkraft, resonera om det och koppla in fler källor. Just detta är en av dess styrkor. Om man jämför med att använda en sökmotor så ger AI information från olika håll som bakas ihop på ett ganska snyggt sätt.

– Men sedan skulle jag inte titta mig blind på en lektionsplanering som gjorts av en AI. Det är nog bättre att använda den för att göra en egen planering – kolla igenom om allt ser okej ut och modifiera det så att det blir som man själv vill ha det.

Kan en lärare använda AI för bedömning? Till exempel mata in elevuppsatser och bedömningskriterier och få fram ett förslag på omdöme?

– Den är inte gjord för att sätta ett betyg från F till A på till exempel en uppsats. Det hade jag verkligen inte överlåtit till den. Men ett delsteg i bedömning är väl att svara på frågan: vad innehöll uppsatsen, vilka var de viktiga poängerna som eleven skrev om? Det tror jag att Chat GPT kan hjälpa till med i dag. Och jag antar att det finns många som skulle välkomna att de mer mekaniska arbetsuppgifterna överlåts på en maskin. Om du har 150 uppsatser eller 150 svar på en provfråga kan du låta en maskininlärningsmodell gå igenom dem och kanske koka ner vart och ett: vilka viktiga punkter fick eleven med? Och vilka viktiga punkter fick eleven inte med?

Kan en AI också avgöra om ett provsvar är tillräckligt analytiskt?

– Jag skulle gissa att någonstans där finns det begränsningar i dag. En kollega som undervisar på universitetet fick en inlämning av en student i två versioner, en som studenten skrivit och en som Chat GPT skrivit. Och det var inte svårt att avgöra vilken som var vilken. Den som Chat GPT skrivit hade inte det djup som förväntades. Den skulle ha blivit underkänd.

På grund av risken för just den typen av fusk avråder Skolverket nu från betygsgrundande hemuppgifter. Är det en klok rekommendation?

– Ja, det är nog det enda rimliga. Men inte heller tidigare har det väl varit så bra att ha betygsgrundande hemuppgifter. Det har alltid kunnat vara en förälder eller en kompis som har skrivit svaret.

Så vad kan elever som inte vill fuska ha Chat GPT till?

– De kan till exempel chatta med den på ett annat språk. Jag kan chatta på tyska och när jag har haft en dialog så kan jag be den att tala om vad jag hade kunnat göra bättre i mina frågor och svar. Det tror jag kan vara ett jättebra sätt att lära sig sådana saker.

Är den tillräckligt tillförlitlig? Är den tillräckligt bra på tyska?

– Det finns alltid möjlighet att den gör fel.

Men det kan ju en tysklärare också göra?

– Absolut. Man kan inte sätta ribban högre än vad man gör för människor. Och vissa saker underlättas, på samma sätt som en miniräknare har underlättat arbetet för matematiker eller elever och studenter som lär sig matematik. Miniräknaren har ju inte ersatt den mänskliga hjärnan, den bara underlättar.

Men en miniräknare räknar ju aldrig fel.

– Nej, det gör den inte. Men om en elev chattar med Chat GPT på till exempel tyska så kanske det räcker att den är 99 procent korrekt.

Sedan har vi de mjuka värdena. Hur känns det för en elev att få beröm av en AI jämfört med av en lärare?

– Jag tror att människor behövs. Men sedan kan det säkert ändå betyda någonting om det plingar till på en skärm. Skolorna använder ju i dag spel i undervisningen. Som Seterra i geografin, eleverna klickar i platsnamn, precis som vi gjorde på papper som en lärare rättade. Nu är det i stället systemet som säger att du hade nio av tio rätt. Och det är ju något som eleverna tar till sig.

Men känns det lika bra som när en lärare böjer sig över en och ger en klapp på axeln?

– Vi kommer alltid att behöva mänsklig kontakt. I synnerhet när det gäller lärare och elever. Det är svårt att tänka sig att en AI kan ersätta det.

Det här med deepfake, alltså bilder eller klipp där personer ses göra något som de inte gjort, det kan ju fascinera ungdomar. Hur ska skolan hantera det?

– Det ställer krav på skolan och lärarna. Jag tror att eleverna behöver komma i kontakt med tekniken och testa den för att se vad den gör. Och jag tror att det är nödvändigt att lärare då bäddar in källkritik: tänk på att det du ser kan vara fel.

Finns det en risk då att unga människor blir cyniska? Att de ser en riktig nyhetsbild från kriget i Ukraina och tänker att det är fejk?

– Det kan absolut vara ett problem. I framtiden kommer människor vilja veta om något är verkligt. En lösning kan bli end-to-end-certifiering, det vill säga om SVT skulle använda en bild som är AI-genererad så står det att den är det. Så att vi kan hitta publicister som vi litar på.

Ett problem för skolan är att en AI sällan anger källorna till det den presenterar. Hur kan man hantera det?

– Man kan fråga den vilka källor den har använt. Men det händer då och då att den anger källor som inte existerar. Då kan man ju inte använda informationen.

– Man ska också veta att Chat GPT har bias. Ber du den säga ett namn på en vd så säger den förmodligen ett manligt namn och ber du om ett namn på en sjuksköterska säger den förmodligen ett kvinnligt. Ska vi låta våra barn utsättas för det? Det är ett problem vi måste tänka på nu.

Jag trodde att den kanske skulle vara mindre fördomsfull än människor.

– Den har ju tränats på data från människor. Under förträningsskedet går den urskillningslöst igenom väldigt stora mängder text från internet. Där finns allt möjligt, alla vanliga biaser som vi människor bär på och förmedlar, medvetet eller omedvetet. Men i sista träningsskedet har den tränats av människor som fått instruktioner om att det den svarar ska vara snyggt, till exempel att se till så att AI:n inte hyllar Hitler.

Så det är människor som har gett AI moral?

– Ja, och då spelar kultur in. För det är vita män i USA som har definierat vad de tycker är vettigt moraliskt. Ett exempel är något som heter My AI på Snapchat. Den är baserad på Chat GPT men riktar sig till barn. Ett problem är att den har gett tips på hur man får ut det bästa av marijuana.

En del ungdomar menar ju att de inte ska behöva smälla i sig faktakunskaper eftersom allt finns på nätet. Vilken betydelse har Chat GPT då?

– Den debatten föddes säkert redan när miniräknaren kom. Varför skulle man då kunna multiplikationstabellen? Men AI kanske förstärker de argumenten.

Är det så att man faktiskt inte behöver lära sig lika mycket fakta? Eller behöver man ändå ha med sig alla dessa faktakunskaper för att kunna granska svaren man får från AI-modellerna?

– Jag tror att folk kommer att fortsätta lära sig saker för att det är intressant och roligt.

Det tycker inte alla tolvåringar.

– Nej. Chat GPT har ju inte förändrat det, vi kan redan googla allt, men det blir mer lättillgängligt. Folk tycker att dialogformatet är väldigt smidigt. Och eleverna kanske lär sig en massa fakta när de chattar. Om det blir ett roligt sätt att bli utsatt för information så är det kanske något positivt.

Som att de lär sig engelska när de spelar datorspel?

– Ja. Men sedan behöver skolan hjälpa eleverna att vara allsidiga, för jag tror att man mår bättre som människa om man är det. Man kanske behöver traggla lite multiplikationstabell och Hallands åar. Och jag tror inte att man ska stryka slöjd eller musik från schemat, även om datorer kan skriva musik och få den att låta väldigt bra också.

Och 3D-skrivare kan göra slöjd.

– Precis. Är det ett skäl till att människor inte ska slöjda? Det tror jag inte alls. Även om det blir så i framtiden att allt vi använder är gjort av 3D-skrivare så finns det ett behov hos människor att få göra saker med händerna.

Menar du att faktakunskapen i den mänskliga hjärnan fyller samma sorts funktion?

– Det tror jag. Vi pratade om miniräknaren förut, den var ju folk också rädda för. Det kan finnas forskning som visar att folk har blivit sämre på huvudräkning sedan dess, det vet jag inte, men det har i alla fall visat sig att man inte blir korkad om man använder miniräknare. Man kan lära sig ganska bra saker ändå. Det kanske kommer att bli en liknande effekt av Chat GPT. Vi får hoppas att det inte skiter sig totalt med den mänskliga intelligensen.

Vi har också några problem som närmast är juridiska. Om en lärare använder Chat GPT så lagras data i USA. Hur samspelar det med till exempel GDPR?

– Om du lägger in en text med namnen på dina elever, då faller det under GDPR eftersom det är information om personer. Och då tror jag inte att den informationen får lagras i USA. Men om man inte uttryckligen säger nej till det så ger man företaget bakom Chat GPT rätt att använda informationen i träningen av sina modeller.

Kan en skola förbjuda Chat GPT?

– Juridiskt är det inga problem. Läraren kan säga till eleverna att de ska skriva själva – då har man i princip förbjudit dem att använda Chat GPT. Och rent tekniskt kan skolan blockera det med en brandvägg. Det finns redan i dag skolor som har filter i sina wifinätverk, till exempel mot porr. Men sedan finns det alltid brister i tekniken, det kommer att gå att hacka sig förbi. Och elever har ofta mobiler som är uppkopplade på nätet.

– Sedan är förstås frågan: bör man förbjuda Chat GPT? Vad skulle målet med det vara? Jag tror att elever behöver lära sig ny teknik. Kanske vissa uppgifter kan göras med hjälp av AI och andra utan?

Skolminister Lotta Edholm (L) säger att hon vill bromsa digitaliseringen av skolan. Vad betyder det för AI?

– Det kan påverka. AI är en viktig del av digitaliseringen.

En av de mest betydelsefulla AI-utvecklarna, Geoff Hinton, har sagt att AI:s IQ inom några år kommer att öka från dagens kanske 80–90 till över 200. Då kan en AI, menar han, manipulera oss utan att vi förstår det och till exempel driva fram krafter som leder till en politisk kupp. Vad tror du?

– Geoff Hinton är naturligtvis en framstående forskare, men att vi inte förstår allt hos en sådan modell betyder inte att den har ett medvetande eller att den vill oss illa. Vi har ju också väldigt liten insyn i vad som händer i hjärnan, vad varje neuron gör vet vi inte. Jag har svårt att se att vi skulle få onda mördarrobotar som tar över.

Det är inte riktigt det Hinton varnar för. Han menar att vi måste föreställa oss scenarier där vi tappar kontrollen över en AI som sprider falsk information och triggar folk att ta avstånd från demokratiska system. Den svenske AI-forskaren Max Tegmark varnade för liknande scenarier i sitt sommarprat i år.

– Ja, bara sociala medier gör ju att vårt samhälle hamnar i en otrevlig situation. Det finns förstås risker med vilka värderingar de här systemen premierar. Det är svåra och viktiga frågor.

Vad kan man göra åt det om man jobbar med detta som du gör?

– Vi behöver titta på hur vi reglerar detta, och det gör vi i dag. Men förutom demokratikrisen har vi ju även klimatkrisen. Jag jobbar med hur maskininlärning kan användas inom miljöarbete och för att stärka samhällets motståndskraft i en framtida klimatkris. Där finns många skäl till att vi ska använda och utveckla de här teknikerna.

Sverige är ett teknikoptimistiskt land. Vi hakar på nya idéer snabbt. Kan det finnas en rädsla hos svenska experter och beslutsfattare att framstå som teknikfientliga och gammalmodiga? Att det är sådant som gör att vi springer för snabbt på AI-bollen nu?

– Vi är inte de som springer snabbast på AI-bollen. Mycket mer av utvecklingen sker ju i USA. Men under den förra regeringen togs ett politiskt beslut om att vi skulle vara världsledande i användningen av AI. Och det kan vi vara, om vi lägger in det kritiska tänkandet i det. Vi kan bli bäst i världen på att använda AI och vara bra på att veta när och hur vi ska använda den. Och jag tycker att vi ligger bra till.