Forsker ble misbrukt i KI-skandale. Nå skal han hjelpe kommunen å rydde opp

Etter å ha tabbet seg ut med feil bruk av kunstig intelligens, ber nå Tromsø kommune de berørte forskerne om hjelp til å formidle forskning korrekt.

Mann står og lytter på andre menn som snakker.

Ifølge KI har skoleforsker Thomas Nordahl vært med og skrevet en bok som ikke finnes. Nå vil han hjelpe Tromsø kommune med kvalitetssikring.

Foto: Cornelius Poppe/NTB

Tekst: Solveig Mikkelsen solveig.mikkelsen@khrono.no

Publisert 28.03.2025 - 14:00 Sist oppdatert 28.03.2025 - 15:29

— Jeg har vært i kontakt med professor Thomas Nordahl i dag og beklaget det som skjedde. Jeg har også spurt Nordahl om han kan være med og kvalitetssikre det videre arbeidet med kunnskapsgrunnlaget, sier Arne Christian Vangdal i Tromsø kommune.

Vangdal er prosjektleder for arbeidet med ny skolestruktur i kommunen. Han vil også beklage og be om hjelp fra professor Peder Haug ved Høgskulen i Volda, en annen av forskerne som er sitert på noe han ikke har skrevet.

kunstig intelligens

116 studenter felt for KI-fusk i fjor. Særlig én ting avslørte dem

Diktet opp forskning

iTromsø avslørte torsdag at det var store mangler i et kunnskapsgrunnlag Tromsø kommune har utarbeidet for å vurdere konsekvensene av å legge ned flere skoler og barnehager. Av 18 oppførte kilder i dokumentet kan bare sju spores opp. Ansatte har brukt kunstig intelligens (KI), som igjen har diktet opp referanser.

Blant annet vises det til Thomas Nordahl har vært med og skrevet boka: «Kvalitet i skolen: Læring, trivsel og relasjoner». Dette er ei bok som ikke finnes.

— Dette er virkelig uheldig. Jeg blir tillagt utsagn og argumenter som er uriktig og som jeg selv ikke har produsert. Det er veldig vanskelig, sier Nordahl til Khrono.

forskning

Nytt utvalg skal gi råd om kunstig intelligens i høyere utdanning

Vil bidra

Nordahl, som er professor ved Universitetet i Innlandet, setter pris på at kommunen har tatt kontakt og beklaget det som skjedde.

— Vangdal var ydmyk og sa at de har gjort feil. Det må jeg akseptere. Så spurte han om jeg kan bidra videre. Som forsker har du plikt til å stille opp når noen trenger et kunnskapsgrunnlag.

Nordahl understreker at han ikke skal skrive en vurdering, men lese gjennom og gi tilbakemeldinger og opplyse om det finnes annen relevant forskning.

Skoleforskeren trekker følgende lærdom av det som skjedde:

— Vi må være veldig forsiktige med å bruke KI uten kunnskap. Dette er en språkgenerator som svarer på spørsmål som blir stilt. Er du ikke god nok til å stille spørsmål og ikke god nok til vurdere svarene, så kommer du galt av sted, sier Nordahl.

Nå blir det en ekstern gransking av KI-bruken og om denne er i tråd med retningslinjene, skriver organisasjonsdirektør Mari Enoksen Hult i en e-post til de ansatte i Tromsø kommune, melder iTromsø.

På en pressekonferanse fredag ettermiddag sa kommunedirektør Stig Tore Johnsen at det som skjedde er brudd på kommunens retningslinjer,

— Retningslinjene er gode, men ikke brukt i denne saken.Vi skal ha menneskelig internkontroll framover. Dette viser at teknologien stiller oss overfor nye utfordringer, sa Johnsen.

Kunstig intelligens

Mener kunstig intelligens bør tillates på flere eksamener

— Må ettergå kilder

Morten Goodwin er professor i kunstig intelligens ved Universitetet i Agder. Han har også ledet Khronos KI-skole for å vise hva kunstig intelligens kan brukes til.

— Hadde dette vært en masteroppgave, ville det endt med juks og utestenging. Her er KI brukt helt feil. Å be ChatGPT om å komme med referanser, er feil måte å bruke KI på. Da outsourcer man tenkningen til ChatGPT, noe den ikke er laget for, sier han til Khrono.

Portrett av Morten Goodwin i campusmiljø — KI-professor Morten Goodwin: — Antakelig skjer slike skandaler hvor som helst.

Goodwin sier det er helt fint å bruke ChatGPT som sparringpartner eller til språkvask. Det er også innenfor å be om referanser, men da må man ettergå kildene.

— Dette må gå via den menneskelige hjernen, noe som tydeligvis ikke er gjort. Jeg er ikke motstander av at de bruker KI når de skriver rapporter, men de må bruke ChatGPT på en slik måte at den ikke finner på innhold.

Til NRK sier han at hvis man har erfaring med hvordan man skriver instrukser til ChatGPT, så er sjansen større for å unngå falske kilder.

Goodwin ser ikke bort fra at KI-skandalen i Tromsø også kan skje andre steder.

— Antakelig skjer det hvor som helst.

Khrono har tidligere fortalt om professor Anne Lise Fimreite, som erfarte at ChatGPT oppga ei bok hun hadde skrevet da hun ba om tips til relevant litteratur. Problemet var bare at boka ikke finnes.

— Dette litteratursøket mitt viser hvor utfordrende det kan være å bruke ChatGPT. En ting er litteratursøk. Da vil man jo kjapt finne ut om noe stemmer eller ikke. Men det er mye verre dersom man for eksempel stoler blindt på det man finner og bruker det i en bibliografi, sa Fimreite til Khrono.

Debatt ● Karianne Tung og Sigrun Aasland

Kan KI svekke likestillingskampen?

— Skandale!

Førsteamanuensis Jonas Stein ved Universitetet i Tromsø var klar i sin tale da han hørte om KI-skandalen:

— Dette er en av de større skandalene som har skjedd i offentlig sektor, sier han til Khrono.

Jonas Stein sier skandalen blir ekstra ille fordi nedlegging av skoler er en så viktig politisk sak for kommunen.

Stein understreker at debatten om skolestruktur i Tromsø kommune ikke er en fillesak, men en av de største politiske konfliktene de siste ti årene med enorm debatt og mange avisinnlegg.

— Saken her har berørt tusenvis av barn og unge og hele lokalsamfunnet. Jeg tar ikke stilling til saken, men innbyggerne er helt avhengige av at administrasjonen legger fram et kunnskapsgrunnlag som alle kan stole på. Det er superviktig.

Jonas Stein sier at man kan ikke forvente at politikerne skal lese seg opp på alt av kunnskapsgrunnlag, men det må man forvente at administrasjonen gjør, særlig når saken er så stor.

— Åtte skoler er foreslått nedlagt, noe som er basert på kunnskapsgrunnlaget. Denne saken er en så stor skandale og omfanget er kjempestort. Dette er ikke bare slurv med en referanse, men det er massivt med kilder som er feil.

— Kommer det flere slike skandaler?

— Ja, det tror jeg. Men vi får håpe at vi i fellesskap lærer av de skandalene som kommer.

fusk

Student brukte KI og fikk tidenes strengeste fuskestraff

— Hva med et kurs?

Prosjektleder Arne Christian Vangdal sier de nå undersøker hva som har skjedd.

— Det som skjedde med kunnskapsgrunnlaget er at vi ikke har kvalitetssikret svarene fra kunstig intelligens godt nok. Vi har skrivefeil, har puttet navn inn på feil plass og har brukt feil titler. Det er ett kapittel vi går gjennom og rydder opp i.

Avsløringene førte til at kommunen nå har stoppet høringsarbeidet om nedlegging av skoler og utsetter saken med et halvt år, ifølge NRK.

— Kan det være en idé med et KI-kurs for kommunens ansatte?

— Vi burde definitivt brukt KI på en annen måte. Da ville sikkert et kurs kunne hjulpet. Nå blir det viktig å få laget et forslag som er basert på best mulig kunnskapsgrunnlag, sier Vangdal.

Oppdatert kl. 15.00: Tromsø kommune vil ha en ekstern gransking av bruken av KI i skolesaken. Kl. 15.3: Kommentar fra kommunedirektøren fra en pressekonferanse i regi av kommunen.