LES VIDERE ETTER ANNONSEN
FÅ NYHETER PÅ MOBILEN
Last ned Khrono-appen!
Student forsøkte å lure sensor med falsk video: — Spesielt og urovekkende
Personen på videoen hadde perfekt spansk uttale, men gjorde også elementære feil. — En helt ny type sak, sier fagansvarlig Hans Jacob Ohldieck.
Publisert
På årsstudiet i spansk ved Universitetet i Sørøst-Norge skal studentene blant annet levere inn egenproduserte videoer over et gitt tema, der de snakker spansk.
— Av og til er det noen tekniske utfordringer, som at videoer henger seg opp. Men denne pekte seg litt ut, sier fagansvarlig Hans Jacob Ohldieck.
Den norske studenten hadde perfekt spansk uttale, men hun gjorde innimellom helt elementære feil. Det var tydelig nivåforskjell innad i den muntlige presentasjonen. Noen ord uttalte hun systematisk med engelsk aksent. Og bildet av kandidaten hadde et «uklart og kunstig preg».
I alt leverte studenten inn tre ulike videoer høsten 2023. Det var to arbeidskrav, samt del av en eksamen, i to emner.
Alle hadde slike snodige trekk. Det var manglende samsvar mellom tale og munn. Til tross for sitt høye nivå, uttalte studenten kjente referanser som Buenos Aires og navnet Jorge Luis Borges — en berømt forfatter — helt feil.
— Dette er en helt ny type sak for oss, vi har ikke hatt lignende tilfeller, forteller Ohldieck.
Hadde aldri truffet studenten
Universitetets enhet for digitalisering og utdanningskvalitet tok en titt på videoene. De hadde heller ingen erfaring med slike problemstillinger, men mente videoene kunne tyde på fusk.
Årsstudiet er et nett- og samlingsbasert studium. Siden studenten ikke hadde møtt opp på samlingene, hadde ikke foreleserne møtt henne personlig.
De kalte henne inn til en samtale for å undersøke om hun snakket spansk på det nivået hun ga inntrykk av, men fikk ikke svar.
Ble felt for fusk
Saken ble etter hvert behandlet som en fuskesak, og det endte med at hun ble felt for fusk av Nemnd for studentsaker.
Nemnda mente videoene var falske.
Slike såkalte «deepfake»-videoer, der man lager en falsk versjon av stemmen og ansiktet til personer, florerer på nettet, og det finnes en rekke gratis verktøy for å lage slike.
En slik video, der en falsk programleder Fredrik Solvang lurte seerne til Debatten på NRK, vekket oppsikt tidligere i år.
Utestengt i ett år
Reaksjonen for studenten ble annullering av to arbeidskrav og en eksamen, samt utestengelse begge semestrene i 2024.
Nemnda skriver:
«Nemnda legger til grunn at det objektivt sett foreligger fusk i denne saken, og viser til sensors uttalelse der det fremgår at det er avdekket i de tre besvarelsene at studenten har en «kunstig og mekanisk stemme og uttale», at det er «manglende samsvar mellom tale og munnens bevegelser», «ansiktet ser manipulert ut», og studenten uttaler kjente ord på feil måte, samt at besvarelsene har «et generelt nivå som er typisk for AI- genererte tekster».
Ifølge sakspapirene har hun også innrømmet bruk av kunstig intelligens (KI) ved utarbeidelse av besvarelsene, uten at dette utdypes nærmere i sakspapirene.
Det står at hun ikke har levert noen skriftlig uttalelse til nemnda, og hun har trukket seg fra studieprogrammet
— Ikke forberedt på
Khrono har ikke selv sett videoene, universitetet ønsker ikke å dele dem.
— Hva tenkte du da du fikk se videoene?
— Jeg syntes det var spesielt og urovekkende, sier fagansvarlig Hans Jacob Ohldieck.
Han sier at de har erfaring med kunstig intelligens, og at dette er høyt på agendaen deres.
— Men at vi fikk en manipulert video, det var vi ikke forberedt på. Det er jo samtidig en slags advarsel. Nå var ikke dette så raffinert at man ikke kunne oppdage det. Men denne formen for juks vil bli mer raffinert. Det gjør at det blir utfordrende å bruke disse videoene som en del av vurderingsgrunnlaget.
Han sier at slike videoer har vært nyttige, blant annet siden det har vært lett å gi tilbakemeldinger på språk og uttale.
De bruker videoer i stor grad som en slags trening for studentene fram mot eksamen.
Vil endre eksamensform
På grunn av framveksten av kunstig intelligens, kommer de nå sannsynligvis til å endre eksamensform.
— Der må vi nå stramme opp, tenker jeg, både ved hjelp av skoleeksamener og muntlige eksamener i sanntid, sier Ohldieck.
Når det gjelder obligatoriske innleveringer, inkludert videoer, er universitetet i tenkeboksen.
— Vi kommer til å gjøre noe. Men denne typen øvingsoppgave er verdifull for studentene, så jeg er litt usikker på hvordan vi skal legge det om.
På spansk opplever de at mange studenter bruker KI i skriftlige innleveringer.
— På de skriftlige innleveringene det siste året vil jeg anslå at mellom en fjerdedel og en femtedel har tydelig bruk av kunstig intelligens, i veldig omfattende grad.
— Men det er ikke så mange som blir tatt for fusk?
— Nei, det er en stor utfordring å bevise fusk i denne sammenhengen, og dette er en utfordring vi også diskuterer med kolleger fra andre fag. På grunn av den omfattende bruken av KI, vil én løsning kunne være å gjøre de obligatoriske innleveringene mindre åpne og mer knyttet til bestemte pensumtekster, samtidig som det varierer fra emne til emne hvor hensiktsmessig og gjennomførbart dette er.
Inga Strümke: — Litt naivt
Ekspert på kunstig intelligens, Inga Strümke, er ikke overrasket over at falske videoer har nådd høyere utdanning.
— Det er jo veldig lett å bruke, særlig hvis man er villig til å bruke litt penger. Så det er ikke overraskende at de får til å bruke det. Men det overrasker meg at når de først bruker tid på å studere, velger å jukse seg gjennom det, sier NTNU-forskeren.
Hun synes det virker litt naivt av universitet å be studenter på et nettstudium sende inn videoer.
— For et par år siden ville det vært en helt kurant måte å evaluere på. Nå er det selvfølgelig større sannsynlighet for at folk fusker. Det er nok litt naivt å be studentene sende inn ferdig innspilte videoer. Da kan jo sitte å fikle på den og regenerere til man er fornøyd, sier hun.
