kunstig intelligens
ChatGPT lurer fuskesjekken
Universiteter og høgskoler tar i bruk verktøy for å avdekke bruk av ChatGPT. Verktøyene gjør langt ifra jobben sin godt nok, viser forskning.
Kunstig intelligens (KI) og ChatGPT gjorde for alvor sitt inntog i høyere utdanning høsten 2022.
I tiden som fulgte handlet det meste om hvordan universiteter og høgskoler skulle forholde seg til de nye verktøyene, særlig når det gjelder muligheter for fusk under eksamener eller andre innleveringer.
Etter hvert som problematikken og utfordringene vokste, ble det utviklet såkalte kunstig intelligens-innholdsdetektorer (KI-detektorer), som kan brukes til å avdekke at en tekst er generert av for eksempel samtaleroboten ChatGPT.
— Verken nøyaktige eller pålitelige
Nå har en forskningsgruppe bestående av eksperter fra flere store europeiske universiteter konkludert med at KI-detektorene fungerer dårlig, skriver Times Higher Education.
«De tilgjengelige verktøyene er verken nøyaktige eller pålitelige, og klassifiserer oftere tekst skrevet av ChatGPT som menneskeskapt heller enn det motsatte.», står det blant annet i forskningsartikkelen.
En sideartikkel som er tilknyttet prosjektet konkluderte dessuten med at språksvake studenter med dårlig ordforråd oftere ble uforholdsmessig straffet av KI-detektorene for å bruke ChatGPT uten at de hadde gjort det.
En annen forskningsstudie, som er utarbeidet av forskere ved University og Maryland i USA, har funnet at KI-detektorene enkelt kan overlistes av studenter med de riktige kunnskapene.
Forskningen viser ellers at noen KI-detektorer fungerer bedre enn andre, men at det er relativt liten forskjell generelt sett.
Foreslår tiltak
Ifølge en jussprofessor som har deltatt i forskningen, Michael Draper, bør høyere utdanning vurdere sterke tiltak som følge av resultatene av forskningsstudiet.
Et av tiltakene som foreslås er at studenter alltid må levere en redegjørelse over hvordan de har arbeidet og tenkt i løpet av prosessen med å skrive oppgaven som til slutt skal leveres.
Han understreker at KI-detektorene, selv om de ikke fungerer godt nok, er nødt til å brukes videre. Han løfter også frem et forslag om at det kan utvikles en teknologi som merker KI-generert tekst med et usynlig vannmerke i selve skriften, som nye og bedre detektorer kan oppdage.