To chat or not to chat

ChatGPT har gjennom de siste ukene fått stort søkelys og vært mye debattert innen utdanning og forskning. Spørsmålene vi får om dette fra mediene, retter seg for det meste mot eksamen, innleveringer, juks og plagiering.

Brukte kunstig intelligens til å skrive sammendrag – slik gikk det

For å ha en kunnskapsbasert debatt om dette og lignende verktøy er det viktig å forstå hva disse er. Den enkleste måten er kanskje å tenke på dem som meget avanserte statistiske verktøy som utgir det mest sannsynlige og relevante svaret ut fra datagrunnlaget de er trent på.

Verktøy basert på kunstig intelligens og maskinlæring har de siste årene gitt store vitenskapelige fremskritt innen mange fagområder, spesielt naturfag og medisin. Mange beregninger som er for tidkrevende for tradisjonelle algoritmer, blir håndtert av maskinlæringsalgoritmer på en effektiv måte. Det finnes dog feilmarginer i beregninger og feilkilder i treningsdata. Maskinlæringsalgoritmer har også gjort sitt inntog i saksbehandling hos for eksempel forsikringsselskaper og banker. Siden algoritmene trenes blant annet på tidligere saker, er det fare for at de gjentar eventuelle feil og fordommer som ligger i saksbehandlinger foretatt av mennesker. Dette har åpnet opp for diskusjon og bevissthet rundt problemstillinger som diskriminering, partiskhet, rettferdighet og personvern.

Det som er nytt med ChatGPT er at den er veldig god til å kommunisere på menneskelig språk takket være de nyeste fremskrittene innen språkmodeller i maskinlæring. Dette, i tillegg til at den er gratis tilgjengelig, har gjort at teknologien nå er tilgjengelig for alle uansett kunnskapsnivå og fagområde.

Bekymringene rundt juks og plagiering innen utdanning er betimelig, og fagmiljøene bør tenke gjennom etiske og juridiske retningslinjer for bruken av slike verktøy. Det er foreløpig stor variasjon mellom fagområdene når det gjelder kvaliteten av oppgaveløsninger som ChatGPT foreslår. Samtidig som man diskuterer tiltak og eventuelle sanksjoner mot bruk, er det viktig at alle som underviser og sensurerer gjør seg kjent med verktøyene, prøver dem ut i sine fagområder og ser mulighetene og utfordringene innen læring og vurdering.

Bruken er ikke nødvendigvis slik at man stiller et spørsmål, får et svar og klipper og limer inn svaret direkte i en innlevering. ChatGPT er i stand til å kommunisere på en mer avansert måte. Man kan kommentere på svaret eller teksten som produseres og be om et nytt forslag, og utbedre tekstforslaget med egne input over flere iterasjoner. Hvordan beskriver vi best denne interaksjonen? Har man brukt ChatGPT eller samhandlet med den, og hvem har preget teksten mest? Slike spørsmål blir viktige når det skal arbeides med rammer og retningslinjer over hva som kan være godkjent brukt og hva som skal defineres som juks. Dette kan være avhengig av fagområde og den som underviser og utformer oppgavene.

ChatGPT

Robotevangeliet

I og med at tekstene og løsningsforslagene fra ChatGPT baserer seg på statistikk over data som verktøyet har trent på, kan de potensielt gi nye innsikter og initiere refleksjoner hos brukeren. ChatGPT kan også lage spørsmål basert på et tema eller en gitt pensumbok. Slik åpner det seg muligheter for å kunne bruke ChatGPT og lignende verktøy som hjelp til læring.

I våre arbeidshverdager i akademia har vi oppgaver som å skrive rapporter, notater, brev, introduksjonstekster og lignende. Dette er stort sett rutinemessig arbeid som går ut på å oppsummere eller gjengi kjent og tilgjengelig informasjon. Er det akseptabelt å ta ChatGPT og lignende verktøy til hjelp i slike oppgaver?

Uansett er det viktig å være klar over hva man får når man tar i bruk verktøy basert på maskinlæring. Sammenligning med for eksempel en kalkulator blir feil fordi en kalkulator alltid gir det samme svaret på samme spørsmål, mens ChatGPT kan gi ulike svar på samme spørsmål, i og med at den er basert på statistikk og sannsynligheter. For å kunne benytte seg av teknologien på en hensiktsmessig måte, må brukeren være klar over feilkildene og ikke minst datagrunnlaget. Er verktøyet blitt trent på et representativt datasett eller er det trent til å fremme en bestemt ideologi på en subtil måte? Har det lært å navigere unna diskriminerende utfall av tidligere saksbehandlinger?

Hvordan man skal stille spørsmål og interagere med slike verktøy er en ferdighet som kommer til å bli viktig fremover. Det blir avgjørende å kunne detektere feilkilder, partiskhet og eventuell propaganda.

Utfordringene og mulighetene er mange og store. Teknologien er her og vi må forholde oss til den uansett om vi er bekymret eller begeistret. Den beste måten vi kan forberede oss som samfunn er at alle får en viss grunnleggende kunnskap om hvordan kunstig intelligens og maskinlæring fungerer. For utdannings- og forskningssektoren er det viktig med gode diskusjoner, slik at det kan tilrettelegges for fagområdene å finne sin vei rundt problemstillingene og definere sine egne retningslinjer for bruk.

Ved Universitetet i Bergen arbeider vi med å belyse problemstillingene og mulighetene i kunstig intelligens ved å arrangere seminarer, konferanser, debatter og møter om temaet. For våre studenter begynte vi høsten 2022 å tilby en pakke med småemner innen digital kunnskap på tema som algoritmer og programmering, kunstig intelligens, GDPR og personvern, datasamling og -analyse, og digitalisering og demokrati. Disse emnene er tilgjengelige for alle studenter uansett studieprogram og nivå. Vi ser dette som et første steg på å tilby grunnleggende digital kunnskap til alle våre studenter og ansatte og etter hvert til hele samfunnet.

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.