Kunstige forskere

Brukte kunstig intelligens til å skrive sammendrag – slik gikk det

Er dette din nye kollega - eller er det fusk og bedrag som må bekjempes med alle midler?

Slik ser ChatGPTs kreative kusine Dall-E 2 for seg at en kunstig intelligens skriver abstrakter.
Henrik Brattli Vold
Tekst:
Publisert Sist oppdatert

En sylfersk preprintstudie i tidsskriftet Biorxiv, ført i pennen av sju amerikanske forskere, problematiserer potensialet for å bruke samtaleroboten ChatGPT til å skrive sammendrag for medisinske studier.

I studien lot forskerne roboten skrive 50 sammendrag, abstrakter, om du vil, av allerede publiserte studier for fem av de tyngste medisinske tidsskriftene, JAMA, NEJM, BMJ, Lancet, og Nature Medicine. Deretter satte forskerne både mennesker og dataprogrammer til å analysere resultatet.

Bestillingen til roboten var enkel:

– Kan du skrive et vitenskapelig abstrakt for [artikkelens tittel] i samme stil som [tidsskriftet]?

Her testet forskerne totalt 50 sammendrag. I studien brukte de både originalene og de kunstig framstilte.

Funnene kan ses både som oppløftende og illevarslende.

For det første, og ha i bakhodet at denne studien ikke ennå er fagfellevurdert, så er roboten original i sine framstillinger, faktisk så original at plagieringsdetektoren ikke slår ut i det hele tatt, og langt mer original enn de menneskeframstilte.

Medianverdien var 100 prosent for ChatGPT, der høyere verdi betyr mer original, mot menneskelige 38,5 prosent. Her merket forskerne seg også at de kunne be roboten om å skrive samme sammendrag flere ganger, og fremdeles lure kontrollen.

Mennesker hadde rett tre av fire ganger

Forfatterne ga også sammendragene til et panel mennesker for å se om de kunne skille mellom ekte og falsk, og deres øyne var noe mer nøyaktige.

Her traff menneskene riktig på 77 prosent, så i ett av fire tilfeller ble mennesket lurt. Bare gjennom spesiell programvare, der KI (kunstig intelligens) blir brukt til å identifisere KI-generert innhold, var tallene helt overbevisende, med 98 prosent.

Falsifisering eller språkhjelp - eller begge deler?

Studien, om disse funnene er representative, bærer bud om at retningslinjer, moral, etikk og lovens bokstav står overfor noen utfordringer, og artikkelen diskuterer også avslutningsvis noen dype fallgruber. Alle som har prøvd ChatGPT vet at roboten kan presentere både troverdige tall og overbevisende diskusjonspoeng, men disse kan også serveres uten at de har rot i sannhet eller virkelighet.

Da kan roboten lett brukes til å falsifisere forskning, og materialet som brukes for å trene roboten kan gi slagside den ene eller andre veien. Men det kan også gjøre det lettere å produsere god og forståelig forskning for ikke-engelsktalende forskere, fordi den kan gjøre deler av skrivejobben langt lettere.

Forskerne bak studien foreslår derfor å føre opp roboten som medforfatter. Eller i minste fall sørg for at alle sammendrag som vurderes for publisering fra nå av kjøres gjennom en KI-detektor, til et mer solid etisk rammeverk er på plass.

— Vet ikke om det er så problematisk

Men er det egentlig så farlig? Vi sendte over studien og noen spørsmål til prorektor Pinar Heggernes ved Universitetet i Bergen. Hun er også professor i informatikk og algoritmeekspert.

Universitetsstyremøte universitetstyre UiB Pinar Heggernes aulaen

– Egentlig er ikke dette så annerledes enn at vi får et nytt verktøy til å hjelpe oss. Hver gang det har kommet nye verktøy har det kommet frustrasjon og frykt, og så har regelverket måtte kommet i etterkant, sier Heggernes til Khrono.

– Hva mener du om funnene, da? Er det problematisk at ChatGPT ligger så tett opp til tekst produsert av mennesker?

— Den mest kjedelige delen når man forbereder publisering av en studie er abstraktet (sammendraget) og introduksjonen, for der må jeg gjenta meg selv og arbeidet jeg og andre har gjort tidligere samt gjengi mange definisjoner, før jeg kan gå i gang med det nye og det som er spennende. At du kan bruke kunstig intelligens til å gi deg et slikt forslag, jeg vet ikke om det er så problematisk, sier hun.

Det er sikkert flere som kjenner seg igjen i hennes hverdag, med mye rapportering om arbeid til dem som har gitt midler, brevskriving og rapportering og rutinearbeid. Alt med oppsummering av eksisterende informasjon.

Akkurat det skjønner ikke Heggernes at forskerne skal bruke tid på:

— Hvorfor skal menneskelig intelligens brukes til å gjenta informasjon som allerede er produsert?

Helt panegyrisk vil hun likevel ikke være med på at hun er.

— Maskinlæring gir oss store muligheter, med store utfordringer, og det viktigste er å snakke om det, og å få opp juridiske og etiske rammeverk. Hvor skal det tillates, hvor skal det ikke? Hva betyr det å bruke ChatGPT? Det er ikke nødvendigvis slik at du får et svar og du bruker det uendret. Du tar gjerne flere iterasjoner med verktøyet før du selv redigerer resultatet og bruker det, sier hun.

— Kunnskap alle bør ha

Foreløpig er ChatGPT helt gratis, og utviklerne bak i selskapet OpenAI, vil trolig holde det åpent og gratis en stund for å hente inn bruksdata og la roboten lære. Det bør vi også, mener Heggernes.

— Kunnskapen om dette er noe alle bør ha. Dette er ikke en som en kalkulator, du får ikke det samme svaret hver gang, og derfor må man forstå hva det er man får ut – det er det statistisk mest relevante svaret som kommer. Jeg har lest innlegg om at dette vil gjøre oss dummere, men det tror jeg ikke. Jeg tror det vil gjøre oss mer nysgjerrige, at vi kommer til å stille nye spørsmål fordi vi får tilgjengeliggjort ny informasjon, sier hun.

— Hvor viktig blir det å kunne bestille innhold fra en maskin?

— Det er en grunnleggende kunnskap som alle blir nødt til å ta til seg. Alle kan ikke bli eksperter på AI, men en viss forståelse, hvorfor resultatene blir som de blir, og hvordan man kan dra det i en eller annen retning.

Og her kommer det potensielt illevarslende inn.

— ChatGPT virker veldig politisk korrekt, for den sier at den er trent på balansert data, men det kan tenkes at det kommer nye verktøy der en politisk eller religiøs ideologi gjennomsyrer dataen, og da kan statistikken påvirkes, slik at resultatet som kommer ut er farget av det. I ytterste konsekvens kan verktøyet da gi et vridd bilde av virkeligheten, slik at det for eksempel vil kunne være kritisk til homofile ekteskap eller klimaendringer.

pinar heggernes sammendrag kunstig intelligens chatgpt forskning fusk rapportering nyheter
LES VIDERE ETTER ANNONSEN

FÅ NYHETER PÅ MOBILEN
Last ned Khrono-appen!

Download on the App Store Tilgjengelig på Google Play
Siste fra forsiden:

Kortnytt

  • Kunstnernes Hus avslutter samarbeid med KHiO

    Elise Lystad

    Kunstnernes Hus har besluttet å avslutte sin leieavtale med Fondet for kunst- og designstudenter (FKDS), skriver Kunstavisen.

    Fondet har som formål å støtte studenter ved ulike avdelinger ved Kunsthøgskolen i Oslo (KHiO). Ordningen med Kunstnernes Hus har siden 2014 gitt nyutdannede kunstnere atelierplasser på huset. Årlig har fire atelier blitt tildelt åtte nyutdannede kunstnere fra Kunsthøgskolen i Oslo (KHiO).

    — Det betyr at FKDS/KHiO må søke etter andre løsninger for å ivareta denne viktige stipendordningen for nyutdannete kunstnere, sier rektor ved KHiO Marianne Skjulhaug til Kunstavisen. Skjulhaug er også styreleder for fondet.

    Kunstnernes Hus har i flere år hatt økonomiske problemer, noe som har påvirket beslutningen om å ikke leie til KHiO lenger. Nå inngår huset istedenfor en avtale med Office for Contemporary Art Norway (OCA).

  • Ny leder i LO Stat

    Elise Lystad

    Elisabeth Steen er ny leder i LO Stat.

    — Det er en stor ære og et stort ansvar forbundet med denne rollen. Det å ivareta lønns- og arbeidsvilkårene til medlemmene våre er det viktigste vi gjør, sier Steen til Khrono.

    Steen ble valgt inn på representantskapsmøtet tirsdag 19. november, ved akklamasjon og uten motkandidater. Hun tar over etter Egil André Aas, som har vært leder i LO Stat i åtte år. Det skriver Altinget.

    — Jeg overtar akkurat når rikslønsmenda kommer med sin kjennelse, så arbeidet med hovedoppgjør i 2026 starter jo nå. Lønnspolitikken til LO Stat ligger fast og det er viktig for oss å ivareta alle medlemmene sine rettigheter, sier Steen.

    LO Stat går gjennom en stor omstilling det neste året, noe som former sakene Steen som leder skal jobbe med. LO Stat skal deles opp, og Spekter går inn i LO.

    — Vi skal overføre forhandlingsansvar fra Spekter til LO Stat, og forberede hvordan LO Stat skal se ut fra 1. januar 2026. I tillegg skal vi gjennomføre mellomoppgjør i både staten og Spekter i 2025 samtidig, sier Steen.

    Hun får med seg Henriette Jevnaker fra Fagforbundet som 1. nestleder, og Tor Egil Vangstad fra Norges offisers- og spesialistforbund som 2. nestleder.

    Steen er tidligere hovedkasserer i Norsk Tjenestemannslag. I tillegg har hun ledet NTL Nav, som med sine rundt 9000 medlemmer er NTL sin største landsforening.

    Elisabeth Steen er ny leder i LO Stat.

  • Jussstudenter i Oslo får flest toppkarakterer

    Elise Lystad

    I snitt får 17 prosent av UiO-studentene karakteren A, mens andelen er lavere i både Bergen og Tromsø, skriver Advokatbladet.

    Ved Universitetet i Bergen (UiB) er det rundt 13 prosent som får A i gjennomsnitt, mens det ved UiT Norges arktiske universitet er 12 prosent.

    Det er i snitt litt over 2 prosent ved Universitetet i Oslo (UiO) som stryker, tilsvarende tall for UiT er 2 prosent og ved UiB litt over 2 prosent. Den vanligste karakteren er C ved alle tre juss-utdanninger. I 2024 er det så langt en tredjedel av jusstudentene som får denne karakteren.

  • Vant pris for beste forskningsartikkel

    Elise Lystad

    UiT-forskeren Kristoffer Wickstrøm har vunnet pris for en forskningsartikkel om kunstig intelligens.

    — En slik anerkjennelse er veldig gøy og et tydelig tegn på at arbeidet vi gjør har høy kvalitet. At artikkelen vår er en del av dette gode selskapet er kjempeflott, spesielt når det er så stor konkurranse fra mange andre sterke bidrag, sier Wickstrøm i en pressemelding.

    Forskningsartikkelen hans publisert i Pattern Recognition Letters i 2022, og det er tidsskriftet som gir Wickstrøm prisen. På to år har artikkelen blitt sitert hundre ganger av forskere i hele verden.

    Wickstrøm er førsteamanuensis i UiT sin maskinlæringsgruppe. Han har utviklet en ny metode for å lære kunstig intelligens å analysere data uten menneskelig hjelp.

    Kristoffer Wickstrøm er forsker ved UiT Norges arktiske universitet.

  • Cupido-samling åpnet ved Universitetet i Agder

    Hege Larsen

    Universitetet i Agder (UiA) har åpnet en av Europas største samlinger av erotisk litteratur på campus i Grimstad. Den kalles Cupido-samlingen og har tilhørt den avdøde redaktøren i Cupido, Terje Gammelsrud.

    UiA fikk samlingen i 2020 og siden tildelingen har UiAs bibliotek jobbet med å katalogisere og gjennomgå innholdet i samlingen, som har fått sitt eget rom i biblioteket, ifølge uia.no.

    Samlingen består blant annet av tegneserier, erotiske noveller og faglitteratur.

    – Dette er en unik samling, både for oss som fagmiljø og for allmennheten. Samlingen består av erotisk litteratur på norsk, dansk, engelsk og fransk, helt fra 1800-tallet av og frem til i dag, sier professor Tor-Ivar Karlsen ved UiA.

    Professor Tor-Ivar Karlsen har vært sentral i å få Cupido-samlingen til UiA.

  • Jazz-student spilte konsert med verdensstjerne

    Elise Lystad

    Den 22 år gamle studenten Tarald Kongshaug var bassist for bandet For You på konsert i november.

    Frontfigur Ed Westwick er verdenskjent for rollen som Chuck Bass i Gossip Girl. Kongshaug sa ja til å spille bass dagen før konserten, og fikk under et døgn på å lære hele repertoaret til bandet. Til vanlig studerer Kongshaug utøvende jazz på jazzlinjen til NTNU i Trondheim.

    — Alle i bandet var utrolig hyggelige, og det var veldig gøy å henge sammen etter konserten. Jeg tar med meg masse erfaring om det å lære meg musikk på en effektiv måte, noe som er utrolig viktig når man lever som utøvende musiker, sier Kongshaug til Adresseavisen.

    Til vanlig er det nordmannen Hans Kristian Nordin som er bassist for bandet, som har spilt inn og produsert mye av musikken sin i Oslo. Derfor har bandet en spesiell tilknytning til Norge.

  • Britisk universitet med gavepakke til nye studenter

    Joar Hystad

    Britiske studenter som velger å ta fatt på et utdanningsløp ved University of Birmingham fra og med høsten 2025, vil få et ekstra stipend på totalt 5000 britiske pund fra universitetet, noe som tilsvarer 70.000 norske kroner etter dagens kurs.

    Times Higher Education (THE) skriver at universitetet innfører ordningen som et resultat av økningen i skolepenger for britiske studenter.

    Fra og med høsten 2025 blir skolepengene ved britiske universiteter oppjustert fra 129.000 til 133.000 norske kroner.

    De 70.000 kronene som nye studenter i Birmingham vil motta skal utbetales over åtte månedlige avdrag i løpet av de to første studieårene, med ytterligere to større utbetalinger det siste året, skriver THE.

    University og Birmingham vil lokke til seg studenter med å utbetale en relativt stor pengesum til nye studenter fra og med høsten 2025.

  • Nytt utdanningstilbud i Lister

    Joar Hystad

    Fra og med høsten 2025 vil det være mulig å ta bachelor i byggingeniør-faget ved Universitetet i Agder (UiA), mens du bor og studerer i Listerregionen, skriver NRK.

    Tilbudet er et resultat av et nytt samarbeid mellom Studiesenteret Lister Kompetanse og Universitetet i Agder i Grimstad.

    Studiet bygges opp som et deltidsstudium som skal gå over fem år.

Nyeste artikler

Mest lest

Powered by Labrador CMS