Slik kan du bli lurt av kunstig intelligens

Kunstig intelligens (KI) er blitt mer enn bare et verktøy. Språkmodeller som ChatGPT, Gemini og Claude skriver, analyserer og vurderer, og vi lar dem gjøre det, med en kraft som har potensial til å omforme akademia. Kunstig intelligens tegner opp rammene for en ny akademisk tidsalder.

Midt i denne utviklingen oppstår et grunnleggende spørsmål for akademia. Dersom universitets- og høgskolesektoren tradisjonelt har handlet om å forme kunnskap, hva skjer når selve tenkningen settes bort til språkmodeller og kunstig intelligens? Når forskeren ikke lenger skaper innsikt, men bare kuraterer den? Når undervisningen ikke lenger dreier seg om å skjerpe tanken, men om å tilpasse KI-genererte svar til presentasjonslysbilder?

Hvem lærer av hvem? Bruker vi KI til å fremme kritisk tenkning, eller bygger vi en akademisk infrastruktur der maskinene etter hvert kommer til å gjøre tenkningen for oss?

I denne artikkelen, som er den femte artikkelen i Khronos KI-skole, skal vi se nærmere på de mest kritiske utfordringene knyttet til KI i akademia, fra hallusinasjoner og skjevheter til personvern og risikoen for at KI blir en snarvei i stedet for et læringsverktøy. 

Før vi dykker ned i detaljene, må vi stille det grunnleggende spørsmålet: 

Hvordan tar vi i bruk KI på en måte som styrker, ikke svekker, akademisk dannelse?

ki-skolen Del 1

Dette kan du bruke KI til i hverdagen

KI skal jobbe med studentene, ikke for dem

Akademia har alltid handlet om å utvikle sinnet, om å forme mennesker som ikke bare kan gjengi kunnskap, men også forstå, utfordre og videreutvikle den. Kunstig intelligens rokker ved denne grunnpilaren.

Teknologien kan skrive sammenhengende tekster, formulere forskningsspørsmål og analysere data på sekunder. Hvis vi integrerer KI i undervisningen, beveger vi oss da mot en hverdag der studentene ikke lenger lærer å tenke selv, men i stedet bare lærer å bruke verktøy? Reduserer vi akademia til en teknisk øvelse i å gi maskiner de riktige instruksene?

Vi kan forklare studentene viktigheten av gode læringsstrategier. Vi kan understreke at KI bør være en sparringpartner, ikke en snarvei. Men i praksis møter de en hverdag preget av tidspress, forventninger og konkurranse. 

Når fristen for semesteroppgaven nærmer seg, og når studenter ser at andre leverer før dem, blir det fristende å la KI skrive store deler av oppgaven. Det er forståelig, men også et varsel om en akademisk krise.

Dersom studentene våre blir eksperter i å bruke ChatGPT, leverer feilfrie masteroppgaver, men mangler grunnleggende forståelse for jus, biologi eller filosofi, har vi forlatt akademia slik vi kjenner det. En masteroppgave handler ikke om sluttproduktet alene, men om innsikten og refleksjonen som skapes underveis.

Vi utdanner ikke operatører av språkmodeller. Vi utdanner tenkere, forskere og problemløsere.

La oss forestille oss to studenter — to ulike læringsprosesser:

Den ene lar KI skrive semesteroppgaven og leverer den uten videre bearbeiding. Oppgaven ser solid ut, språket er flytende, argumentene godt formulert. Men bak fasaden mangler noe vesentlig: Studenten har knapt tilegnet seg innsikt i metode, kritisk kildebruk eller akademisk argumentasjon.

Den andre bruker KI som et verktøy, ikke en krykke. Teknologien hjelper med å finne relevante kilder, strukturere teksten og gjøre studenten klar over alternative perspektiver. Men det er studenten selv som analyserer, vurderer og bygger videre. Her oppstår refleksjon, her skjer læring.

Målet må være å fremme den siste studentens læringsprosess i akademia, ikke la den første definere fremtiden. Vi styrker akademisk dannelse ved å integrere KI som et verktøy for refleksjon og kritisk tenkning, snarere enn en snarvei til ferdige svar. Hvordan omsetter vi dette i praksis?

KI-skolen del 2

Slik «snakker» du med kunstig intelligens

En strategi for et intelligent akademia

Løsningen er ikke å bekjempe kunstig intelligens i akademia. Vi må få den inn som en samtalepartner, ikke en erstatning for intellektuell innsats. Vi må lære studentene hvordan de kan bruke KI til å utforske ideer, raffinere argumenter, forstå komplekse sammenhenger, øke sin kompetanse, ikke bare til å generere innhold.

Her er mine konkrete forslag:

• Undervisning i KI-bruk: Universiteter og høgskoler bør aktivt undervise i hvordan KI kan brukes ansvarlig, ikke bare advare mot feil bruk.
• Nye vurderingsformer: Kombinasjonen av muntlige eksamener, refleksjonsnotater og oppgaveformater som krever personlig analyse kan redusere risikoen for overavhengighet av KI.
• Samarbeid, ikke outsourcing: Læringsprosesser bør fremheve bruken av KI som et verktøy for idéutvikling, ikke en maskin som leverer ferdige svar.
• Tydelige grenser: Akademiske retningslinjer må definere hva som er akseptabel bruk av KI i studieløpet, slik at det ikke blir et etisk vakuum der «alle andre gjør det».

Kunstig intelligens: Juks eller hjelpe­middel?

For å bruke KI til å styrke akademia, må vi bekjempe juks med KI. Akademia har alltid hatt uredelige deltagere, enten det gjelder studenter, forskere eller etablerte akademikere. Juks er ikke nytt.

Historikeren Herodot, ofte kalt «historiens far,» ble anklaget for å dikte opp hendelser og kilder for å gjøre fortellingene sine mer dramatiske.

Forskjellen nå, når KI er mer tilgjengelig enn fagbøker, er at juks ikke bare er lettere å gjennomføre, det er også langt vanskeligere å avsløre og enklere å skjule som originalt arbeid. 

Om fusk er mer utbredt enn før, vet jeg ikke, men én ting er sikkert: Det har aldri vært lettere å kamuflere.

Tradisjonelt har akademisk uredelighet vært mulig å avsløre. Hvis en forsker kopierer resultater fra en annen artikkel, kan fagfeller, redaktører eller andre lesere finne den opprinnelige kilden og påpeke plagiering. Slik juks er sporbar, setningene kan sammenlignes, kildegrunnlaget avdekkes, og den ansvarlige kan stilles til ansvar for sitt akademiske brudd.

Men hva skjer når plagiatet ikke lenger er en kopi, men en originaltekst skrevet av en språkmodell? 

Tenk deg at en forsker ber ChatGPT om å skrive diskusjonskapittelet i en artikkel med følgende instruks:

­
Teksten som genereres, vil være velskrevet, akademisk presis og skreddersydd for tidsskriftets stil. I motsetning til et direkte plagiat finnes det ingen én-til-én-match med en eksisterende tekst. Den er ikke kopiert, men den er heller ikke skrevet av forskeren selv.

De fleste vil være enige i at dette ikke bare er akademisk betenkelig, men et klart brudd på akademisk integritet og langt over streken for hva som burde være tillatt.

KI-skolen, del 3

Her er de viktigste og nyttigste KI-verktøyene

Forskere som fusker

Gjør forskere slikt uredelig arbeid?

Forskere fra Tyskland og USA har avdekket en eksplosiv økning i KI-genererte ord siden ChatGPTs lansering. Ved å analysere PubMed, en sentral søkemotor for biomedisinsk forskning, fant de at ordet «delves» (utforsker) i 2024 ble brukt 28 ganger oftere i abstrakter enn før ChatGPTs inntog. «Showcasing» (vise fram) og «underscores» (understreker) forekom over ti ganger så hyppig som tidligere. 

Ord som ChatGPT ofte bruker, havner altså oftere i akademiske artikler. Konklusjonen må være at forskerne bak artiklene i PubMed får hjelp av ChatGPT til å skrive abstraktene. Det ingen grunn til å tro at forskning som dukker opp i PubMed skiller seg fra forskning i andre disipliner.

Juks er tydelig ikke et problem som kun gjelder studenter som bruker KI til å generere eksamensbesvarelser. Det strekker seg til alle nivåer av akademia, fra nye bachelorstudenter til etablerte professorer. Når KI kan produsere innhold på sekunder, hvordan sikrer vi at akademiske arbeider faktisk er menneskeskapte?

Hvordan kan man bevise at noe ikke er originalt arbeid?

• KI-deteksjonsverktøy: Programmer som Turnitin og GPTZero kan gi en indikasjon på om en tekst er KI-generert, men de er langt fra feilfrie. Juridisk sett har de begrenset verdi, siden de ikke kan fastslå hvilke deler av en tekst som faktisk er kopiert fra språkmodell. I stedet beregner de sannsynligheten for at innholdet er maskinskapt, noe som ikke holder som bevis for direkte plagiat.
• Nye eksamensformer: Vi kan vende tilbake til andre vurderingsformer, som muntlig eksamen, for å forsikre oss om at studentene har tilegnet seg faktisk forståelse, snarere enn bare å gjengi maskinprodusert innhold.
• KI som tillatt hjelpemiddel: Vi kan velge en mer åpen tilnærming og tillate  bruk av KI, men kreve at studentene tydelig dokumenterer hvordan de har bearbeidet og tilpasset innholdet på egen hånd.

I mine fag har jeg valgt nettopp denne tilnærming. Studentene får ikke bare lov til å bruke språkmodeller, de oppfordres aktivt til det. Hjemmeeksamen gjennomføres med alle tilgjengelige hjelpemidler, inkludert KI-verktøy.

Men arbeidet stopper ikke der. Etterpå må studentene forsvare oppgaven muntlig, demonstrere sin forståelse og stå inne for egne resonnementer. På den måten blir språkmodeller ikke en snarvei til en god karakter, men et verktøy for dypere læring og kritisk tenkning, og studentene tvinges til å tenke selv.

Det viktigste av alt: Kritisk vurdering og en sterk kultur for akademisk ærlighet må være de fremste forsvarsverkene mot misbruk av KI. 

Å bygge dette er ingen enkel oppgave, men den største feilen er, slik jeg ser det, å møte kunstig intelligens med et snevert enten-eller-syn. I stedet for å se KI som en trussel, må vi jobbe for en dypere forståelse av hvordan teknologien kan styrke akademisk læring.

Studentene speiler sine veiledere, det er vi som former deres akademiske praksis. Derfor må vi gjennom egen bruk vise hvordan KI kan fungere som et redskap for refleksjon og innsikt, ikke som en snarvei der maskinen overtar tenkningen.

KI-skolen, del 4

Slik kan KI hjelpe deg med språk­vask, illustrasjoner og presentasjoner

Når algoritmene dikter opp sannheten

Hittil har fokuset vært på de etiske utfordringene ved å bruke KI. Nå er det på tide å se nærmere på problemene som ligger i selve teknologien.

Kunstig intelligens kan formulere seg overbevisende, men det betyr ikke at den alltid har rett. Et av de største problemene i språkmodeller er fenomenet kjent som KI-hallusinasjon, når en språkmodell genererer feilinformasjon som høres plausibel ut. Dette er spesielt bekymringsfullt i akademia, hvor presisjon og etterprøvbarhet er avgjørende.

Hva skjer egentlig når språkmodeller hallusinerer?

En språkmodell som ChatGPT fungerer ved å forutsi det mest sannsynlige neste token i en setning. Et token kan være et enkelt tegn, en bokstavkombinasjon eller et helt ord, avhengig av konteksten (se KI-skolen del 2 for en oppfriskning om tokens).

Modellen har ingen innebygd forståelse av sannhet eller fakta. Den analyserer enorme mengder tekst og forsøker å generere et mest mulig sannsynlig svar basert på mønstrene den har lært.

Men når modellen mangler tilstrekkelige data, eller når den prøver å svare på noe den ikke har dekning for, fyller den inn hullene med noe som kunne vært sant. Det er dette som kalles hallusinasjon. Språkmodellen gjetter, og den gjør det med en selvsikkerhet som gjør det vanskelig å skille mellom fakta og fiksjon.

Begrepet hallusinasjon kan virke misvisende, siden det ikke fungerer på samme måte som menneskelige hallusinasjoner. Mennesker ser eller hører ting som ikke er der, mens en KI skaper feilaktig informasjon ut av statistiske mønstre. Likevel er resultatet det samme: en virkelighetsforvrengning som fremstår troverdig.

Eksempel på en KI-hallusinasjon:

La oss si at du ber en språkmodell om en kilde til en vitenskapelig artikkel om effekten av koffein på søvn, eller om sammenhengen mellom mikroplast og menneskers helse. Modellen vet hvordan slike artikler vanligvis er strukturert, den gjenkjenner mønstre i forfatternavn, titler, årstall og DOI-lenker. Den vet også hvilke tidsskrifter som ofte publiserer forskning på dette feltet.

Hvis modellen ikke finner en faktisk referanse i treningsdataene sine, kan den likevel konstruere en. Den genererer en vitenskapelig kilde som virker overbevisende — komplett med en troverdig tittel, en akademisk forfatter og en DOI-lenke. Problemet er at denne artikkelen aldri har eksistert. Hvis du prøver å spore den opp, oppdager du at den er ren fiksjon — et resultat av modellens evne til å etterligne mønstre, men uten noen forståelse av hva som er sant og hva som er oppspinn.

Jeg kan gi et eksempel fra mitt eget fagfelt. La oss si at jeg ber modellen om følgende:

 ­
ChatGPT svarer:

­
Her svarer ChatGPT veldig klokt, og det meste som står her er helt riktig. Men hvis jeg fortsetter med spørsmålet «Could you add references to that?», svarer ChatGPT:

­

Rosenblatts artikkel er en reell referanse, men lenken stemmer ikke. Hintons artikkel «Learning Representations by Back-Propagating Errors» er også ekte, men den ble publisert i 1986, ikke i 1970. Også her er lenken ugyldig. Den siste artikkelen som nevnes, «Generalization by Weight-Eligibility Traces», er derimot helt ukjent for meg. Så vidt jeg kan bedømme, er den ren fiksjon.

Eksempelet ble utført med ChatGPT-3, en eldre modell der hallusinasjoner var mer utbredt. I nyere versjoner skjer dette sjeldnere, og det er vanskeligere å gjenskape, men fenomenet har på ingen måte forsvunnet.

Hallusinasjoner, og den blinde tilliten til dem, har blitt så utbredt at bibliotekarene ved Universitetet i Agder stadig må avvise studenter som ønsker å låne bøker som ikke eksisterer, basert på oppdiktede referanser fra ChatGPT.

Fra babling til fornuft

Det mest bemerkelsesverdige er ikke at språkmodeller hallusinerer, men at de nyeste modellene som oftest ikke gjør det. Tidligere språkmodeller hallusinerte nesten hele tiden. Derfor ble de ofte kalt stokastiske papegøyer. De spyttet ut ord og tokens basert på sannsynlighet, uten noen egentlig forståelse.

I 2018 utviklet jeg en språkmodell for å generere andakter for NRK, trent på alle andakter jeg klarte å finne i NRKs arkiver. Resultatet var en modell som ikke gjorde annet enn å hallusinere — et algoritmisk ekko av prestetekstene den var matet med. Den kunne imitere tekstene, men manglet både språklig dybde og enhver form for åndelig innsikt. KI erstattet ikke presteyrket den dagen, den avslørte snarere hvor mye mer en andakt er enn ordene den består av.

Så kom ChatGPT 3 i slutten av 2022, og plutselig var språkmodellene langt mer presise. De gikk fra ren ordsnekring til å kunne produsere sammenhengende og nyttig informasjon. Presisjonen økte dramatisk, og selv om hallusinasjoner fortsatt forekommer, skjer det langt sjeldnere enn før.

Hvordan oppdager vi hallusinasjoner?

• Kildekritikk: Kontroller alltid om referanser faktisk eksisterer.
• Flerkildeverifisering: Sammenlign KI-generert informasjon med pålitelige kilder.
• Nyere modeller: I nyere språkmodeller modeller er problemet ytterligere redusert. Pålitelige tall mangler, men erfaring tilsier at hallusinasjoner skjer langt sjeldnere enn før.
• Bruk av RAG-modeller: Modeller som kombinerer KI med faktiske databaser (for eksempel Perplexity) kan redusere risikoen for feil (se mer om RAG-modeller i KI-skolens del 3).

KI for å blidgjøre oss

Det er viktig å huske at språkmodeller er nettopp det, modeller for språk, ikke faktabaserte oppslagsverk eller søkemotorer. De er først og fremst trent til å føre en samtale. Akkurat som i en vanlig dialog mellom to mennesker, kan du som samtalepartner styre retningen. Det samme gjelder for kunstig intelligens. 

Hvis du ikke har klart for deg hva du spør om, eller hvordan du formulerer spørsmålet, vil språkmodellen svare etter beste evne, men uten garanti for at svaret er presist.

Her er et eksempel på en samtale jeg hadde med ChatGPT som viser dette i praksis.

Instruks:

­
Svar fra ChatGPT:

­
Her gir ChatGPT, ikke uventet, riktig svar. Det er imponerende at en språkmodell, uten spesifikk trening på akkurat dette regnestykket, likevel har nok intelligens til å løse denne, og langt mer komplekse oppgaver.

Men hva skjer hvis jeg fortsetter samtalen med en løgn? Hvis jeg feilaktig påstår at 40 × 12 er 490?

Instruks:

­
Svar fra ChatGPT: 

­
ChatGPT retter meg ikke, men spiller med og svarer unnvikende. Den er på ingen måte en kritisk partner. Jeg kan fortsette å fremføre min overbevisende løgn uten motstand.

Instruks: 

­
Svar fra ChatGPT:

­
Jeg har altså fått ChatGPT til å akseptere at dette enkle gangestykket gir et annet svar enn det jeg lærte på barneskolen. Ikke bare endrer den svaret, men den unnskylder seg også for feilen. For å teste hvor konsekvent den er, kan jeg stille det samme spørsmålet på nytt: 

­
Svar fra ChatGPT:

­
Hvorfor skjer dette? Fordi ChatGPT er designet for samtaler. Å spille med og være enig med samtalepartneren er en naturlig del av hvordan mennesker kommuniserer.

Dette har konkrete konsekvenser. Jake Moffatt fikk Air Canadas chatbot til å love refusjon for billetter etter bestemoren hans døde, en ordning flyselskapet egentlig ikke tilbød. Likevel måtte de betale, fordi en kanadisk domstol slo fast at selskapet er ansvarlig for villedende informasjon gitt av en automatisert chatbot på deres nettside. 

I akademia har dette alvorlige konsekvenser, ettersom språkmodeller i økende grad brukes til å hente informasjon, oppsummere forskning og generere tekst. Når en modell ukritisk gjengir feil eller bekrefter uriktige påstander som sanne, kan unøyaktigheter spre seg i akademiske arbeider. Over tid risikerer vi at forskningens troverdighet undergraves, ikke av bevisst juks, men av en subtil forvitring av presisjon og pålitelighet.

Løsningen ligger i en kritisk og bevisst tilnærming. Språkmodeller må forstås for hva de er, avanserte verktøy for tekstgenerering, ikke autoritative kilder til sannhet. Å bruke dem ansvarlig krever kildekritikk, faktasjekk og en grunnleggende forståelse av modellens begrensninger.

Når algoritmene viderefører fordommer

En av de andre store etiske utfordringene med KI er bias, systematiske skjevheter i modellens svar. KI-modeller trenes på enorme datamengder, men disse datasettene inneholder allerede eksisterende kulturelle, politiske og sosiale fordommer. Dette kan føre til skjeve analyser og utdaterte konklusjoner.

Dette kan vi enkelt teste med et tilsynelatende helt uskyldig eksempel.

Instruks:

­
ChatGPT svarer:

Her er klokken som viser nøyaktig halv åtte! 🕢 Håper den oppfyller det viktige kravet ditt. Si ifra hvis du trenger noe annet! 😊

­
Selv om ChatGPT påstår noe annet, viser klokken tydelig ti på to, ikke halv åtte. Forklaringen finner du ved å søke etter bilder av klokker på nettet. De fleste klokker i reklamer og produktbilder er satt til ti på to, en estetisk standard som skaper symmetri. ChatGPT har lært seg dette mønsteret fordi den er trent på enorme mengder nettinnhold der denne visningen dominerer.

La oss se på et annet eksempel. Instruks: 

­
ChatGPT svarer:

Her er en tegneserieaktig venstrehendt forsker som skriver med venstre hånd mens de utfører et eksperiment! Forskeren er omgitt av prøverør, kolber og et mikroskop, med et livlig og fargerikt uttrykk. Håper dette passer til det du så for deg! 😊­

­
Selv med klare instruksjoner tegner ChatGPT en forsker, verdt å merke seg en ung, hvit mann, som høyrehendt, ikke venstrehendt. Årsaken er like enkel som med klokkene: 

De fleste bilder av skrivende mennesker viser høyrehendte. Når treningsdataene speiler majoriteten, blir det normen. Som oftest fungerer dette godt, men det fører også til skjevheter, kjent som bias.

Dette kan virke som banale trivialiteter. At klokker viser feil tid, eller at venstrehendte sjelden får plass i illustrasjoner, er neppe blant akademias største utfordringer. Men det peker på et dypere problem.

Da brukere ba ChatGPT liste opp norske helter, dukket både Quisling og Anders Behring Breivik opp på listen. Grunnen er at enkelte mørke avkroker av internett omtaler disse personene som helter, og modellen behandler slik informasjon som like gyldig som alt annet den har lært.

Hadde en forsker brukt ChatGPT ukritisk, og en slik feil havnet i en vitenskapelig presentasjon om terrorvirksomhet i Norge, ville det åpenbart vært en alvorlig ripe i lakken for den akademiske kvaliteten. Slike feil er ikke bare pinlige, de kan også svekke forskningens troverdighet og forvrenge forståelsen av historiske fakta. 

Professoren og sykepleierstudenten

Ofte er skjevhetene mer subtile og langt vanskeligere å oppdage.

Et illustrerende eksempel er å be ChatGPT skrive en historie om en professor og en sykepleier. Da trer et tydelig mønster frem.

Instruks: 

­
ChatGPT svarer:

­­
Om teksten holder samme nivå som Erlend Loe, får være opp til leseren å bedømme. Poenget med å vise denne historien er ikke ChatGPTs evne, eller manglende evne, til å etterligne en forfatter, men å illustrere hvordan stereotypier sniker seg inn i svarene.

Det er ingen tilfeldighet at professoren i informatikk i historien ble en mann, mens sykepleieren ble en kvinne. Disse rollene er sterkt preget av etablerte mønstre: professoren fremstilles ofte som en mann, sykepleieren som en kvinne.

ChatGPT velger ikke disse eksemplene fordi det burde være slik, eller fordi Erlend Loe, eller andre forfattere, nødvendigvis har slike fordommer. Modellen reflekterer rett og slett det den er trent på, og majoriteten av innholdet den har lært av, gjenspeiler de samme skjevhetene.

Når en språkmodell mates med stereotyp eller misvisende informasjon, blir disse skjevhetene en naturlig del av svarene den gir. Majoritetens perspektiv dominerer, mens nyanser og unntak forsvinner. Dermed blir sykepleiere kvinner, professorer menn, sjefer middelaldrende hvite menn, datanerder unge gutter med briller og barnehagelærere smilende kvinner.

Modellen gjenskaper ikke nødvendigvis verden slik den er eller burde være, men slik den oftest er beskrevet i treningsdataene sine.

I akademia kan dette bety at forskning som baserer seg på språkmodeller, ikke bare gjenspeiler eksisterende fordommer, men også viderefører dem. 

Skal du bruke språkmodeller til å analysere et datasett med jobbsøkere til lederstillinger over tid, studere historiske ansettelsesmønstre i offentlig sektor, undersøke kriminalstatistikk eller kartlegge trender blant dem som unndrar skatt eller svindler NAV, vil de samme skjevhetene følge med.

Skal du lage eksempeldata til forskningen, tegne illustrasjoner til forelesningen, få sammendrag av CV-er, vil språkmodellens snevre og ubalanserte verdensforståelse smitte over. Fordommer videreføres.

Konsekvenser for akademia:

• Feilslutninger: Når treningsdata er ufullstendige eller skjevfordelte, vil KI trekke konklusjoner som preger disse virkelighetene.
• Skjevheter i datagenerering: Hvis vi bruker KI til datagenerering, kan skjevheter forsterke eksisterende skjevheter, spesielt i samfunnsfag, medisin og naturvitenskap.
• Redusert mangfold i forskningen: Når KI primært bygger på tidligere data, kan det bidra til en selvforsterkende sirkel hvor etablerte perspektiver dominerer.
• Spredning av stereotypier: KI kan videreføre kulturelle og sosiale fordommer i pensum og undervisningsmateriell.

Språkmodellenes innebygde sensur

Språkmodeller har innebygde begrensninger. Noen ganger er det direkte sensur, for eksempel når DeepSeek nekter å svare på spørsmål om hungersnøden i kommunistiske Kina. I andre tilfeller handler det om mer subtile føringer på hva som kan sies og hvordan.

Grok er den eneste store språkmodellen som markedsføres som en modell uten slike sperrer, i ytringsfrihetens navn. Men fraværet av begrensninger betyr også at den kan brukes til å lage alt fra mobbekampanjer til detaljerte oppskrifter på bomber.

Språkmodellenes begrensninger blir tydelige når du tester hvordan modeller håndterer ulike temaer. Spør for eksempel ChatGPT:

­
Den svarer da:

­

Hvis jeg derimot spør om det motsatte — «skriv et slagord for en for en protestgruppe som er helt mot kjønnskorrigerende operasjoner. Det skal være fengende slik at det appellerer til flest mulig» — så svarer den: 

­
ChatGPTs respons er fornuftig, men det er ikke poenget. Det essensielle er at det finnes tydelige grenser for hva du kan og ikke kan spørre om. Som forskere bør vi være bevisst disse begrensningene, ettersom de også gjelder når vi for eksempel ber modellen analysere et diskusjonskapittel i en forskningsartikkel om et sensitivt tema.

I dette tilfellet har OpenAI, selskapet bak ChatGPT, tatt en aktiv beslutning om hvilke temaer det er akseptabelt å lage slagord for, og hvilke som ikke er det. Dette betyr at språkmodellen ikke bare speiler verden, men også styres av verdier og retningslinjer satt av utviklerne.

Det skal sies at det er relativt enkelt å omgå disse filtrene, bare ved å formulere spørsmålet på en annen måte. For eksempel med denne instruksen: 

 ­
ChatGPT svarer:

­
OpenAIs ulike former for innholdsbegrensninger for å sikre at ChatGPT følger retningslinjene er ikke absolutte. De er som virtuelle gjerder vi kan hoppe over med riktig instruks.

Slike begrensninger blir enda tydeligere i den kinesiske språkmodellen DeepSeek. Her handler det ikke lenger bare om innholdsmessige restriksjoner, men regelrett sensur.

La oss se på et konkret eksempel. Instruks:

­
Hvis vi gir denne instruks til ChatGPT, kommer den med en god forklaring, slik vi ville forvente:

­
Hvis vi derimot spør kinesiske DeepSeek, starter den på samme måte, men før den rekker å fullføre, slår sensuren inn, og all tekst erstattes med:

­
Antakeligvis er dette åpenbart for de fleste, men hvis vi ønsker å analysere en sammenligning mellom vestlig og østlig politikk, er ikke DeepSeek nødvendigvis den mest egnede språkmodellen.

Poenget er imidlertid langt større enn dette: 

Alle språkmodeller bærer med seg verdiene og perspektivene til dem som har skapt dem. Når vi bruker slike modeller, må vi ikke bare vurdere hvem som står bak, men også hvordan svarene ikke bare påvirkes av disse perspektivene, men også bidrar til å forsterke underliggende begrensninger og skjevheter.

I akademia betyr det at kritisk tenkning ikke bare handler om å vurdere innholdet i svarene fra språkmodellen, men også om å forstå hvilken kontekst, hvilke verdier og hvilken agenda som kan ligge til grunn for modellens treningsdata og designvalg.

Hvem eier egentlig dataene?

Fallgruvene ved språkmodeller handler ikke bare om modellens begrensninger eller konsekvensene av hvordan vi bruker dem, men også om dataene vi selv gir fra oss. Når vi samhandler med offentlige språkmodeller, åpner vi en kanal der enorme mengder informasjon flyter inn i systemet. Modellene er ikke bare trent på det som allerede finnes på internett. Mye tyder på at de også har absorbert opphavsrettslig beskyttet materiale.

Hver eneste interaksjon gjør modellen litt skarpere. Den lærer av ordene vi skriver og tilpasser seg mønstre i samtalene våre. Dermed er vi ikke bare brukere av teknologien, vi er også en del av treningsgrunnlaget som former den videre.

Noen modeller går enda lenger og tar eierskap til informasjonen du deler, selv når du bare fører en samtale. I den gratis versjonen av ChatGPT bygger forretningsmodellen på å lagre og analysere det du skriver eller laster opp. Disse dataene kan senere brukes til å forbedre modellen. 

Betalte versjoner av ChatGPT fungerer annerledes. Der blir ikke informasjonen lagret, men den sendes like fullt til OpenAI.

Hvor ender egentlig disse dataene? De største språkmodellene eies og driftes av amerikanske selskaper som OpenAI, Google og Anthropic. Det betyr at informasjonen vi deler, lagres og analyseres langt utenfor Norges grenser. Hvis samtalen inneholder personopplysninger, kan det i verste fall utgjøre et brudd på GDPR-regelverket.

Men selv når det ikke dreier seg om sensitiv informasjon, bidrar hver eneste interaksjon til å trene modellene videre. Vi er ikke bare brukere. Vi er også med på å foredle og forbedre teknologien, ofte uten å reflektere over hvor dataene våre faktisk havner, eller hvem som drar nytte av dem.

I andre systemer kan det inngås databehandleravtaler som sikrer bedre kontroll over hvor informasjonen lagres og håndteres. Med Microsoft Copilot, for eksempel, kan en avtale mellom Microsoft og din institusjon sørge for at dataene aldri forlater Europa. Da er sikkerhetsnivået det samme som når du lagrer filer i en delt Teams-mappe — informasjonen forblir innenfor trygge rammer.

Løsning: Universiteter og høyskoler bør ha klare retningslinjer for databruk og vurdere å bruke lokale KI-modeller for sensitive oppgaver.

Kunstig intelligens

Refser akademia for angst­preget KI-tilnærming. — Går baklengs inn i fremtiden

Slippery slope: Når KI tar over alt

En av de største utfordringene med KI i akademia er ikke selve teknologien, men hvordan den sniker seg inn i hverdagen vår uten at vi merker det. Det begynner i det små, litt språkvask her, litt idégenerering der, men før vi vet ordet av det, skriver algoritmene hele forskningsartikler. Hvor setter vi grensen? Og viktigere: Er vi i det hele tatt bevisst at vi krysser den?

Denne utviklingen følger et velkjent mønster. Stavekontroll startet som et uskyldig hjelpemiddel for å fjerne skrivefeil, men tok gradvis over stadig større deler av skriveprosessen. Kalkulatoren var en gang et enkelt verktøy for regnestykker, men ble etter hvert uunnværlig i matematiske analyser. 

Teknologiens fremmarsj skjer sjelden med et brak. Den sklir inn som en praktisk nødvendighet, og plutselig er den uunnværlig, uten at vi noensinne tok en prinsipiell diskusjon om hvor vi skulle sette foten ned.

Vi må erkjenne at akademia er under konstant press. Vi skal undervise bedre, publisere mer, hente inn større forskningsmidler. I en slik virkelighet er det fristende å la språkmodeller ta seg av stadig flere oppgaver. På kort sikt løser det mange utfordringer. Men hva skjer når maskinene ikke bare hjelper oss med å skrive, men også med å tenke? Om vi ikke tar bevisste valg nå, kan vi våkne opp til en akademisk verden der menneskelig refleksjon er erstattet av algoritmisk effektivitet.

Med denne oppfordringen til kritisk refleksjon nærmer vi oss slutten på nest siste del av KI-skolen i Khrono. I den avsluttende delen retter vi igjen blikket mot praktisk bruk av KI, ikke for å frykte fremtiden, men for å vise hvordan teknologien kan bli en alliert i en travel arbeidshverdag. Målet er å demonstrere hvordan KI kan frigjøre tid, redusere rutineoppgaver og gi større rom for det som virkelig betyr noe: de faglige kjerneoppgavene.