Kunstig intelligens

NTNU med restriktive KI-retningslinjer: — Kan ikke kose på serveren

NTNU anbefaler blant annet at kunstig intelligens (KI) ikke brukes i forbindelse med beslutninger som påvirker universitetets virke. — Restriktivt mener KI-ekspert. — Bevisst, svarer NTNU.

ChatGPT, den mest kjente av de forskjellige verktøyene for bruk av kunstig intelligens, kan gjøre mye godt, men kommer i likhet med alle andre tjenester som bruker kunstig intelligens også med et lass av fallgruver. Derfor jobber NTNU nå med egne retningslinjer.
Espen Halvorsen Bjørgan
Tekst: Espen Halvorsen Bjørgan
Publisert Sist oppdatert

«Er det behov for retningslinjer for bruk av kunstig intelligens på NTNU?»

Det er det første spørsmålet universitetet selv ønsker svar på i sitt utkast til retningslinjer for kunstig intelligens, som har vært ute på høring i organisasjonen.

Retningslinjene er både «vurdert og konsolidert med hva andre offentlige virksomheter gjør», skriver NTNU i saksdokumentet som følger utkastet. Men holder det mål?

— Det de skriver er veldig generelt. Det er jo åpenbart at de trenger retningslinjer, men det er ikke så trivielt å vite hva disse retningslinjene skal være, sier Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder.

— Typisk IT-avdelingen

Mann med hvit skjorte og jakke stående foran store datamaskiner med masse ledninger og blått lys.
Morten Goodwin, professor Universitetet i Agder

Goodwin forteller at han ikke vet om andre norske høyere utdanningsinstitusjoner som har slike felles retningslinjer, men at NTNUs utkast er i tråd med  retningslinjene Oslo kommune og Digitaliseringsdirektoratet har.

Han mener retningslinjene bærer preg av å være utarbeidet av en IT-avdeling og ikke eksperter på kunstig intelligens.

— Den typiske IT-sikkerhetstankegangen gjennomsyrer det. De er jo redde for hacking, redde for å miste data. Det er enkelt å forstå at de tenker sånn, men kunstig intelligens er jo så mye mer enn et IT-verktøy, sier Goodwin.

Han skulle helst ha sett at retningslinjene var mindre restriktive, slik som kulepunktet hvor «NTNU anbefaler at kunstig intelligens ikke brukes som verktøy i forbindelse med beslutninger eller å fatte avgjørelser som involverer andre personer eller beslutninger som påvirker NTNUs virke.»

— Det er veldig restriktivt. Alt vi gjør påvirker jo vårt virke. Jeg evaluerer studenter, underviser... Alt det påvirker jo et universitets virke. Derfor synes jeg det er en veldig streng advarsel. Jeg ville heller anbefalt de ansatte å ta kunstig intelligens i bruk der de kan, men å samtidig vise varsomhet, sier Goodwin. 

Det vil kunne føre til bedre forskning og undervisning, ifølge professoren.

— For eksempel kan en bruke kunstig intelligens til å finne vitenskapelig arbeid for seg, eller i verktøy som hjelper til med å skrive eller finne svakheter i eget arbeid. «Bruk kunstig intelligens som måter som gjør jobben du gjør bedre og gir utvikling» burde vært et punkt. 

Trengs bevisstgjøring

Portrett av Heine Skipenes.
Heine Skipenes, faggruppeleder ved NTNUs IT-avdeling.

Ifølge Heine Skipenes, en av faggruppelederne ved NTNUs IT-avdeling, er det restriktive utgangspunktet for retningslinjene bevisst. 

— Det vi ser er at vi har spennet fra de som aldri har prøvd ChatGPT før, til de som er langt inne i det, og det gjør at vi må være restriktive nå i starten og ha bremsene på, så får vi heller legge til rette for å utforske mulighetene etter hvert, sier han.

For det å sette en masse sikkerhetsbegrensninger på forskjellige tjenester kommer ikke til å fungere, sier han. IT-avdelingen kan ikke kontrollere bruken av for eksempel ChatGPT. Det var også derfor de i september innførte Bing Chat Enterprise, Microsoft sin løsning for generativ kunstig intelligens. 

I tillegg ønsker de å unngå at en hopper rett til enkeltproblemer, som eksamen og juks. Spørsmålet er mye større, sier Skipenes. Det handler om hvordan beslutninger tas, notater skrives og forskning utøves. Men det er greit å vite hvordan sand ser ut, føles og fungerer før en hopper ut på de endelse sandstrendene med paraplydrinker og tvilsomme Lolex og BayBan-selgere for å bygge sandslott.

— Det er derfor vi har laget oss en første tryggere sandkasse i form av Microsoft sin løsning. Det trengs rett og slett en bevisstgjøring og kompetanseheving blant våre brukere, og det er den reisen vi er på nå, sier han.

Kan ikke kose med serveren

Skipenes forteller at retningslinjene for generativ kunstig intelligens, altså dataprogrammer som kan levere innhold på bestilling, kommer som en følge av en (trekk pusten) personvernkonsekvensvurdering som personvernforordningen er tydelig på at skal gjennomføres når man tar i bruk generativ kunstig intelligens.

Et av de foreslåtte tiltakene som dukket opp etter den vurderingen var nettopp et sett med retningslinjer.

Også såvidt Skipenes vet er NTNU først ute blant landets utdanningsinstitusjoner til å jobbe med slike felles retningslinjer.

— Dette er jo verktøy en forer med data, uten at vi kan gjøre helt rede for hvor de blir av, sier Skipenes.

For selv om Microsoft garanterer for at dataene slettes etter bruk, vet man jo aldri, ifølge Skipenes.

— Så lenge vi ikke kan «kose på serveren», kan vi ikke garantere at vi har kontroll på hvor dataene er. Da må vi være forsiktige. Det er også derfor vi sier at bare åpne og interne data kan fores inn i den løsningen, og ikke det som er fortrolig eller strengt fortrolig etter retningslinjene.

— Har det skjedd noen enkelthendelser som også gjør at dere er ekstra forsiktige?

— Jeg kan ikke gå inn i detaljer her, men det jeg kan si er at det dukker opp en del problemstillinger som viser at vi trenger det. Som for eksempel hvis en forer ChatGPT med en klasseliste og ber den lage grupper på fire med lik kjønnsfordeling. Gjør du det har du jo plutselig delt personopplysningene til studentene dine, og da er du i strid med personvernreglene. Men bytter du ut navnene med koder som for eksempel «Kvinne 32» er du innenfor.

Et annet problem er manglende kontroll, sier faggruppeleder Skipenes.

— Det at noe har fungert en gang betyr ikke at det fungerer igjen. For eksempel når en bruker et sånt verktøy til å oversette fra bokmål til nynorsk, så må en kontrollere at alt ble rett. Hvis du tenker at det sikkert er rett fordi det gikk bra sist, og det dukker opp en endring i meningsinnholdet i en eksamensoppgave, da har du jo trøbbel.

heine skipenes kunstig intelligens ntnu morten goodwin nyheter
LES VIDERE ETTER ANNONSEN

FÅ NYHETER PÅ MOBILEN
Last ned Khrono-appen!

Download on the App Store Tilgjengelig på Google Play
Siste fra forsiden:

Kortnytt

  • 32 millionar til studentar som har praksis

    Sveinung Engeland

    Meir enn 2500 studentar på helse- og sosialutdanningar vil få støtte i årets tildeling av bu- og reisestøtte i samband med praksis. I alt 31,9 millionar kroner blir delt ut.

    Det er dei studentane som har fått praksis lengst unna campus som blir prioriterte, opplyser Kunnskapsdepartementet i ei pressemelding.

    Bakgrunnen for ordninga er at mange studentar må reise langt til praksisplassen sin i helse- og sosialutdanningar. Mangelen på praksisplassar er stor. Når studentane får dekka slike utgifter, betyr det at utdanningsinstitusjonane lettare kan legge opp til praksisplassar lengre vekk frå campus.

    – No får fleire tusen studentar støtte til ein praksisplass, og kommunane kan tiltrekke seg studentar. Det er vinn-vinn for alle, og eit målretta grep for å for å styrke tilgangen på helsepersonell i distriktskommunane. Vi veit at studentar som har vore i praksis i ein kommune, ofte tar jobb der etterpå også, seier forskings- og høgare utdanningsminister Oddmund Hoel.

  • Henjesand blir styreleder i Nokut

    Hege Larsen

    Tidligere BI-rektor, førsteamanuensis Inge Jan Henjesand, blir leder i det nye styret til Nasjonalt organ for kvalitet i utdanningen (Nokut).

    Det nye styret oppnevnes for perioden 1. januar 2025 til 30. juni 2028, skriver Regjeringen i en pressemelding.

    Henjesand etterfølger Lise Iversen Kulbrandstad, professor ved Universitetet i Innlandet, som styreleder i Nokut.

    Også Nina Cecilie Norberg er ny i styret som Kunnskapsdepartementet utnevnte torsdag, ifølge pressemeldingen.

    Saira Basit og Mads Danbolt er gjenvalgt. De øvrige medlemmene var ikke på valg.

    Inge Jan Henjesand blir ny styreleder i Nokut.

  • Forsker ved UiO er redaktør for FN-rapport

    Joar Hystad

    Professor ved Institutt for sosiologi og samfunnsgeografi ved Universitetet i Oslo, Karen O'Brien, er en av tre redaktører bak en ny natur-rapport fra FNs naturpanel.

    Det skriver Uniforum.

    Rapporten ble lagt frem mandag denne uken, og konkluderer blant annet med at det trengs langt sterkere tiltak for å redde verdens naturmangfold.

    Ifølge en pressemelding fra Det samfunnsvitenskapelige fakultet ved UiO er dette første gang at en norsk forsker har en så sentral posisjon i utformingen av en rapport fra FNs naturpanel, skriver Uniforum.

    — For å håndtere miljøutfordringene på en rettferdig og bærekraftig måte, må vi få en langt dypere forståelse av hva som er årsakene til problemene, uttaler Karen O'Brien i pressemeldingen.

  • Statsminister­støtte til norsk-britisk universitets­partnerskap

    Elise Lystad

    Både Jonas Gahr Støre og britisk statsminister Keir Starmer er positive til europeisk universitetssamarbeid. Det kom fram på et besøk i Bergen mandag 16. desember.

    Universitetspartnerskapet «North Sea University Partnership» består av britiske og norske universitet som skal styrke samarbeid på utdanning og forskning. Fra norsk side er dette Universitetet i Bergen (UiB), Universitetet i Oslo (UiO), NTNU og UiT Norges arktiske universitet.

    — Dette er nok et eksempel på det sterke vennskapet mellom de to landene, sa de to statsministrene ifølge UiB sine nettsider. UiB skal koordinere og lede satsingen sammen med Durham University.

    Fokuset for samarbeidet, som ble lansert for et par uker siden, skal være Nordsjøen og kulturarv. De britiske partnerne er Durham University, University of Leeds, University of York og Newcastle University.

    — Norge og Storbritannia har gode samarbeid innen en rekke områder, og det nye initiativet skal styrke bånd og skape et godt miljø for utdannings- og forskningssamarbeid mellom landene. Jeg er glad for at de to statsministrene i sine samtaler ønsket North Sea University Partnership velkommen, sier UiB-rektor Margareth Hagen.

  • Nokut godkjenner kvalitetsarbeid

    Elise Lystad

    Kriminalomsorgens høgskole og utdanningssenter (Krus) får godkjent sitt kvalitetsarbeid på første forsøk.

    Nokut har vurdert det systematiske kvalitetsarbeidet ved Krus som tilfredsstillende, skriver de i en pressemelding.

    — Denne godkjenningen bekrefter at Krus har robuste systemer for kvalitetssikring og utvikling, og jeg synes det er stas at sakkyndig komite konkluderer med at vi samlet sett er et sjeldent godt eksempel på god kvalitetskultur, sier Vanja Lundgren Sørli, instituttleder ved Krus, i pressemeldingen.

    Den sakkyndige komiteen «er ikke i tvil om at det systematiske kvalitetsarbeidet ved høgskolen oppfyller alle formelle krav», står det i rapporten. Krus oppfyller dermed alle krav i universitets- og høgskoleloven, studiekvalitetsforskriften og studietilsynsforskriften.

  • Studenter skal delta i verdens første VM i akademisk e-sport

    Elise Lystad

    Universitetet i Agder (UiA) sender ti studenter til Hawaii for å delta i det første verdensmesterskapet i denne sporten noensinne.

    De ti studentene kommer fra bachelorgraden i akademisk e-sport ved UiA.

    — Turneringen baner vei for å tenke på e-sport i utdanning på nye måter. Her skaper vi noe sammen som aldri før har vært gjennomført internasjonalt, sier Rune Andersen, som er studieprogramleder for studentene, på nettsiden til UiA.

    E-sport er turnering i videospill, men her er det altså en akademisk vri. Studentene skal i tillegg til å konkurrere i League of Legends, Valorant og Rocket League, også løse akademiske oppgaver. Eksempler på dette er programmering, caseløsing og diskusjon om viktige tema innenfor e-sport.

    Poengene i konkurransen vektes 60 prosent til akademiske oppgaver og 40 prosent til e-sport. Andersen er initiativtaker for hele turneringen, og har designet opplegget for verdensmesterskapet sammen med e-sportsmiljøet på UiA.

  • Gigantoverskudd for Oxford og Cambridge universiteter

    Joar Hystad

    Universitetet i Oxford og Universitetet i Cambridge rapporterer begge om betydelige overskudd i 2023.

    Times Higher Education (THE) skriver at det samlet sett dreier seg om 1,7 milliarder pund — rundt 24 milliarder kroner omregnet til norsk valuta.

    Blant de to prestisjeuniversitetene er det Oxford som står for den største delen av det samlede overskuddet, med litt over en milliard pund.

  • Ny rektor ved København universitet

    Elise Lystad

    Prorektor for forskning ved København universitet, David Dreyer Lassen, rykker opp til rektor ved samme universitet til neste år.

    Lassen har vært prorektor siden 2021, og er professor i økonomi. Han tiltrer 1. mars 2025, skriver danske Uniavisen. Perioden hans er på fem år, fram til 28. februar 2030, og den kan forlenges ytterligere tre år etter det.

    — København universitet skal være et ledende universitet. Det krever at vi hele tiden arbeider med å sikre best mulig betingelser for å prøve ut og å utforske ideer innenfor alle fagfelt, sier Lassen.

Powered by Labrador CMS