Universitetsallianse: Det trengs bedre og sikrere KI-verktøy for forskning

Brussel (Khrono.no): Universitetsalliansen The Guild, som blant annet Universitetet i Oslo er en del av, har skrevet et posisjonsnotat om hva de mener er utfordringene og mulighetene når det kommer til kunstig intelligens (KI) og forskning. 

The Guild kommer også med krav for hva de mener stater og EU må satse på innen KI og forskning. 

Professor og leder av Norsk senter for kunnskapsdrevet maskinlæring (Integreat) Arnoldo Frigessi ved Universitetet i Oslo har vært en del av arbeidsgruppen som har jobbet med posisjonsnotatet. Han sier det er en rekke fordeler med dagens KI-modeller når det kommer til for eksempel enkel koding.

— Når en student må skrive kode for å utføre en relativt enkel oppgave, kan man lett få et førsteutkast til slik kode, som ofte er korrekt. Deretter kan studenten fortsette å jobbe med koden for å forbedre og utvide den. I stedet for å bruke seks timer, gjøres dette kanskje på to timer. Dette fungerer imidlertid ikke for mer komplekse og lengre algoritmer, sier han til Khrono.

Frigessi viser også til store fremskritt innen KI-vitenskap ved at KI-algoritmer kan designe komplekse laboratorieeksperimenter eller forutsi været direkte fra data. Men har ser også noen store utfordringer.

Utfordringer med dagens KI-modeller

— Én utfordring er energiforbruket til KI-verktøy, både når de trenes og bygges, og når de brukes. En annen utfordring er at vi ofte ikke kontrollerer de indre mekanismene i mange KI-algoritmer, og derfor mangler vi garantier for at de vil produsere korrekte og nyttige resultater, påpeker professoren.

Forskningssenteret Frigessi leder ved UiO, Integreat, er derfor i gang med å bygge KI-verktøy forskerne kan stole på og som er bærekraftige.

— Vi jobber med dette og håper å ha sterke resultater å vise til i 2025.

Seniorrådgiver i The Guild, Simone Mohrs, som har koordinert arbeidsgruppen, understreker også behovet for å kunne sikre forskeres tilgang til beregningsressurser for å utvikle og teste KI-modeller.

— Sikkerheten til KI bør være hovedprioriteten for alle som jobber med KI. Samtidig kan fokus på tilgjengeligheten av høykvalitetsdata og representative datasett ses på som grunnlaget for å overvinne utfordringer, sier hun til Khrono.

Hun legger til at KI allerede er dypt integrert i alle aspekter av forskning og undervisning og at det finnes mange gode eksempler på hvordan man kan bruke det på en ansvarsfull måte.

The Guild: Dette er hovedutfordringene med KI

The Guilds posisjonsnotat nevner en rekke utfordringer for forskere med dagens KI-verktøy. Dette skriver de om de ulike utfordringene: 

• Ingen av KI-verktøyene som finnes passer forskeres spesielle behov. For å få optimale KI-verktøy for forskere må det utvikles nye verktøy som er spesielt tilpasset forskning. Europa bør ligge i front for å utvikle trygge og bærekraftige KI-verktøy
• Utviklet for kommersiell bruk og ikke tilpasset europeiske standarder. Dagens KI-verktøy er for det meste utviklet utenfor Europa og for kommersielle formål. Verktøyene er derfor kanskje ikke er egnet for forskning og ikke automatisk oppfyller EUs lovverk. Dette hindrer ansvarlig bruk av disse verktøyene i EU og EØS-land.
  

• Bra KI-verktøy på engelsk, men har store mangler for andre språk. Språkbarrieren begrenser relevansen og resultatene på andre ikke-engelske språk ved bruk av KI. Det finnes unntak, men det trengs flere slike initiativer.
• Ikke tverrfaglig nok. Forskningsorganisasjoner, inkludert universiteter, bør legge til rette for og fremme tverrfaglig samarbeid for å bruke KI-verktøy i forskning. KI inkluderer ofte maskinlæring, statistikk, matematikk, informatikk, språkteknologi og logikk. Samfunnsvitenskap, kunst og humaniora kan spille en viktig rolle for mer ansvarlig bruk av KI og sikre at verktøyene overholder Europas juridiske rammeverk og menneskerettigheter. Disse fagretningene kan også bidra til å fremme flerspråklighet og multikulturalisme.
• Mangler transparens og etterprøvbarhet. Universiteter og forskere i Europa må gis muligheten til å gjennomgå og teste eksisterende KI-algoritmer på en transparent måte, slik at de kan sikre at disse kan brukes i forskning. Åpenhet om kildekode og data er helt nødvendig for verifikasjon og ansvarliggjøring om det skal brukes akademisk.

chatgpt

KI var bedre på å forklare forskningen enn forskerne selv

KI vil øke forskningens produktivitet og kvalitet

The Guild påpeker at det er også mange positive sider med dagens KI og viser til at både OECD og EU-kommisjonen er opptatt av at KI kan bistå forskere i litteraturgjennomgang, formulering av hypoteser, dataanalyser og visualisering, eksperimenter og resultatanalyser.

Den nye forskningskommissæren er bedt om å utvikle en strategi for å øke bruken av KI blant europeiske forskere. 

— Det er viktig at regjeringer, universiteter, EU-kommisjonen og økonomiske støttespillere jobber sammen om denne strategien for å sikre kunnskapsgjennomslag og at Europa kan ta lederskap i KI, sier The Guilds generalsekretær Jan Palmowski i en skriftlig uttalelse.

Universitetsalliansen ber i notatet om at universitetene, finansiørene og EU:

1. Styrker grunnforskning på KI. 

2. At de bruker KI i tverrfaglig forskning. 

3. Øker og styrker ferdighetene for KI i forskning og utvikler nye talenter blant studenter og forskere.

4. Forbedrer datainfrastrukturen og tilgjengeligheten.

forskingssamarbeid

Rapport: Det har blitt meir krevjande å samarbeide med forskarar frå andre land