Debatt ● Morten Irgens og Christen Krogh
En kultur for kunstig intelligens
Vårt innlegg har blitt lest snevrere enn det var ment, skriver Irgens og Krogh, som likevel er bekymret for at KI-satsningen blir for bred. — Regjeringen har ikke funnet riktig balanse mellom teknologiutvikling og bruk.
Denne teksten er et debattinnlegg. Innholdet i teksten uttrykker forfatterens egen mening.
For noen uker siden skrev vi en kronikk der vi stilte spørsmålet om hva regjeringen vil med satsingen sin på kunstig intelligens. Siden den gang har det kommet et antall innlegg som trekker opp noen linjer for diskusjon.
Det er spesielt våre poeng om at satsingen virker lite fokusert, og at den ikke synes å ha stor nok vekt på teknologiutvikling, som har engasjert. Vi synes flere av innleggene har lest våre innspill snevrere enn de var ment. Vår posisjon er at det er viktig både å forske på både teknologiutvikling og bruk av teknologien — og gjerne i sammenheng.
Vi er likevel bekymret for at satsingen blir for bred og at kompleksiteten og kostnaden ved å forske på teknologiutvikling ikke er ivaretatt godt nok. En begrunnelse for dette er at vi ikke ønsker å overlate teknologiutviklingen til andre lands teknologer alene. Under svarer vi mer detaljert på noen av de kritiske bemerkningene.
Er satsingen akkurat passe bred?
Enli og Svarverud skriver: «Skulle vi begrense oss til selve teknologien kunstig intelligens, ville vi miste av syne de komplekse digitale strukturene og betydningssammenhengene KI er en del av». Brandtzæg peker på at «Kunstig intelligens er ingen isolert enhet, men snarere en komponent i et omfattende medieøkosystem».
Satsingen skal forvaltes av Forskningsrådet. Det er derfor interessant å se på Forskningsrådets eksisterende portefølje innenfor kunstig intelligens. En liste av prosjekter som er merket med «kunstig intelligens, maskinlæring og dataanalyse» inneholder 641 prosjekter med et samlet budsjett på 2.3 milliarder norske kroner.
Noen av prosjektene er resultat av utlysninger rettet mot kunstig intelligens. De fleste er imidlertid resultat av andre utlysninger eller virkemidler, der prosjektene likevel omhandler kunstig intelligens i noen grad, og for noen av dem i ganske liten grad. Samlet sett synes likevel de aller fleste av disse prosjektene å adressere det brede området «digitale teknologier».
Vi er enige med Brandtzæg i at kunstig intelligens inngår i et komplekst (medie-) økosystem, og med Enli og Svarverud at det er viktig at vi ikke mister av syne de komplekse sammenhengene kunstig intelligens er en del av. Men oversikten fra Forskningsrådet indikerer at det allerede er god bredde langs aksen digitale teknologier i prosjekter som omhandler kunstig intelligens.
Vi mener at alle satsinger må balansere forhold som gjelder bredde og fokus. Faren ved å satse for bredt er at man ikke får nødvendig fokus. Derfor bør en satsing på kunstig intelligens faktisk være det, og ikke en satsing på digitale teknologier.
Fokuserer satsingen akkurat passe mye på teknologiutvikling?
I kronikken vår peker vi på at satsingen synes å legge for liten vekt på forskning på teknologiutvikling innenfor kunstig intelligens. Dette er begrunnet i regjeringens egen beskrivelse der to av tre satsingsområder omhandler konsekvenser og bruk av teknologien, og at teknologien bare eksempelvis er kunstig intelligens.
Kannelønning, Brandtzæg, Enli og Svarverud tar til orde for at satsingen ikke ensidig bør handle om teknologiutvikling.
Dette er vi helt enig i. Det er slik vi ser det svært viktig at perspektiver fra humaniora og samfunnsvitenskapen ivaretas, og spesielt når det skjer teknologiskifter med potensielt store samfunnsmessige konsekvenser. Det gjelder på dette området og det gjelder på andre områder. Som eksempel støtter vi Forskningsrådets tidligere engasjement for å åpne opp mulighetene for kulturforskere til å komme i bedre inngrep med Forskningsrådets brede virkemidler.
Vårt anliggende er at det må være en gjennomtenkt balanse mellom forskning på teknologiutvikling og forskning på teknologiens konsekvenser og bruk. Denne balansen bør innebære både betraktninger rundt de samfunnsmessige behovene, og hva slags kapasitet som finnes i de ulike fagmiljøene for å gjennomføre forskningsaktiviteten.
En satsing på kunstig intelligens bør gjøre oss i stand til å bygge opp og ivareta vesentlig kompetanse innen teknologiutvikling.
Morten Irgens og Christen Krogh
Med dette som utgangspunkt ønsker vi å peke på viktigheten av at en satsing på kunstig intelligens bør gjøre oss i stand til å bygge opp og ivareta vesentlig kompetanse innen teknologiutvikling. Vi mener denne kompetansen er helt nødvendig for at vi som samfunn skal kunne nyttegjøre oss teknologien. Det gjenstår å se hva som blir liggende under de enkelte punktene og den økonomiske vektleggingen mellom dem. Men i arbeidet med å konkretisere satsingen er det viktig å ha et blikk på disse forholdene slik at vi ikke underdimensjonere vårt samfunns behov for kunnskap og kapasitet på teknologifeltet.
Er to kulturer én for mye?
Nyre og Tessem tar til orde for at «Dei to kulturane i akademia må snakke saman», med en referanse til C. P. Snows utmerkede essay fra 1959, der han, som en person som hadde tilhold både i humaniora og naturvitenskapen, pekte på noen misforhold i de ulike kulturenes oppfatninger av hverandre.
Selv om det selvsagt fremdeles er kulturelle forskjeller mellom ulike fag-, disiplin- og profesjonsområder, er vår påstand at det i dag er en utstrakt interesse for perspektiver på tvers av grensene. Vårt eget universitet har mange eksempler på dette, for eksempel gjennom samarbeid om datajournalistikk der teknikker og metoder fra kunstig intelligens spiller sammen med medievitenskapen. Vi selv har også engasjert oss i hvorvidt den norske stat burde jobbe for internasjonal regulering av bruk av kunstig intelligens i våpen.
Innenfor datateknologien er det i dag en selvfølge at utvikling av systemer som skal brukes av mennesker må ivareta menneskelige og organisasjonsmessige behov. Så når Brandtzæg peker på at «Teknologiutvikling som feiler, er ofte teknologi som ikke setter menneske og menneskelige behov i sentrum», er ikke bare vi, men store deler av de teknologiske fagfeltene, enig med ham. Det er imidlertid forskjell på en sammenvevd, integrerende måte å jobbe på, der relevante perspektiver ivaretas, og studier som undersøker fenomener fra, og teknologier utviklet i, Kina eller USA.
Enli og Svarverud peker på at «Spørsmålene vi stiller [om roller, ansvar og rettigheter, klasse, etnisitet, kjønn, …] har humanistiske fag stilt til alle tider, og må kontinuerlig stilles og undersøkes på nytt når ny teknologi omformer samfunnet vårt og forståelsen av hva det er å være menneske. Denne utviklingen kan vi ikke overlate til teknologene alene». Det er vi selvfølgelig enige i.
Vi mener at regjeringens satsing slik den framstår ikke ser ut til å ha funnet rett balanse mellom teknologiutviklingen og bruk/konsekvenser av denne.
Morten Irgens og Christen Krogh
En del av begrunnelsen for at vi løfter fram viktigheten av at regjeringens satsing på kunstig intelligens også skal prioritere teknologisk utvikling i vesentlig grad, er at vi ikke ønsker å overlate teknologiutviklingen til andre lands teknologer alene. Det gjør Norge svært sårbart for viktige teknologiske utviklingstrekk. Det gir dessuten også et dårligere grunnlag for at kulturelle og samfunnsfaglige perspektiver fra norske fag og forskningsmiljøer kan komme i inngrep med og påvirke teknologiutviklingen.
Det handler om balanse
For å oppsummere mener vi at regjeringens satsing slik den framstår ikke ser ut til å ha funnet rett balanse mellom teknologiutviklingen og bruk/konsekvenser av denne. Den synes heller ikke å ha funnet rett balanse mellom en bred satsing på digitale teknologier og en satsing på kunstig intelligens.
Det er derfor bra at Kunnskapsdepartementet delegerer til Forskningsrådet å iverksette gjennomføringen av satsingen. Forskningsrådet er, som tidligere påpekt, godt posisjonert til å se helheten i forskningssystemet og hvordan ulike deler av dette samspiller.
God involvering av forskningssektorene er imidlertid avgjørende for å utvikle virkemidler som treffer. Forskningsrådets organer for medvirkning (det vil si porteføljestyrene) tar bare beslutninger og strategiske valg på et overordnet nivå, noe som ikke ivaretar den tette kontakten med fagmiljøer og brukere av forskningen.
Vi foreslår derfor at det settes sammen et råd eller utvalg med personer fra de sterkeste og beste fagmiljøene innenfor kunstig intelligens, på tvers av disipliner, og av relevante personer fra forvaltningen og næringslivet, som kan konsulteres om hvordan satsingen best innrettes.
