Henrik Syse på dagens kontaktkonferanse
Syse: Mennesker må meisle ut maskinenes mål
Med den rette demokratiske og etiske kontroll kan digitalisering være fantastisk — også for utdanningssektoren, som blant annet et storstilt utjevnende virkemiddel globalt, mener Henrik Syse.
OBS! Denne artikkelen er mer enn tre år gammel, og kan inneholde utdatert informasjon.
(Du kan følge kontaktkonferansen nederst i saken.)
Pandemien har det siste året demonstrert hvor viktig tilgangen til gode digitale hjelpemidler kan være. Uten dem ville langt flere arbeidsplasser blitt rammet.
Filosof, forsker ved Prio og professor ved Bjørknes Høyskole Henrik Syse ser enorme muligheter, men også farer ved utviklingen innenfor digitalisering og kunstig intelligens.
— Når utviklingen og bruken av kunstig intelligens nå for alvor skyter fart, kommer det til å prege verden de neste tiårene på måter vi knapt kan forstå i dag, sier han.
Syse er en av innlederne på Kunnskapsdepartementets kontaktkonferanse, tirsdag, som i år er digital. Og det er nettopp digitalisering Syse skal snakke om.
— Det er hele tiden et behov for kontroll over denne utviklingen. Med den rette demokratiske og etiske kontroll kan den være fantastisk — også for utdanningssektoren, som blant annet et storstilt utjevnende virkemiddel globalt. At flere i den tredje verden kan få tilgang til høykvalitets tilpasset utdanning, har mange steder til nå vært en drøm, sier han til Khrono.
Vi kan også se for oss at maskiner drevet av kunstig intelligens etter hvert kan ta så mange avgjørelser at vi mister kontrollen og oversikten.
Henrik Syse
Kan endre måten vi forsker på
Syse ser mange digitaliserings-muligheter innenfor forskning og høyere utdanning.
— Vi ser allerede at dette har veldig mye å si for informasjonstilgang og spredning. Utviklingen bidrar også til stadig bedre metoder for dataanalyse innenfor veldig mange fag, med økt hastighet og større datamengder, sier han.
Slike verktøy vil kunne endre måten vi forsker på, men Syse understreker viktigheten av å være oppmerksom på alle feilkildene digitaliseringen åpner for.
— Vi må vite at vi kan ha kontroll over hva algoritmene faktisk gjør, sier han.
— Hvordan tror du denne pandemien ville gått uten at digitaliseringen hadde kommet så langt, og hva tror du det gjør med oss å stort sett kommunisere gjennom en skjerm?
— Det handler om hvordan vi benytter virkemidlene som vi har. Vi har nå sett hvor positivt dette kan være, og hvilke muligheter for kommunikasjon det gir. Dessuten har vi klart å ta i bruk dette ganske raskt i stor skala. Det er kort sagt gledelig å se hvordan mange har klart å utnytte krisesituasjonen på en positiv måte. Så er det samtidig viktige aspekter ved menneskelig nærhet og kontakt som forsvinner, når vi for eksempel ikke snakker sammen i gangen etter et møte eller har dypere eller mer personlige samtaler i lunsjpausen, sier han.
Må sette klare mål for teknologien
Mer digitalisering kan altså ha en demokratiserende effekt, men vi kan også miste kontrollen, hvis feil krefter får makt over utviklingen, ifølge Syse.
— Vi kan også se for oss at maskiner drevet av kunstig intelligens etter hvert kan ta så mange avgjørelser at vi mister kontrollen og oversikten. Programmer som i praksis er selvlærende, kan bli selvstendige på måter som vi ikke nødvendigvis har kontroll over. Det er helt essensielt at vi setter målene, sier han, med henvisning til blant annet Stuart Russells viktige bok Human Compatible.
Syse minner om at maskiner som er drevet av kunstig intelligens ikke selv kan tenke etisk, selv om de kan utstyres med etiske algoritmer.
— Det er opp til mennesker å definere maskinenes og programmenes mål, og vi må være tydelige rundt hvilke mål dette er. Dersom disse målene er i overensstemmelse med grunnleggende rettigheter og menneskelig verdighet, kan vi i større grad stole på at utviklingen faktisk vil tjene samfunnet, sier han.
Bør ikke få digital overklasse
— Tror du disse teknologiene kan føre til at de privilegerte får det bedre, mens det for andre kan føre til dårligere livskvalitet?
— Ja, det er alltid en fare for at noen nyter godt av en slik utvikling, mens andre ikke gjør det. Dette henger også sammen med hvilke mål vi setter for utviklingen. Vi må arbeide aktivt for at teknologien vi utvikler, skal være tilgjengelig og til hjelp for folk flest, slik at vi ikke får en digital overklasse. Men det er ikke enkelt, sier han.
— Hvilke spørsmål bør vi stille oss i møte med storstilt digitalisering?
— Vi må hele tiden spørre oss selv hva vi skal bruke teknologien til. Og de spørsmålene må ikke bare være instrumentelle og praktiske, men også etiske.
— Og det klarer alle å få til?
— Ja, vi kan og må alle bidra, men det er jo særlig viktig for teknologiutviklere og politiske beslutningstakere. Vi ser at mange av de etiske spørsmålene allerede står sentralt i deler av kunstig intelligens-industrien, i hvert fall i demokratiske land. Dette blir også påvirket av hvorvidt styresmaktene tvinger det frem. Det er nok mer grunn til å være bekymret for utviklingen i mer autoritære land, der vi ikke kan ta for gitt at utviklingen underlegges menneskerettslige og etiske rammer. Kina er her en betydelig maktfaktor som vi ikke kan overse, sier han.
Global dialog
Syse mener det er viktig med en global dialog om disse spørsmålene.
— Dette er som med klimaspørsmålet: det lar seg ikke løse uten internasjonalt samarbeid.
— Du er selv filosof. Bør filosofer ha en viktig rolle i denne typen spørsmål?
— Ja, jeg har tro på at både filosofer og andre former for humanister og samfunnsvitere har roller å spille her. Generelt er det nyttig å dra inn fag som handler om det å tenke rundt grunnlagsspørsmål — juss, teologi, religionsvitenskap, idéhistorie, psykologi, statsvitenskap og lignende fag. Disse fagene har både redskaper og historie som er nyttige nå, sier han.