Kritisk til bergensk «halleluja­stemning» for kunstig intelligens

Det tar form som ei av dei komande storsatsingane frå Universitetet i Bergen (UiB):

Gjere Bergen til «kraftsentrum» for kunstig intelligens (KI).

«For å få utløyst potensialet» samla UiB nyleg forskarar, studentar, næringsliv og offentleg sektor til konferanse i Universitetsaulaen. På programmet stod innslag om korleis teknologien mellom anna kan kome til nytte på så ulike felt som medisin og omsorg, berekraftsarbeid og forsikring.

I spissen for arrangementet stod prorektor, professor i informatikk og ekspert på algoritmar, Pinar Heggernes.

— Vel og bra, seier Anja Salzmann, forskar og postdoktor ved UiB.

Men — ho peikar samstundes på det ho ser på som ei forsøming frå universitetet si side: Eit fullstendig fråvær av kritisk stemmer og diskusjon.

— Det verkar som det er heilt gløymt. Kor skal dette skje om ikkje på eit universitet? spør Salzmann.

I eit debattinnlegg i Khrono kritiserer ho det ho oppfattar som «overøsende teknologioptimisme», og samanfattar stemninga på konferansen slik:

«Halleluja!»

— Vi er eit universitet

Salzmann meiner konferansen tok form som eit einsidig, teknologi-optimistisk vekkingsmøte om data og algoritmar.

Den etter hennar syn kanskje største utfordringa knytt til KI-teknologi — «demokratisering, eller snarere mangelen på demokratisering, av prosessen frem til man satser stort på konkret bruk av KI til å løse konkrete samfunnsoppgaver», stod ikkje på dagsorden.

— Dersom dette hadde vore ein rein industrikonferanse, ville eg hatt full forståing for dette. Men vi er på eit universitet. Oppgåva til universitetet er nettopp å bidra med ei balansert og kritisk tilnærming. Det er vår oppgåve som forskarar, få fakta på bordet. Og her snakkar vi om den kanskje mest komplekse og samfunnsomveltande teknologien vi står overfor. Universitetet skal ikkje vere eit ekkokammer, seier Salzmann.

Salzmann forskar til dagleg på korleis kompleks, digital teknologi, algoritmar og KI utfordrar grunnleggande mellommenneskelege forhold og strukturar i samfunnet, både sosiale, økonomiske, politiske og rettslege.

«Budskapet var tydelig» på UiBs konferanse, skriv Salzmann i debattinnlegget: «Kunstig intelligens er nøkkelen til mange store samfunnsproblemer. Det har et enormt potensial for både forskning og næringsliv i Bergensområdet. Halleluja!»

— Eg er ikkje imot å diskutere verken innovasjon eller nytte. KI har absolutt potensial til gjere mykje godt og løyse mange problem. Poenget er at dette har ein pris, seier Salzmann, om det ho i debattinnlegget kallar «teknologiens janusansikt»:

«Som offentlig kunnskapsinstitusjon og en viktig aktør i samfunnet burde Universitetet i Bergen ta høyde for teknologiens janusansikt som rører ved fundamentale menneskerettigheter, vårt syn på hva det betyr å være menneske i det 21. århundre og vår forståelse av verden rundt oss».

Kontrast til Holbergprisen

Det er ironisk, meiner Salzmann, at UiB i den same universitetsaulaen tidlegare i år heidra nettopp den teknologikritiske Harvard-professoren Sheila Jasanoff med Holbergprisen.

«Kontrasten mellom Jasanoffs tankevekkende innlegg og fredagens store KI-konferanse kunne ikke være større», skriv Salzmann.

Ho meiner UiB i større grad bør ta ansvaret for å løfte spørsmål om korleis teknologien kan gripe direkte inn i folks liv:

— Kjensla av at teknologien overstyrer og overvaker deg er eit gjennomgåande trekk og problem ved all automatisering, enten det gjeld smarttelefonar eller andre «smarte» innretningar, som bygg med mange sensorar. Dersom ein algoritme reknar ut kva kategori støtteordning ein NAV-brukar kan få, kan det vere effektivt. På den andre sida, kva gjer det med tilliten til saksbehandlaren, og kva opning er det for å stille spørsmål om avgjersla er rett? Når vi kjenner mangel på kontroll, blir vi framandgjorde, vi kan utvikle depresjonar, rett og slett. KI grip på ein grunnleggande måte inn i vår fridom.

«Jeg ønsker også at Bergen blir et kraftsenter, men da et kraftsenter for en opplyst, ansvarlig og (som Jasanoff) ydmyk forskning på en risikoteknologi som ser nyansert og kritisk på potensialet og utfordringer», skriv ho i debattinnlegget i Khrono.

— Ein må som universitet våge seg ut i konfliktfylte diskusjonar. Ein må snakke med dei formelt utdanna etikarane. Få filosofane om bord. Få humaniora med. KI kjem med store problem og innebygde motsetnader, og det er aldri eitt svar på kva som er rett, seier Salzmann.

Meiner UiB tar ansvar

Prorektor Pinar Heggernes meiner Salzmann bommar med sin kritikk. Ho seier at UiB tar det nødvendige ansvaret for å løfte konfliktfylte tema og etiske og samfunnsmessige utfordringar.

— Eg er einig i at det er ulike sider ved saka. Det er klart at kunstig intelligens byr på enorme moglegheiter, men det er også heilt rett som Salzmann seier, at det er enorme utfordringar knytt til det. Derfor er det jo så viktig at vi møtes for å sjå på kva som blir gjort på feltet, seier Heggernes.

Heggernes seier konferansen hadde fleire innleiarar som tok opp tema Salzmann etterlyser.

— For eksempel fekk Datatilsynet stor plass. Dei hadde eit veldig kritisk innlegg, der dei mellom anna såg på kvifor datadeling kan vere problematisk. NAV var også der og tok opp etiske dilemma knytt til bruk av algoritmar.

Heggernes meiner UiB har med seg heile den faglege breidda i arbeidet med kunstig intelligens, humaniora og samfunnsvitskap inkludert. UiB har etablert UiB AI for å samle trådane i det som har med forsking på kunstig intelligens å gjere. Der er alle fakultet representert, ifølgje Heggernes. Ho trekker også fram at det samfunnsvitskapelege fakultetet har arbeidd med kunstig intelligens i 40 år.

— Dette er det fakultetet som lengst har forska på interaksjonen menneske og maskin. På Det humanistiske fakultet har vi ei eiga gruppe som jobbar med dette, seier ho og viser til Senter for digitale fortellinger, som nyleg fekk status som Senter for framifrå forsking (SFF).

Prorektoren seier at UiB har gått inn i eit samarbeid med Trond Mohns stiftelse, som skal tilføre forskingspengar for å sjå nærare på korleis KI kan gjerast meir påliteleg og robust.

— Fleire tverrfaglege søknader frå forskingsmiljøa på alle fakultet er på veg dit, seier Heggernes.