Kraftsenter for kunstig intelligens har flere svakheter

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.

4. november samlet universitetsledelsen ved Universitetet i Bergen forskere innen kunstig intelligens (KI) og representanter fra offentlig sektor og industri seg på konferansen «Intelligente Bergen». Formålet var å vise frem, utforske og diskutere spennende muligheter ved bruk av algoritmesystemer. Bergen skulle også utropes som kraftsenter for kunstig intelligens.

Bare noen uker tidligere satt jeg i den samme staselige Universitetsaulaen og lyttet til en forelesning av årets Holbergpris-vinner, Harvard-professoren Sheila Jasanoff. Kontrasten mellom Jasanoffs tankevekkende innlegg og fredagens store KI-konferanse kunne ikke være større.

Jasanoff har utmerket seg internasjonalt med å opprette vitenskaps - og teknologistudier (STS studies). Internasjonalt har hun også bidratt mye til økt oppmerksomhet og kritisk tenking rundt spørsmål om forskning og teknologiutvikling i akademia. Jeg skulle derfor ønske at Jasanoff ikke bare ble hedret med en prestisjetung pris her i Bergen, men også at hennes tanker kunne gjenfinnes i en kritisk og åpen debatt i relevante forskningsmiljøer her til lands.

Les også

Jeg er ensom, og jeg er ikke alene

I sitt akademiske virke gjør Jasanoff seg til talsperson for en ydmyk teknologiutvikling som tar høyde for samfunnets kompleksitet. For å utforske akademiske og teknologiske visjoner har Jasanoff utviklet et konsept hun kaller «social-technical imaginaries». Dette er beskrevet boken hennes «Dreamscapes of Modernity», hvor hun identifiserer sentrale ideer og kollektive visjoner som manifesterer seg i kollektive fortellinger om fremtiden.

Hvis man tar Jasanoffs briller på og forsøker å identifisere sosioteknologiske forestillinger som var dominerende under «Intelligente Bergen», var det påfallende mye entusiasme over det enorme potensialet knyttet til kunstig intelligens (KI). Det ble sagt lite om risikoer og utfordringer.

Deltakerne på konferansen ble presentert et bredt spekter av «spennende bruksområder» i ulike samfunnssektorer. Et eksempel var fra offentlig forvaltning der man bruker en kognitiv teknologi («Watson» fra IBM) for å foreslå passende definisjoner for hyppig brukte begreper i saksbehandling (for eksempel «grunnskole»), hvor håpet er å redusere ansattes tidsbruk.

Et annet eksempel var fra industrielt lakseoppdrett, der «data mashing» og KI er sentralt for riskovurdering, automatisert foring og det som kalles for «precision farming.» Også forsikringsbransjen satser på bruk av KI for å finne «relevant informasjon» for å ta bedre beslutninger om kunder.

LES VIDERE ETTER ANNONSEN

FÅ NYHETER PÅ MOBILEN
Last ned Khrono-appen!

Nesten alle eksemplene som ble trukket fram var knyttet til komplekse etiske og juridiske utfordringer. Et av svært få unntak var bruk av KI for å utvikle avanserte klimavarslingssystemer for å redusere ulike typer klimarisiko.

Budskapet var tydelig: Kunstig intelligens er nøkkelen til mange store samfunnsproblemer. Det har et enormt potensiale for både forskning og næringsliv i Bergensområdet. Halleluja!

Men er det faktisk så enkelt? Og fører en slik overøsende teknologioptimisme oss til en sunn og veloverveid bruk i samfunnet? Jeg er sterkt i tvil. Særlig ettersom det dreier seg om en kompleks og disruptiv teknologi som, ikke uten grunn, utpekes av Europakommisjonen som risikoteknologi.

Fra et systemteoretisk perspektiv kan man argumentere for at KI og digitalisering som fenomen er et svar på utfordringene ved å håndtere den økende kompleksiteten i samfunnet. Men det er dessverre også knyttet til et paradoks: Den samme teknologien som lover å hjelpe oss med å effektivisere og skape mer oversikt vil også bidra til å øke kompleksiteten. Den vil snarere gjøre nye arenaer og områder mindre oversiktlige. Det blir tydelig når man ser på de økologiske, miljø- og energi-relaterte, men også etiske, politiske og sosiale kostnader knyttet til KI-teknologi.

Les også

Flere norske signerer avtale om nytt evaluerings­regime

Med andre ord, det er ikke gitt at bruk av KI i alle kontekster vil være en god løsning. Dessuten er det noen viktige momenter som ofte blir oversett, nemlig de tektoniske maktforskyvningene knyttet til uregulert bruk av data og KI.

Demokratisering, eller snarere mangelen på demokratisering, av prosessen frem til man satser stort på konkret bruk av KI til å løse konkrete samfunnsoppgaver. Dette er kanskje en av de største utfordringer knyttet til KI. Dessverre var heller ikke dette et tema for diskusjon på konferansen.

Vi må kunne føre gode, opplyste debatter om en risikoteknologi, og på den måten gjøre innbyggerne selv i stand til å vurdere hva som er ønskelig og etisk forsvarlig, og hvilke konsekvenser det vil få for dem. Slik situasjonen er nå er vi som borgere blitt degradert til uvitende dataobjekter.

Teknologi-entusiasmen var så påtakelig under konferansen Intelligente Bergen at Datatilsynets representant innledningsvis unnskyldte seg for å skape dårlig stemning ved å peke på personvernets fundamentale rolle i samfunnet og at det er hardt under press fra en teknologi som trenger bare «data, data, data».

Som offentlig kunnskapsinstitusjon og en viktig aktør i samfunnet burde Universitetet i Bergen ta høyde for teknologiens janusansikt som rører ved fundamentale menneskerettigheter, vårt syn på hva det betyr å være menneske i det 21. århundre og vår forståelse av verden rundt oss.

Jeg ønsker også at Bergen blir et kraftsenter, men da et kraftsenter for en opplyst, ansvarlig og (som Jasanoff) ydmyk forskning på en risikoteknologi som ser nyansert og kritisk på potensialet og utfordringer. Og så må det ikke glemme å inkludere folket.