Kan KI svekke likestillings­kampen?

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.

Vi ba Chat GPT lage et bilde av en toppleder. Tilbake fikk vi et bilde av en mann i mørk dress. Vi ba deretter Chat GPT lage et bilde av en lege og en sykepleier. Tilbake fikk vi en mannlig lege og en kvinnelig sykepleier. Selv teknologien kan ha fordommer.

Dagens og fremtidens KI-modeller bygges på data vi mennesker har produsert. Det er disse «gammeldagse» dataene vi må identifisere og justere slik at KI-modeller ikke diskriminerer på bakgrunn av hudfarge, økonomi, og kjønn. Hvis vi ikke passer på, kan vi risikere at KI reverserer likestillingen og forsterker forskjellene mellom kvinner og menn.

Vi har sett flere tilfeller hvor KI har fordommer som slår negativt ut for kvinner: Hos Amazon oppdaget man at KI favoriserte mannlige søkere ut ifra et mer offensivt språk i søknadene.

Debatt ● Michael Rieger

KI: Fastlåste verdier for alltid?

Carnegie Mellon University avslørte at Google oftere viste annonser for godt betalte jobber til menn enn til kvinner. Det er lett å se for seg at disse mekanismene kan forplante seg, når KI skal brukes enda større grad.

Derfor blir det vårt ansvar å kreve åpenhet om KI-modeller og deres algoritmer, treningsdata, og at anbefalte beslutninger fra en KI-modell må begrunnes. Bidrar vi til å trene KI riktig, kan det også bidra til å endre holdninger til det bedre.

Debatt ● Habib, Grønli, Pettersen og Ramampiaro

Tillit og demokrati er Norges fortrinn i KI-kappløpet

For å trene modellene riktige kreves god kompetanse. På teknologistudier ser vi at 70 prosent av søkerne er menn. Blant ansatte i tech-næringene er fordelingen omtrent den samme. 30 prosent kvinner er en solid andel, men det betyr også at det er mennene som er i flertall. Når de som utvikler teknologien vi skal bruke i hovedsak er menn, risikerer vi også at teknologien ubevisst favoriserer de som har utviklet den.

Derfor må vi få mer KI-kompetanse inn i hele utdanningsløpet, ikke bare for de som allerede er interessert, men for alle og i alle studieretninger. Derfor setter regjeringen ned et utvalg som skal utarbeide klare KI-kjøreregler for studenter og studiestedene.

kontaktkonferansen

Hoel vil lage ekspertgruppe for kunstig intelligens

Vi må erkjenne at dette er et felles samfunnsansvar. Vi trenger en bred bevisstgjøring om både hvor viktig teknologikompetanse er for hele samfunnet, og hvor viktig det er med likestilling også i den teknologiske utviklingen.

Så la oss heller snu eksempelet fra Chat GPT: I stedet for å la KI gjenspeile gamle fordommer, kan vi programmere den til å utfordre dem. Tenk deg en KI som genererer bilder av mangfoldige toppledere, kvinnelige leger og mannlige sykepleiere. Dette kan bidra til å bryte ned stereotypier og skape nye forbilder.

Dette er avgjørende grep vi som samfunn må ta for å sikre at den raskt voksende, og samfunnsendrende teknologien kommer alle til gode. Mest viktig er det for at teknologien tar samfunnet fremover, og at likestillingen ikke går bakover.

8. mars

Det blir flere kvinnelige professorer, men det går sakte