Debatt ● Are bøe Pedersen

Ett år med ChatGPT: Etiske blindsoner, eller lukkede øyne?

KI-eksplosjonen er bygget på tyveri, sløsing med ressurser og utbytting av arbeidere i lavkostnadsland. Er det verdt prisen?

— Det jeg savner i den pågående årskavalkaden av saker om KI og språkmodeller, er et blikk på den etiske siden ved det hele, skriver kronikkforfatteren.
Are Bøe Pedersen
Førsteamanuensis i norsk Are Bøe Pedersen
Publisert

Denne teksten er et debatt­inn­legg. Inn­holdet i teksten uttrykker forfatterens egen mening.

Etter et år med ChatGPT-frislipp, hvordan ser verden ut? Jeg skrev i januar i at språkmodeller neppe ville erstatte forskere eller utradere hele sektorer, fordi de først og fremst er laget for å virke sofistikerte i måten de ikke forstår ting på. Noe har likevel endret seg: Jeg har for eksempel begynt å la lærerstudenter selv oppdage at ChatGPT er gjennomgående dårlig til å tolke, forstå og reflektere — i et håp om at denne bevisstgjøringen filtreres ned i skolen. 

Vi har ikke gått tilbake til penn og gjennomslagsark på eksamen, men nøyd oss med å revidere reglene for plagiat, og tenkt litt ekstra gjennom hvordan en god oppgave formuleres. Det jeg savner i den pågående årskavalkaden av saker om KI og språkmodeller, midt mellom professorene som ivrig forbereder studentene på at dette er noe de «skal bruke i resten av sitt liv», er et blikk på den etiske siden ved det hele. 

Noen slike diskusjoner har blitt løftet frem i norske medier, for eksempel om personvern (som Universitetet i Oslo har løst), opphavsrett og plagiat. Det er lett å se hvordan særlig KI-genererte bilder kun er et knapt steg unna simpelt tyveri, men det er liten prinsipiell forskjell på dette treningsmaterialet, og på romanene til forfatterne som nå saksøker OpenAI. KI-firmaene i Silicon Valley har allerede tilstått: De holder fast på at KI-treningsmaterialet — også de opphavsrettsbeskyttede åndsverkene — må regnes som «fair use», slik at de slipper å betale. Det finnes ikke noe alternativ, de har simpelthen ikke råd til å betale for treningsmaterialet de allerede har brukt.

Det er både en trussel og en bønn om nåde når de sier at hele forretningsmodellen deres vil kollapse dersom treningsmaterialet omfattes av nasjonale og internasjonale åndsverklover. De juridiske hjulene spinner sakte i saker hvor ny teknologi er involvert, men de er til gjengjeld vanskelige å stoppe når de først er i gang. Modellen med å stjele treningsmateriale er ikke bærekraftig i lengden, og har kun fungert på grunn av den midlertidige Vill vest-tilstanden som oppstår fordi lovgivning bruker tid på å innhente teknologiske sprang.

Som en respons på KI-firmaenes klåfingrethet, har Universitetet i Chicago utviklet en gratis vaksine: Glaze er et verktøy for kunstnere, og fungerer som digitalt insektmiddel. Det gjør mikroskopiske endringer i bildet som er usynlig for mennesker, men forpurrer KI-rutinenes lesing av bildet. Nightshade er en mer aggressiv versjon av samme teknologi, som «forgifter» treningsdata, slik at en bilde-KI primært trent på stjålet materiale (f.eks. Midjourney) vil bli gradvis mer ubrukelig. At KI-genererte bilder har oversvømt internett, har også ført til en slags ouroborous-effekt: Ved nye skraperunder har også KI-bilder blitt en del av treningsmaterialet, og disse forgifter også datamaterialet. KI-en spiser seg selv. 

En annen, og kanskje mer prekær etisk diskusjon, er den menneskelige og klimamessige kostnaden. Karbonavtrykket til datasentrene — hvor operasjonene som lar ChatGPT generere svar foregår — er notorisk vanskelig å fastslå. Datasentrene oppgir i liten grad slike data selv, og den relative karbonbelastningen avhenger uansett av kraftkilden de til enhver tid bruker. Vi vet derimot at ferskvannsforbruket til kjøling av datasentrene er enormt. I 2014, lenge før ChatGPT, målte amerikanske datasentre sitt årlige behov for vann i milliarder liter. Treningen av GPT-3 alene krevde 700 000 liter vann. Dette er ikke en engangskostnad: Hvert eneste prompt man nå gir ChatGPT krever omtrent en halvliter vann. 

Silicon Valley oppfattes naturlig nok som arnestedet for KI-eksplosjonen, men mesteparten av treningsarbeidet med å merke og kategorisere innhold gjøres i lavkostnadsland som India, Øst-Afrika, eller Filippinene — og sågar i enkelte flyktningleirer i Libanon, hvor arbeidskraft er spesielt billig.

Are Bøe Pedersen

De verste overtrampene skjer imidlertid ikke i Silicon Valley. Allerede i januar ble det avslørt at OpenAIs modeller fikk implementert sine innholdsfiltre og moderasjonsrutiner gjennom «håndtrening», et arbeid OpenAI fikk gjort i Kenya og betalte to dollar i timen for. Silicon Valley oppfattes naturlig nok som arnestedet for KI-eksplosjonen, men mesteparten av treningsarbeidet med å merke og kategorisere innhold gjøres i lavkostnadsland som India, Øst-Afrika, eller Filippinene — og sågar i enkelte flyktningleirer i Libanon, hvor arbeidskraft er spesielt billig. Denne tendensen til å outsource det reelle arbeidet bak KI-teknologi — det som faktisk gjør treningsdataene brukbare — til lavkostnadsland, har vært kjent i alle fall siden 2020. Populariteten til ChatGPT og andre språkmodeller har imidlertid gjort denne saken mer aktuell, og de journalistiske undersøkelsene har blitt skalert opp i takt med at behovet for KI-løsarbeidere øker. 

Resultatene av undersøkelsene er både lite overraskende og nedslående: KI-løsarbeiderne er «skremte, stressede og underbetalte», enten de jobber for Microsoft, Google, OpenAI eller Scale AI. Amerikanske KI-firmaer er allerede notoriske for å ikke overholde de (få) internasjonale arbeidsreguleringene som finnes. Foruten de lave lønningene, er det ikke uvanlig at de lar være å betale. Det finnes heller ingen jobbsikkerhet når firmaene benytter seg av mellommann-apper, såkalte «Gig-work apps», og slik unngår både ansettelsesforhold og formelt ansvar. 

Ingen av disse praksisene er bærekraftige, eller i det hele tatt etisk forsvarlige. Hver gang man stiller et spørsmål i en språkmodell — enten det er ChatGPT, Copilot, Bard eller noe annet — tar man også effektivt stilling til noen andre spørsmål: Hva er den akseptable menneskelige kostnaden for en artikkeloppsummering? Hvor mange liter drikkevann er tilgangen på nye konfirmasjonssanger verdt?

Disse perspektivene har så langt vært ganske fraværende i Norge, men jeg synes ikke årskavalkaden burde gå av stabelen uten dem. Dette — ikke feberfantasier om maskinherredømme og dommedag — er den etiske diskusjonen vi må ha om KI.

meninger debatt are bøe pedersen kunstig intelligens chatgpt
Siste fra forsiden:

Kortnytt

  • Kunstnernes Hus avslutter samarbeid med KHiO

    Elise Lystad

    Kunstnernes Hus har besluttet å avslutte sin leieavtale med Fondet for kunst- og designstudenter (FKDS), skriver Kunstavisen.

    Fondet har som formål å støtte studenter ved ulike avdelinger ved Kunsthøgskolen i Oslo (KHiO). Ordningen med Kunstnernes Hus har siden 2014 gitt nyutdannede kunstnere atelierplasser på huset. Årlig har fire atelier blitt tildelt åtte nyutdannede kunstnere fra Kunsthøgskolen i Oslo (KHiO).

    — Det betyr at FKDS/KHiO må søke etter andre løsninger for å ivareta denne viktige stipendordningen for nyutdannete kunstnere, sier rektor ved KHiO Marianne Skjulhaug til Kunstavisen. Skjulhaug er også styreleder for fondet.

    Kunstnernes Hus har i flere år hatt økonomiske problemer, noe som har påvirket beslutningen om å ikke leie til KHiO lenger. Nå inngår huset istedenfor en avtale med Office for Contemporary Art Norway (OCA).

  • Ny leder i LO Stat

    Elise Lystad

    Elisabeth Steen er ny leder i LO Stat.

    — Det er en stor ære og et stort ansvar forbundet med denne rollen. Det å ivareta lønns- og arbeidsvilkårene til medlemmene våre er det viktigste vi gjør, sier Steen til Khrono.

    Steen ble valgt inn på representantskapsmøtet tirsdag 19. november, ved akklamasjon og uten motkandidater. Hun tar over etter Egil André Aas, som har vært leder i LO Stat i åtte år. Det skriver Altinget.

    — Jeg overtar akkurat når rikslønsmenda kommer med sin kjennelse, så arbeidet med hovedoppgjør i 2026 starter jo nå. Lønnspolitikken til LO Stat ligger fast og det er viktig for oss å ivareta alle medlemmene sine rettigheter, sier Steen.

    LO Stat går gjennom en stor omstilling det neste året, noe som former sakene Steen som leder skal jobbe med. LO Stat skal deles opp, og Spekter går inn i LO.

    — Vi skal overføre forhandlingsansvar fra Spekter til LO Stat, og forberede hvordan LO Stat skal se ut fra 1. januar 2026. I tillegg skal vi gjennomføre mellomoppgjør i både staten og Spekter i 2025 samtidig, sier Steen.

    Hun får med seg Henriette Jevnaker fra Fagforbundet som 1. nestleder, og Tor Egil Vangstad fra Norges offisers- og spesialistforbund som 2. nestleder.

    Steen er tidligere hovedkasserer i Norsk Tjenestemannslag. I tillegg har hun ledet NTL Nav, som med sine rundt 9000 medlemmer er NTL sin største landsforening.

    Elisabeth Steen er ny leder i LO Stat.

  • Jussstudenter i Oslo får flest toppkarakterer

    Elise Lystad

    I snitt får 17 prosent av UiO-studentene karakteren A, mens andelen er lavere i både Bergen og Tromsø, skriver Advokatbladet.

    Ved Universitetet i Bergen (UiB) er det rundt 13 prosent som får A i gjennomsnitt, mens det ved UiT Norges arktiske universitet er 12 prosent.

    Det er i snitt litt over 2 prosent ved Universitetet i Oslo (UiO) som stryker, tilsvarende tall for UiT er 2 prosent og ved UiB litt over 2 prosent. Den vanligste karakteren er C ved alle tre juss-utdanninger. I 2024 er det så langt en tredjedel av jusstudentene som får denne karakteren.

  • Vant pris for beste forskningsartikkel

    Elise Lystad

    UiT-forskeren Kristoffer Wickstrøm har vunnet pris for en forskningsartikkel om kunstig intelligens.

    — En slik anerkjennelse er veldig gøy og et tydelig tegn på at arbeidet vi gjør har høy kvalitet. At artikkelen vår er en del av dette gode selskapet er kjempeflott, spesielt når det er så stor konkurranse fra mange andre sterke bidrag, sier Wickstrøm i en pressemelding.

    Forskningsartikkelen hans publisert i Pattern Recognition Letters i 2022, og det er tidsskriftet som gir Wickstrøm prisen. På to år har artikkelen blitt sitert hundre ganger av forskere i hele verden.

    Wickstrøm er førsteamanuensis i UiT sin maskinlæringsgruppe. Han har utviklet en ny metode for å lære kunstig intelligens å analysere data uten menneskelig hjelp.

    Kristoffer Wickstrøm er forsker ved UiT Norges arktiske universitet.

  • Cupido-samling åpnet ved Universitetet i Agder

    Hege Larsen

    Universitetet i Agder (UiA) har åpnet en av Europas største samlinger av erotisk litteratur på campus i Grimstad. Den kalles Cupido-samlingen og har tilhørt den avdøde redaktøren i Cupido, Terje Gammelsrud.

    UiA fikk samlingen i 2020 og siden tildelingen har UiAs bibliotek jobbet med å katalogisere og gjennomgå innholdet i samlingen, som har fått sitt eget rom i biblioteket, ifølge uia.no.

    Samlingen består blant annet av tegneserier, erotiske noveller og faglitteratur.

    – Dette er en unik samling, både for oss som fagmiljø og for allmennheten. Samlingen består av erotisk litteratur på norsk, dansk, engelsk og fransk, helt fra 1800-tallet av og frem til i dag, sier professor Tor-Ivar Karlsen ved UiA.

    Professor Tor-Ivar Karlsen har vært sentral i å få Cupido-samlingen til UiA.

  • Jazz-student spilte konsert med verdensstjerne

    Elise Lystad

    Den 22 år gamle studenten Tarald Kongshaug var bassist for bandet For You på konsert i november.

    Frontfigur Ed Westwick er verdenskjent for rollen som Chuck Bass i Gossip Girl. Kongshaug sa ja til å spille bass dagen før konserten, og fikk under et døgn på å lære hele repertoaret til bandet. Til vanlig studerer Kongshaug utøvende jazz på jazzlinjen til NTNU i Trondheim.

    — Alle i bandet var utrolig hyggelige, og det var veldig gøy å henge sammen etter konserten. Jeg tar med meg masse erfaring om det å lære meg musikk på en effektiv måte, noe som er utrolig viktig når man lever som utøvende musiker, sier Kongshaug til Adresseavisen.

    Til vanlig er det nordmannen Hans Kristian Nordin som er bassist for bandet, som har spilt inn og produsert mye av musikken sin i Oslo. Derfor har bandet en spesiell tilknytning til Norge.

  • Britisk universitet med gavepakke til nye studenter

    Joar Hystad

    Britiske studenter som velger å ta fatt på et utdanningsløp ved University of Birmingham fra og med høsten 2025, vil få et ekstra stipend på totalt 5000 britiske pund fra universitetet, noe som tilsvarer 70.000 norske kroner etter dagens kurs.

    Times Higher Education (THE) skriver at universitetet innfører ordningen som et resultat av økningen i skolepenger for britiske studenter.

    Fra og med høsten 2025 blir skolepengene ved britiske universiteter oppjustert fra 129.000 til 133.000 norske kroner.

    De 70.000 kronene som nye studenter i Birmingham vil motta skal utbetales over åtte månedlige avdrag i løpet av de to første studieårene, med ytterligere to større utbetalinger det siste året, skriver THE.

    University og Birmingham vil lokke til seg studenter med å utbetale en relativt stor pengesum til nye studenter fra og med høsten 2025.

  • Nytt utdanningstilbud i Lister

    Joar Hystad

    Fra og med høsten 2025 vil det være mulig å ta bachelor i byggingeniør-faget ved Universitetet i Agder (UiA), mens du bor og studerer i Listerregionen, skriver NRK.

    Tilbudet er et resultat av et nytt samarbeid mellom Studiesenteret Lister Kompetanse og Universitetet i Agder i Grimstad.

    Studiet bygges opp som et deltidsstudium som skal gå over fem år.

Nyeste artikler

Mest lest

Powered by Labrador CMS