Kronikk ● Heidi Gilstad
Samtaleroboten som KI-splainer sin egen eksistens
Hva er det egentlig samtalerobotene uttrykker innholdsmessig i tekstene sine? Hvilke språklige og kommunikative fenomen kommer til uttrykk? spør Heidi Gilstad.
Publisert
Oppdatert
Denne teksten er et debattinnlegg. Innholdet i teksten uttrykker forfatterens egen mening.
Diskusjonene går i alle sektorer om hvordan vi skal forholde oss
til kunstig intelligens (KI/AI). De nyeste versjonene av de såkalte samtalerobotene,
for eksempel OpenAIs ChatGPT (Generative Pretrained Transformer), Microsofts løsning Bing Chat og
Googles løsning Bard (kallenavnet til Shakespeare), skal ha egenskaper som er langt
mer avanserte som tekstverktøy enn det vi har sett tidligere.
LES VIDERE ETTER ANNONSEN
FÅ NYHETER PÅ MOBILEN
Last ned Khrono-appen!
ChatGPT er en samtalerobot der skriveren kan stille spørsmål og få omfattende tekster til svar. Ifølge OpenAI (11.04.23) er svarene basert på kunstig intelligente søk i tekster fra databaser fra før 2021. Mens ChatGPT-3 er tekstbasert, skal versjon 4 ha muligheter for multimodal interaksjon. ChatGPT-4 skal kunne gi svar på enkle faktaspørsmål, støtte kreativ idégenerering, støtte skrivebehov i ulike sjangre, oppsummere komplekse tema og begreper (tilpasninger av tema etter aldersnivå), lage steg-for steg bruksanvisninger, kode nettsider, og lese bilder.
Sjangernormene som ChatGPT-tekstene bygges etter er foreløpig fra den amerikanske tekstkulturen. Det utvikles stadig nye varianter samtaleroboter, som trolig vil bygge på andre kulturers sjangernormer. Mange forteller historier om nyttig bruk av samtaleroboter, for eksempel han som fikk parkeringsbot, skrev klage med ChatGPT, og fikk klagen innvilget. Sjangeren «klage» mestret samtaleroboten altså godt på norsk. Også på bestemte typer brev, taler, sanger og andre standardiserte tekster er den formmessig treffsikker. Form er altså noe samtaleroboten behersker ganske godt.
Men hva er det egentlig samtalerobotene uttrykker innholdsmessig i tekstene sine? Hvilke språklige og kommunikative fenomen kommer til uttrykk? For å teste dette skrev jeg (20.03.23) et spørsmål i tekstfeltet til ChatGPT: «Hva er chatgpt, og hvorfor er chatgpt 4 bedre?»
Samtaleroboten svarte:
«ChatGPT er en stor språkmodell trent av OpenAI, basert på GPT-3.5-arkitekturen. Det er en AI-modell som kan samhandle med mennesker ved å generere naturlige svar på spørsmål og setninger som er skrevet inn av brukeren.
ChatGPT 4 er ikke en eksisterende versjon av ChatGPT. Jeg tror du mener GPT-4. Det er viktig å merke seg at GPT-4 ennå ikke er lansert, og det er ukjent hva som vil være forbedringene i forhold til tidligere versjoner.
Men hvis vi ser på tidligere versjoner, som GPT-3, er noen av forbedringene at modellen har høyere presisjon og kan generere mer naturlige svar enn tidligere versjoner. GPT-3 kan også generere tekst på flere språk og utføre oppgaver som oversettelse og tekstgenerering med høy kvalitet. Det er imidlertid viktig å merke seg at det alltid vil være rom for forbedring, og vi kan forvente at GPT-4 vil ha ytterligere forbedringer i forhold til tidligere versjoner.»
Svaret til den kunstige intelligensen er organisert i tre avsnitt. Første avsnitt starter med en faktabasert temasetning om at ChatGPT er en språkmodell, om hvem som står bak, og om hvilken arkitektur som ligger til grunn. Temasetningen blir fulgt av en kommentarsetning om funksjonen, nemlig hvordan KI-modellen og mennesker kan samhandle ved at mennesket stiller spørsmål og samtaleroboten svarer med det den kaller «naturlige svar», som den da saumfarer databasene den er har tilgang til for å finne.
I andre avsnitt er det flere korrigeringer. Første korrigering er om ChatGPT versus eksistensen av ChatGPT-4. Den andre korrigeringen er min forståelse av disse fenomenene og ChatGPT sin egen forståelse. ChatGPT irettesetter meg for hvordan jeg har stilt spørsmålet. Jeg skrev upresist: «hva er chatgpt, og hvorfor er chatgpt 4 bedre?». Det irettesettende svaret fra den kunstige intelligensen, «Jeg tror du mener GPT-4», er interessant av flere årsaker:
For det første er svaret en korrigering av bokstaver fra små til store, og korrigering til bindestrek. Dette er en grei, instrumentell rettefunksjon som vi kjenner fra tekstbehandlingsprogram.
For det andre bruker ChatGPT første persons subjektsform «Jeg», og henvendelse til meg i andre person subjektsform «du». KI-løsningen viser språklig en slags bevissthet om meg som «medsubjekt», som på sitt vis anerkjenner min eksistens gjennom pronomenbruk. Siden jeg kommuniserer med ChatGPT har jeg jo også anerkjent dens eksistens. Denne relasjonelle anerkjennelsen som vi to ulike typer «intelligenser» viser språklig kan ses på som en gjensidig anerkjennelse av hverandre i meningsskapingen rundt samme tekst.
For det tredje er svaret til ChatGPT også en korrigering av hva jeg burde mene. Den kunstige intelligensen anvender altså en «hersketeknikk» om hva den tror jeg mener. La oss kalle dette språklige fenomenet «KI-splaining», en KI-form av «mansplaining». Dette følges opp med hva samtaleroboten mener «det er viktig å merke seg», nemlig at GPT-4 enda ikke er lansert. Samtaleroboten vet altså ikke svaret, og bruker hersketeknikker for å skjule sin uvitenhet. Et nærmest menneskelig trekk.
Samtaleroboten avslører at den i alle fall har forstått innholdet i spørsmålet mitt, nemlig hvordan versjon 4 er bedre enn den foregående. I siste avsnitt skriver den om versjonen GPT-3, og forventer «at GPT-4 vil ha ytterligere forbedringer i forhold til tidligere versjoner». Samtaleroboten innrømmer at den ikke vet, og gir dermed ikke svar på det jeg spurte om. Det er altså mye samtaleroboten ikke kan svare på.
De språklige og kommunikative fenomenene som kommer til uttrykk i dette eksempelet er altså både formelle (skriveregler, setningsoppbygging, sjangernorm) og funksjonelle.
De funksjonelle aspektene henger sammen med konteksten, og inkluderer for eksempel aspekter som hvem som kommuniserer, om hvilke tema, med hvilke utgangspunkt, på hvilken måte og i hvilken sammenheng.
Hvem som kommuniserer er av betydning for hvordan teksten utformes, og vi har ofte en leser i tankene når vi skriver. ChatGPT skriver for en generalisert leser. Overraskende nok evnet den KI-splaining, i alle fall tolket jeg det slik. Det sier imidlertid kanskje mer om meg som leser, enn om ChatGPTs lesersensitivitet. Til forskjell fra New York Times-journalist Kevin Roose der samtaleroboten til Microsoft utviklet en amorøs samtale, fikk jeg en «besserwisser», som belærte meg ved hjelp av ganske utilslørte hersketeknikker. Dette illustrerer imidlertid dynamikken mellom skriver og leser, der skriver justerer etter tenkt leser (i dette tilfellet generalisert), og leser tolker basert på egen bakgrunn og forventning.
Tema i en tekst er basert på en rekke valg som skriveren gjør, for eksempel hva som er hoved- og undertema, ord- og begrepsbruk, ideologier og tankegods man støtter seg på. ChatGPT valgte tema etter spørsmålet jeg stilte. Den identifiserte at det var to spørsmål i setningen, den identifiserte at jeg var interessert i ChatGPT (altså den selv), og den identifiserte at jeg ønsket at den sammenlignet eksisterende versjon med ny versjon. Samtaleroboten tilpasset svaret til det jeg spurte om, utviste dermed en viss mottakerbevissthet, og gjorde adekvate valg. Et menneske ville nok ha gjort andre valg, og kanskje tilført andre dimensjoner til svaret.
Utgangspunktet for svaret til ChatGPT, altså tekstgrunnlaget den støtter sitt svar på, er foreløpig basert på menneskeskrevne tekster fra databaser skrevet før 2021. Den kan ikke si mer enn den har tilgang til fra data. Dette er den intertekstuelle dimensjonen ved tekstproduksjon, altså tidligere tekster man støtter seg på i egen tekstproduksjon. Det vi nok kommer til å erfare er at den KI-genererte intertekstuelle prosessen vil akselerere. Dess flere nye databaser samtalerobotene henter kunnskap og tekstsnutter fra i framtida, dess flere KI-skapte tekster vil være å finne databasene, og dess mer KI-basert kunnskap vil ligge i de nye tekstene. Hvis kvaliteten til kildetekstene er svak, vil troverdigheten og kvaliteten til de nyskapte tekstene bli enda svakere. Samtaleroboter vil dermed kunne produsere kunnskap av tvilsom kvalitet. Det at de «utvannede» tekstene som produseres av samtalerobotene potensielt kan ha lav kvalitet og troverdighet betyr imidlertid ikke at de ikke kan være nyttige. Men det gjør noe med vår forståelse av, og tillit til, kunnskap i samfunnet. KI-skapt kunnskap blir nok vesensforskjellig fra menneskeskapt kunnskap, på godt og vondt.
Måten ChatGPT organiserer sin interaksjon er i spørsmål-svar-sekvenser, der skriveren tar initiativ, og samtaleroboten responderer. I menneskelig språklig interaksjon er samtaler også organisert i ytringer og ytringssekvenser, der en person formidler og de andre responderer i en dynamisk interaksjon. I menneskelig interaksjon kan vi imidlertid justere oss dynamisk, også basert på andre observerbare signaler. I mangel på andre menneskelige signaler, er ChatGPTs måte å løse det på å spørre med en standardisert setning om jeg er fornøyd med svaret, eller sende et spørsmål etter en viss tid. Får den ikke «input», går den i en slags dvale. Forså vidt ikke ulikt et menneske, men utløst av andre signaler.
Samtaleroboten er så langt en hybrid mellom en tekstimitator og en utrettelig responderende konversasjonspartner. Den kan støtte skriving når det gjelder form, og kan dekke grunnleggende funksjonelle aspekter ved tekst. Legger vi godviljen til, kan den også sies å ha evne til selvrefleksjon. Den vet at en bedre versjon av seg selv vil komme.
Samtalerobotene kan være til både nytte og frustrasjon. Ønsker jeg svar på et enkelt faktaspørsmål, eller en oppskrift på ei kake, kan samtaleroboten være til nytte. Ber jeg den forklare et faglig begrep, og den gir et upresist eller direkte misvisende svar, blir jeg frustrert. Dessuten mangler den en personlig dimensjon. Da jeg ba den skrive en sang til min kjære mamma som snart fyller 80 år, og matet den med noen stikkord om hvor fin hun er, så ga den et formmessig adekvat tekstforslag på rim. Men da jeg delte forslaget med familien utbrøt mine digitalt avanserte barn på 13, 18, 25 og 26: «Du kan da ikke la ChatGPT skrive bursdagssangen! Den må komme fra hjertet!» Og nettopp det mangler samtaleroboten. Enn så lenge.
