kunstig intelligens
«Vannmerke» kan avsløre bruk av kunstig intelligens
En gruppe forskere har utviklet et digitalt vannmerke som gjør det mulig å identifisere KI-generert tekst.
Etter hvert som ChatGPT og andre lignende programmer har gjort sitt inntog i den digitale verdenen, har det blitt vanskelig å se om en tekst er skrevet av et menneske eller en maskin.
Forskere fra DeepMind, et datterselskap av Google, mener nå at de har funnet en løsning.
I en studie som nylig ble publisert i Nature, og som er omtalt av en rekke aviser i både Danmark og Sverige, beskriver forskerne et «vannmerke» for KI-generert tekst, som skal gjøre det enklere å identifisere om det er en person eller en maskin som står bak innholdet.
Bruker bestemte ord
Måten dette skjer på er at forskerne får den kunstige intelligensen til å bruke bestemte ord, som samlet skaper et bestemt mønster i teksten.
Mennesker merker knapt at det er noe galt, men et dataprogram kan gjenkjenne mønsteret, omtrent som en strekkode, og på denne måten avsløre at teksten er KI-generert.
Teknologien har fått navnet SynthID.
Utdatert?
Vannmerket er ikke helt vanntett ennå, innrømmer forskerne bak studien. Selv om ordene som utgjør vannmerket er ukjente for brukeren, er det fortsatt lett å omgå ved å skrive om den KI-genererte teksten nok, forklarer forskerne i en pressemelding.
Studien viser ellers at det er mulig å skape vannmerker i AI-generert tekst uten at kvaliteten på teksten reduseres betydelig.
Studien ble sendt til Nature i april 2024, og forskerne har brukt rundt to år på arbeidet. Dermed mener flere som har kommentert studien at det er rimelig å anta at det nå finnes vannmerke-programmer og andre verktøy som er mer avansert enn den som studien viser til, skriver danske Videnskab.dk.
Nyeste artikler
11 har søkt sluttpakke ved NTNU-fakultet. Mangler nesten 40 årsverk
«Vannmerke» kan avsløre bruk av kunstig intelligens
Harald Arnljot Øye (1935-2024)
Helse og teknologi på Lillestrøm: En realitetsorientering
Regjeringen snur: Det blir enklere å ansette forskere uten utlysning
Mest lest
Fekk ikkje jobben: — Vert straffa for å vera introvert vestlending
En ny type forskningsjuks: — Jeg ble sjokkert
Da forskeren fikk den dødelige sykdommen ALS, ble jobben ekstra viktig
Mastergrad gir jobb, men studenter er overrasket over tøff overgang
Ga vraket kandidat god referanse. Den ble ikke tatt med i vurderingen