Laget KI-verktøy for å avsløre KI-juks

Falske forskningsartikler har eksplodert med kunstig intelligens. Artikkelfabrikker pumper ut falske forskningsartikler.

Nyhetsmagasinet til Nature meldte tidligere i år at over 10.000 forskningsartikler ble trukket tilbake i 2023 på grunn av mistanke om juks og vitenskapelig uredelighet. Det er ny rekord, og økningen er større enn veksten i antall publiserte artikler. 

publisering

Han avslører forskningsfusk: — Skremmende omfang

KI bekjemper KI

Nå har to forskere laget en KI-algoritme som skal avsløre KI-juks. Det nye KI-verktøyet xFakeSci klarte i 80 til 94 prosent av tilfellene å skille de falske fra de ekte i en gjennomgang av 300 forskningsartikler, viser en studie publisert i Scientific Reports og PubMed av forskerne Ahmed Abdeen Hamed ved Binghamton University in New York og Xindong Wu ved Hefei University of Technology. 

— Å oppdage falsk forskning generert av ChatGPT er en kjempeutfordring. XFakeSci-algoritmen er et viktig steg på veien til å bekjempe juks, skriver de i sitt sammendrag på PubMed.

Mindre tvil i falske artikler

Forskerne jobbet etter hypotesen «KI generert innhold har kjennemerker som kan skilles fra forskningsartikler». De laget algoritmen xFakeSci som skiller artikler skrevet av ChatGPT fra artikler skrevet av forskere. De 300 falske og ekte artiklene som ble testet med algoritmen, handlet om kreft, depresjon og alzheimers.

Forskerne oppdaget blant annet at ord som ofte skrives sammen, såkalte n-gram-modeller, sjeldnere forekom i de KI-genererte artiklene. I tillegg oppdaget de at de falske artiklene var skrevet for å overbevise, mens de ekte artiklene innholdt mye mer uttalt tvil.

— En ekte forsker rapporterer ærlig om hva som skjer i et eksperiment og hvilken metode som er brukt. Chat PT handler om å utdype et enkelt poeng, mens ekte forskning handler om bredde, sier Hamed ifølge Press trust of India.

En av ti artikler skrevet med hjelp av KI

Ti prosent av forskningsartiklene publisert i år, vil være skrevet ved hjelp av ChatGPT, viser en annen studie som foreløpig ikke er fagfellevurdert.

Forskerne fra Universitetet i Tübingen i Tyskland og Northwestern University i USA har analysert sammendragene («abstraktene») til nesten alle de engelskspråklige artiklene — 14,2 millioner — tilgjengelig på PubMed, en søkemotor for biomedisinsk forskning i årene 2013—2024.

publisering

Bruken av disse ordene har eksplodert etter ChatGPT

Stadig flere studenter blir tatt for KI-juks

I Norge er 66 studenter blitt felt for juks ved bruk av kunstig intelligens det siste året, viste en opptelling gjort av Khrono i august. Sensorene reagerte både på «intetsigende og altomfattende formuleringer» og feil i referanser. 

Referanser var feil satt opp og viste til ting som ikke var relevant. Flere mener studentene som er avslørt trolig bare er toppen av isfjellet.