Tekoälyllä tuotettu roska on hiipinyt jopa tieteellisiin artikkeleihin, tunnetuissa tiedejulkaisuissa

Tutkijan työn yksi vaiheista on koostaa löydöksensä kirjalliseen muotoon. Sen jälkeen tutkimus pitäisi saada vielä julkaistua jossain arvostetussa tieteellisessä julkaisussa, jotta tutkimus noteerattaisiin tiedemaailmassa.

Tärkeimpien ja arvostetuimpien tiedejulkaisujen julkaisukriteerejä on perinteisesti pidetty äärimmäisen tiukkoina, mutta nekin näyttävät menevän vipuun uuden maailman edessä.

Verkkomedia 404 Media on tutkinut tieteellisiä julkaisuja tarkalla suurennuslasilla ja tehnyt hälyttävän havainnon. Pelkästään yleisimmällä ChatGPT:n täytefraasilla ("As of my last knowledge update") löytyy Google Scholar -hakukoneesta 115 julkaistua tieteellistä artikkelia.

Eli kyseisten tieteellisten artikkelien luomiseen tai vähintäänkin luomisen auttamiseksi on käytetty ChatGPT:tä. Ja merkillepantavaa on se, että 115 löydöstä ovat vain ne, joissa artikkelin "kirjoittaja" ei ole vaivautunut oikolukemaan tekstiä niin tarkkaan, että olisi huomannut ChatGPT:n artikkeliin lisäämät täytefraasit.

Artikkeleista löytyi myös muita selkeästi tekoälyn tuottamia lauseita kuten "Koska olen vain tekoäly.." / "As an AI language model.." sekä "Minulla ei ole pääsyä reaaliaikaiseen tietoon" / "I don't have access to real-time data".

Valtaosa löydöksistä tehtiin toki ei-niin-tunnetuista tieteellisistä julkaisuista, mutta myös kaikkein suurimmista tiedejulkaisuista löytyi selkeitä esimerkkejä tekoälyn tuottamasta tekstistä.

Valitettavasti mitään absoluuttisen varmoja työkaluja tekoälyn tuottaman tekstin havaitsemiseksi ei ole onnistuttu kehittämään, vaikkakin useat yhtiöt sellaisia kovaa vauhtia yrittävätkin kehittää. Tieteellisen yhteisön perinteinen vertaisarviointi tuleekin jatkossa entistä tärkeämpään osaan tieteellisten julkaisujen arvioinnissa. Ongelmana on vain se, että kielimallit ovat jo nyt niin hyviä, että useinkaan niiden tuottamaa tekstiä ei voi erottaa ihmisen tuottamasta tekstistä.

Toki tekoäly on myös hyvä apuväline, vaikkapa artikkelin rakenteen parantamiseen ja tiivistelmien luontiin. Mikäli lähteeksi rajataan raakaversio tieteellisestä artikkelista ja halutaan siitä vain luettavampi, ei ole myöskään isoa vaaraa tekoälyn "hallusinoinnille".

Popular Sciencen mukaan tiedejulkaisut pohtivat parhaillaan sitä, miten tekoälyä saa jatkossa käyttää artikkelien kirjoituksen apuna. Osa julkaisuista kieltää tekoälyn käytön kokonaan, toisilla taas sitä voidaan käyttää tekstin luettavuuden ja ymmärrettävyyden muokkaukseen.

• tekoäly
• tiede