Petteri Pyyny
2. syyskuuta, 2025 7:37
Tekoälyjätti OpenAI on paljastanut, että yhtiö seuraa aktiivisesti keskusteluita, joita ihmiset käyvät sen valtavan suositun tekoälybotin, ChatGPT:n kanssa.
Asia paljastui yhtiön pitkässä blogikirjoituksessa. Kyseinen kirjoitus julkaistiin vastineeksi kohulle, joka on seurannut yhtiötä sen jälkeen, kun amerikkalainen nuori mies teki itsemurhan keskusteltuaan ChatGPT:n kanssa.
Kirjoituksen mukaan yhtiö pyrkii tunnistamaan keskusteluja, joista käy selväksi, että käyttäjä on aikeissa vahingoittaa toisia ihmisiä. Tällaiset keskustelut ohjataan OpenAI:n erillisen yksikön hoidettavaksi, jossa koulutetut moderaattorit arvioivat keskustelun vakavuutta.
Mikäli keskustelu ylittää tiimin mukaan vakavuuskynnyksen, siirtyy asia eteenpäin.Päätöksen jälkeen yhtiö välittää tiedot havaitusta uhkasta poliisille, joka ottaa sen jälkeen tapauksesta tutkintavastuun.
Vaikka linjaus kuulostaa sinänsä hyvältä, nostaa se esiin myös huolen ChatGPT:n yksityisyyden tasosta. Mikäli yhtiö pystyy ottamaan yhteyttä keskustelijan lähellä oleviin paikallisiin viranomaisiin, se tarkoittaa myös sitä, että OpenAI aktiivisesti paikantaa käyttäjiensä sijainteja, vähintäänkin epätarkan IP-osoitteen sijainnin perusteella.