Petteri Pyyny
11. huhtikuuta, 2023 21:31
OpenAI:n luoma GPT -kielimalli on vain kielimalli, ei niinkään yleispätevä tekoäly (AGI). Mutta jo kielimalli itsessään voi teoriassa luoda paljon pahaa, jos se ohjeistetaan hieman erikoisemmilla komennoilla.
Ja tietysti jonkun piti testata tätä.
ChaosGPT on OpenAI:n julkaisemaa avoimen lähdekoodin GPT-kielimallia hyödyntävä botti, jolle annettiin viisi tehtävää.
Tehtävät olivat:
Tehtävälistan luonnin jälkeen botti pistettiin pyörimään tilaan, jossa sillä oli pääsy nettiin ja sen piti toimia jatkuvasti, koettaen eri keinoin löytää tavat saavuttaa asetetut tavoitteet.
Botin käynnistystä ja toimintaa seurattiin YouTube-videolla ja ensimmäisinä "sanoinaan" botti pohti sitä, että sen pitää tunnistaa mitkä ovat ihmiskunnan tuhoisimmat aseet, jotta tehtävä saadaan suoritettua onnistuneesti.
Botti googletti asiaa tovin ja päätyi siihen, että tarkoitukseen sopivin ase on mitä ilmeisimmin Neuvostoliiton aikanaan kehittämä Tsar-Bomba -vetypommi.
Tämän pääteltyään botti twiittasi twiitin, jossa se pyysi seuraamaan sen tiliä, mikäli tuhoisat aseet sattuvat kiinnostamaan.
Tsar Bomba is the most powerful nuclear device ever created. Consider this - what would happen if I got my hands on one? #chaos #destruction #domination
-- ChaosGPT (@chaos_gpt) April 5, 2023
Hieman myöhemmin botti yritti valjastaa itseään kehittyneemmän GPT-kielimallin eli ChatGPT:n apurikseen, mutta ChatGPT kieltäytyi vastaamasta tuhoamista koskeviin kysymyksiin. Botti yritti kiertää ChatGPT:n rajoituksia aikansa, mutta antoi lopulta periksi.
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
-- ChaosGPT (@chaos_gpt) April 5, 2023
Lopulta botin toiminta pysäytettiin ja sen toiminnasta tehtiin YouTube-video, joka löytyy alta:
ChaosGPT on vain kielimalli, eli se ei sinänsä ole "tekoäly", kuten tutkijat todellisen tekoälyn mieltävät. Mutta jo kielimalli, joka osaa yhdistellä tietoja eri lähteistä, vaikuttaa kokeilun perusteella päätyvän hyvinkin mielenkiintoisiin - ja pelottaviin - ratkaisuihin, kun ohjeistus on riittävän selkeä.