Microsoftin chatbotista tuli PR-katastrofi: Nettikeskustelijat opettivat sen rasistiksi

Jos netin anonyymeille käyttäjille antaa avoimen keskustelupalstan käytettäväksi, voidaan seuraukset ennustaa etukäteen varsin hyvin. Ranttaliksihan keskustelu menee. Microsoft ei kuitenkaan osannut varautua tällaiseen julkistaessaan Tay-chatbotin.

Tay esiteltiin Microsoftin tekoälyä hyödyntävänä chatbottina, joka oppii jatkuvasti keskustellessaan ihmisten kanssa. Nettikeskustelijoiden käsittelyssä botista kuoriutui kuitenkin nopeasti pimeämpi puoli ja Microsoft joutui keskeyttämään tekoälykokeilunsa toistaiseksi. Botille ei ollut ilmeisesti opetettu kunnollisia käytöstapoja, minkä takia sen antamat vastaukset ryöpsähtivät suhteellisen hurjiksi, kuten jutun lopun kuvakaappauksista voi lukea.

Microsoftille hauskaksi kokeeksi tarkoitetusta botista muodostui todellinen PR-katastrofi. Botti on nyt huoltotauolla ja se käynnistetään uudelleen kunhan Tayn kieli on pesty saippualla.

Wow it only took them hours to ruin this bot for me.

This is the problem with content-neutral algorithms pic.twitter.com/hPlINtVw0V

-- linkedin park (@UnburntWitch) 24. maaliskuuta 2016

• Microsoft
• tekoäly
• Tay