Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi
Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.

Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Kirjoittaja: Manu Pitkänen @ 6. marraskuuta, 2017 15:30
Tägit
Google tekoäly konenäkö itsestään ajava auto
Mainos - kommentit mainoksen jälkeen

© 2017 AfterDawn Oy