Manu Pitkänen
27. kesäkuuta, 2016 10:35
YouTube ja Facebook ovat ottaneet kaikessa hiljaisuudessa käyttöön sisällönseurantajärjestelmiä, joiden avulla voidaan automatisoidusti estää ääriliikkeiden väkivaltaan kannustavien videoiden lataaminen palveluihin. Aiemmin palvelut ovat poistaneet sisältöjä lähinnä käyttäjien ilmoitusten perusteella.
Reutersin raportoimien tietojen mukaan väkivaltasisältöjen automatisoitu poistaminen tapahtuu samankaltaisella järjestelmällä kuin mitä palvelut käyttävät tekijänoikeudella suojattujen sisältöjen tunnistamiseenkin.
Radikaalisisällöistä on tullut poliittinen keskustelunaihe Euroopassa ja Yhdysvalloissa muun muassa ISIS-järjestön nousun myötä. Tästä syystä teknologiayrityksetkin joutuvat pohtimaan miten ne suhtautuvat asiaan omissa verkkopalveluissaan. Omaa suodatusjärjestelmää yrityksille on tarjonnut muun muassa Gerge W. Bushin entisen neuvonantajan perustama Counter Extremism Project -kansalaisjärjestö, mutta teknologiayhtiöt eivät ole erityisen innostuneita antamaan ulkopuoliselle taholle valtaa palveluiden sisällön suhteen.
Microsoft ilmoitti keväällä rahoittavansa Counter Extremism Projectiin kytköksissä olevaa Hany Faridia terrorismia sisältävien sisältöjen tunnistamiseen soveltuvan teknologian kehittämiseksi. Farid oli mukana kehittämässä PhotoDNA:ta, jota käytetään nykyisin lapsipornon tunnistamiseen.
Toukokuun lopulla monet teknologiayhtiöt sitoutuivat noudattamaan EU:n ehdotusta vihapuheen kitkemiseksi niiden tarjoamista palveluista.