Facebook: Yli puoli miljardia feikkiprofiilia poistettu, ongelmia vihapuheen kanssa

Facebook on julkaissut tänään ensimmäistä kertaa raportin palvelun valvontaraportin, jossa kerrotaan miten verkon massiivisin some taistelee monenlaisia ongelmia vastaan.

Raportti kattaa toimia lokakuusta 2017 aina tämän vuoden maaliskuuhun asti ja statistiikkaa on kerätty kaikkiaan kuudessa eri kategoriassa: graafinen väkivalta, aikuisten alastomuus ja seksuaalinen aktiviteetti, terroristi propaganda, vihapuhe, roskaposti ja feikkitilit.

Numeroista paljastuu paitsi kuinka paljon kutakin kiellettyä aktiviteettia havaittiin ja poistettiin niin myös miten usein poisto tapahtui ennen kuin käyttäjät edes raportoivat sisällön. Facebookin mukaan useimmiten kielletyn aktiviteetin sulkeminen pois tapahtui tilien poistolla, jota tehtiinkin valtaisa määrä.

Vuoden ensimmäisellä neljänneksellä (tammi-maaliskuu) Facebook sulki peräti 583 miljoonaa feikkitiliä, jotka välittivät mm. roskapostia. Valtaosa näistä suljettiin vain minuuttien päästä rekisteröitymisestä, mutta he onnistuivat silti lähettämään 837 miljoonaa roskaviestiä. Onneksi Facebook tunnisti liki 100 prosenttia näistä viesteistä roskapostiksi ennen kuin käyttäjät raportoivat ongelmia.

Samassa ajassa 21 miljoonaa alastomuuteen ja seksiin liittyvää sisältöä poistettiin, ja näistä 96% löydettiin ennen käyttäjiä automatisoinnin ansiosta. Väkivaltasisältöä puolestaan oli 3,5 miljoonan julkaisun ja vihapuhetta 2,5 miljoonan julkaisun verran.

Facebook kuitenkin huomioi, että vihapuheen kohdalla on edelleen ongelmia. Algoritmit tunnistivat vain 38 prosenttia sisällöstä ennen käyttäjien raportointia. Tämä ei tosin ole kovinkaan yllättävää, sillä vihapuhe määritellään usein hyvin subjektiivisesti, joten algoritmit eivät pysty arvioimaan mitä kukakin pitää vihapuheena.

Facebookin Guy Rosenin mukaan tekoäly tarvitsee paljon lisää oppimateriaalia, jotta se oppii esimerkiksi milloin jokin ihminen vihapuhuu ja milloin puolestaan kertoo kokemuksistaan lisätäkseen tietoisuutta asiasta.

• Facebook