TikTok käyttää nyt tekoälyä käyttäjärikkomuksiin - tässä se tarkoittaa sinulle

TikTok käyttää tekoälyä poistamaan väkivaltaista sisältöä alustaltaan, mutta riittääkö se? Pyysimme kolmea asiantuntijaa punnitsemaan.

TikTok on kehittymässä, foorumi on nyt vain neljä vuotta vanha, mutta sillä on yli miljardi käyttäjää ja se on saatavilla yli 150 maassa. Se voitti jopa Youtube, Instagram, WhatsApp ja Facebook Messenger latausten suhteen, keräten 33 miljoonaa yhden vuosineljänneksen aikana vuonna 2019 Anturitorni.

Joten vaikka et olisikaan TikTokissa, on todennäköistä, että ainakin yksi tuntemasi henkilö on. Lue lisää siitä, kuinka alusta haluaa tulla turvallisemmaksi käyttäjilleen ja mitä asiantuntijat ajattelevat viimeaikaisista muutoksista.

TikTok ilmoitti äskettäin aloittavansa tekniikan poistamisen tietyntyyppisistä väkivaltaisuuksista sisältö, joka tunnistettaisiin ladattaessa, sen turvallisuuden lisäksi manuaalisesti poistaman sisällön lisäksi Tiimi.

TikTok väittää, että automaatio on varattu sisältöluokille, joissa sen tekniikka on erittäin tarkkaa ja alkaa alaikäisten turvallisuutta, aikuisten alastomuutta, seksuaalista toimintaa, väkivaltaista ja graafista sisältöä sekä laitonta toimintaa koskevat ja säännellyt rikkomukset tavarat.

Yhtiö väittää myös yrittävänsä edelleen parantaa tekniikan tarkkuutta välttääkseen virheelliset poistot, sisällöntuottajat voivat kuitenkin valittaa videoiden poistamisesta suoraan, jos heidän mielestään se on tehty niin epäoikeudenmukaisesti.

Uusi järjestelmä laskee käyttäjän tekemät rikkomukset huomioiden rikkomusten vakavuuden ja toistuvuuden. Käyttäjälle ilmoitetaan seurauksista, jotka löytyvät postilaatikon Tilipäivitykset-osiosta.

Käyttäjän ensimmäinen rikkomus johtaa varoitukseen, ellei rikkomus ole nollatoleranssikäytäntö, jolloin hänet kielletään. Ensimmäisen rikkomuksen jälkeen käyttäjän tilit jäädytetään 24–48 tunniksi riippuen vakavuudesta, jolloin he eivät voi ladata videoita, kommentoida tai muokata heidän omiaan profiili.

Useiden rikkomusten jälkeen käyttäjälle ilmoitetaan, että hänen tilinsä on lähellä estoa, ja jos ongelma jatkuu, tili poistetaan pysyvästi.

"Joo. Ennen tätä ihmisten valvojien oli vahvistettava rikkomus ennen kuin jotain poistettiin. Ihmiset ovat hitaita ja työvoimaa on rajoitettua, mikä saattaa sallia rikkovan sisällön levittämisen ennen se poistetaan tai sitä ei poisteta ollenkaan ", kertoi Comparitechin tietosuojavastaava Paul Bischoff Trustedille Arvostelut.

"TikTok poistaa ihmisen pullonkaulan selkeämmistä tapauksista, joissa sen automatisoidut järjestelmät ovat kohtuullisen varmoja rikkomuksesta."

Tekoälyjärjestelmä voisi toimia nopeammin kuin ihmisryhmä, ja Chris Hauk uskoo myös, että automaattiset järjestelmät ovat tarkempia.

”Automatisoituihin järjestelmiin ei liity inhimillisiä virheitä tai väsymystä. Automaattinen järjestelmä voi toimia ympäri vuorokauden ympäri rikkovan sisällön poistamiseksi. Automatisoidut järjestelmät eivät myöskään todennäköisesti poista (tai eivät poista) sisältöä, yksinkertaisesti ihmisen mielipiteen vuoksi mikä saattaa rikkoa tai olla rikkomatta standardeja ”, Chris Hauk, Pixel Privacyn kuluttajansuojavalio, selitti Trustedille Arvostelut.

"On väistämättä niin. Tulee varmasti tulehdusongelmia, jotka aiheuttavat väkivaltaisen sisällön liukastumisen ja väärän positiivisen esiintymisen. Tarvitsee aikaa, ennen kuin TikTok-algoritmit tarkentuvat tarpeeksi, jotta videosisältöä ei luokitella väärin ”, Tom Gaffney, F-Securen tietoturvakonsultti, kertoi Trusted Reviews -sivustolle.

"Pitkällä aikavälillä on mielenkiintoista nähdä, miten sisältö luokitellaan eri alueilla. Tässä tapauksessa politiikkaa on kokeiltu käyttämällä Yhdysvaltojen ja Kanadan aiheita, mutta sosiaaliset normit eroavat ympäri maailmaa, joten siellä on joitain virheitä. Olen myötätuntoinen TikTokia kohtaan tässä asiassa, koska he ovat kaupallinen yksikkö, jota pyydetään "poliisoimaan" Internet-sisältöä ", Gaffney jatkoi.

Ei ole epätavallista, että sosiaalisen median alusta käyttää tekoälyä väkivaltaisen tai loukkaavan sisällön poistamiseen, Raja kertoi Facebookin tekoälyn käytöstä sisällön lajittelemiseksi nopeampaa valvontaa varten vuonna 2020.

Koska automatisoitu järjestelmä on suhteellisen uusi TikTokille, Bischoff oli samaa mieltä siitä, että alustalla saattaa olla vaikeuksia tunnistaa poistamisen arvoinen sisältö oikein.

"On väistämätöntä, että tällainen automatisoitu järjestelmä tunnistaa ajoittain väärin rikkomuksen. Uuden järjestelmän mukaan sisältö voidaan poistaa ilman ihmisen valvontaa. TikTok pyrkii minimoimaan väärät positiiviset tulokset kohtuullisessa määrin ja sallii edelleen valitukset automaattisista poistamisista ", Bischoff selitti.

Uskotaan, että järjestelmälle on opetettava, mitä sen pitäisi ja mitä ei pitäisi poistaa, vaikka nämä järjestelmät eivät aina ole täydellisiä. Pandemian aikana YouTube oli syyllinen videosisällön poistamiseen, joka ei ollut vastoin Yrityspolitiikka, koska henkilöstön suojeleminen tarkoitti sitä, että tekoälyä ei auttanut ihmisen tekemä tarkastelu, kuten ilmoitti Tech Crunch.

"TikTokilla on useita työkaluja, joiden avulla vanhemmat voivat rajoittaa lasten altistumista sisällön näkemiselle. Vanhemmat voivat varmistaa, että lapset käyttävät sovelluksessa sopivia ikäasetuksia tai parhaan suojan pariliitosominaisuus, joka antaa vanhemmille tarkemman hallinnan, Gaffney selitti Trustedille Arvostelut.

Hauk väittää myös, että sisällön ilmoittaminen, jonka kanssa et halua olla tekemisissä, auttaa algoritmia ymmärtämään paremmin mieltymyksesi ja sen, mitä pitäisi ja ei pitäisi sallia sivustolla.

"[Käyttäjien tulisi] ilmoittaa sisällöstä, joka heidän mielestään rikkoo alustan yhteisöstandardeja. Vaikka sisältöä ei välttämättä poisteta heti, raportit auttavat automaattista järjestelmää oppimaan ja parantamaan ”, Hauk sanoi.

Käyttäjä voi ilmoittaa videoista ja tileistä TikTokissa seuraamalla näitä ohjeita:

Videosta ilmoittaminen TikTokissa:

• Siirry videoon, josta haluat ilmoittaa
• Napauta Jaa-painiketta
• Valitse Ilmoita ja noudata näytöllä näkyviä ohjeita

TikTokissa olevan tilin ilmoittaminen:

• Siirry profiiliin, josta haluat ilmoittaa
• Napauta kolmea pistettä näytön oikeassa yläkulmassa nähdäksesi lisää vaihtoehtoja
• Napauta Raportti-painiketta
• Valitse Ilmoita tili vaihtoehdoista
• Seuraa näytöllä näkyviä ohjeita kuvatakseen ongelman

"Vaikka kaikkien sosiaalisten verkostojen tulisi olla huolissaan väkivaltaisesta sisällöstä, heidän on oltava varovaisia ​​rajoittamatta sananvapautta. Suojatoimenpiteet voivat nopeasti muuttua sensuuriksi, jos sisällön poistoa ei tehdä oikeudenmukaisesti ja ilman ennakkoluuloja ", Hauk kommentoi.

Bischoff väitti myös, että uuden keskeytysjärjestelmän tulisi olla tehokas, vaikka jäädytetyt tai kielletyt käyttäjät olisivat luoneet toisen tilin.

”Suspensiot ovat tehokkaita joissakin tapauksissa ja ovat välttämätön osa estää ihmisiä väärinkäyttämästä alustaa. Vaikka joku voisi vain luoda uuden tilin, hänen olisi silti rakennettava seuraajakuntansa uudelleen ”, Bischoff selitti.

TikTok ei ole kommentoinut mitään ominaisuutta, joka keskeyttäisi tai kieltää toisiinsa linkitetyt tilit, käyttäjän on kuitenkin rakennettava seuraajaansa uudelleen, jos hän päättää tehdä toisen tilin ollessaan keskeytetty.

"Tämä on TikTokin aika hyvä ennakoiva askel, joka vie heidät monien muiden sosiaalisen median yritysten edelle. Ehkä kysymyksen pitäisi olla "mitä hallitusten pitäisi tehdä, jotta kaikki sosiaalisen median yritykset voisivat tarjota vastaavia palveluja?", Gaffney jatkoi.

"TikTok on ottanut tässä johtajuuden, mutta on melko hullua, että pyydämme kaupallisia yrityksiä päättämään, mikä sisältö on turvallista Internetissä."

Gaffney väitti kuitenkin myös, että foorumin nuorempien käyttäjien suojelemiseksi voitaisiin tehdä enemmän, TikTokin pääasiallinen väestö on alle 34-vuotiaita, 32,5% 10–19-vuotiaista käyttäjistä viimeisimpään tilastot.

"Ja yleinen kommentti tältä puolelta, tämä on TikTokin hyvä siirto käyttäjille ja sen PR: lle, mutta yksityisyyden suhteen on vielä pitkä matka. Yleiset käyttöehdot ovat melko läpinäkymättömiä, ja on olemassa useita hyviä tutkimuksia, jotka osoittavat, että sen tiedonkeruu ylittää edes muiden sosiaalisen median yhtiöiden tiedon ", Gaffney selitti.

"Vaikka tämä viimeinen asia on kiistanalainen, se on ehdottomasti sovellus, joka profiloi nuoriamme. Jos se halusi edetä yhden askeleen pidemmälle, miksi emme takaa, ettei kerää mitään alle 18-vuotiaita henkilötietoja ja anna heidän kokea Internet ilman kaupallistamista? "

Jos olet huolissasi online-jalanjäljestäsi, tutustu paras VPN, joka auttaa sinua suojautumaan ulkopuolisilta hyökkäyksiltä ja pitämään kaikki tietosi salattuina, jotta olet näkymätön verkkoa selatessasi.