TikTok zdaj uporablja umetno inteligenco za kršitve uporabnikov - evo, kaj to pomeni za vas

TikTok bo uporabljal umetno inteligenco za pomoč pri odstranjevanju nasilnih vsebin na svoji platformi, vendar je to dovolj? Za tehtanje smo prosili tri strokovnjake.

TikTok se razvija, platforma je zdaj stara le štiri leta, vendar ima več kot milijardo uporabnikov in je na voljo v več kot 150 državah. Po prenosih je celo premagal Youtube, Instagram, WhatsApp in Facebook Messenger, saj je leta 2019 v enem četrtletju dosegel 33 milijonov. Senzorni stolp.

Tudi če niste na TikToku, je verjetno, da je vsaj ena oseba, ki jo poznate. Preberite, če želite izvedeti, kako platforma postaja varnejša za svoje uporabnike in kaj strokovnjaki menijo o nedavnih spremembah.

TikTok je pred kratkim napovedal, da bo začel uporabljati tehnologijo za samodejno odstranjevanje nekaterih vrst nasilnih elementov vsebina, ki bi bila prepoznana ob nalaganju, poleg vsebine, ki jo ročno odstrani njegova varnost Ekipa.

TikTok trdi, da bo avtomatizacija rezervirana za kategorije vsebine, kjer ima njena tehnologija največjo natančnost in se bo začela dalje kršitve v zvezi z varnostjo mladoletnikov, goloto odraslih, spolnimi dejavnostmi, nasilnimi in nazornimi vsebinami ter nezakonitimi dejavnostmi in predpisi blaga.

Družba tudi trdi, da bo poskušala še naprej izboljševati natančnost tehnologije, da bi se ji izognili nepravilne odstranitve, vendar se lahko ustvarjalci na njihovo odstranitev videoposnetka pritožijo neposredno, če menijo, da je bilo to storjeno nepravično.

Novi sistem šteje kršitve, ki jih je naredil uporabnik, pri čemer upošteva resnost in pogostost kršitev. Uporabnik bo obveščen o posledicah, ki jih najdete v razdelku Posodobitve računa v mapi Prejeto.

Uporabnikova prva kršitev bo privedla do opozorila, razen če je kršitev pravil ničelne tolerance, v tem primeru bo prepovedana. Po prvi kršitvi bo uporabniku onemogočen račun za 24 do 48 ur, odvisno od tega glede resnosti, takrat ne bodo mogli naložiti videoposnetkov, jih komentirati ali urediti profil.

Po več kršitvah bo uporabnik obveščen, da je njegov račun blizu prepovedi, in če se vedenje nadaljuje, bo račun trajno odstranjen.

»Da. Pred tem so morali človeški moderatorji potrditi kršitev, preden je bilo nekaj odstranjeno. Ljudje smo počasni in delovna sila omejena, kar lahko omogoči, da se vsebina, ki krši, prej širi je odstranjena ali pa je sploh ne bo treba odstraniti, «je zaupnik zaupnika Comparitech Paul Bischoff Ocene.

"TikTok odstranjuje človeško ozko grlo iz bolj jasnih primerov, v katerih so njegovi avtomatizirani sistemi upravičeno prepričani, da je prišlo do kršitve."

Sistem umetne inteligence bi lahko deloval hitreje kot človeška ekipa, Chris Hauk pa tudi meni, da so avtomatizirani sistemi bolj natančni.

»Avtomatizirani sistemi niso podvrženi človeškim napakam ali utrujenosti. Avtomatiziran sistem lahko deluje 24 ur na dan 7 dni v tednu, da odstrani vsebino, ki krši vsebino. Tudi avtomatizirani sistemi verjetno ne bodo odstranili (ali ne odstranili) dela vsebine, preprosto zaradi človekovega mnenja, da kaj lahko ali ne sme biti v nasprotju s standardi, «je za Trusted pojasnil Chris Hauk, prvak v zasebnosti potrošnikov pri Pixel Privacy Ocene.

»Neizogibno bo. Zagotovo bo prišlo do težav z zobmi, zaradi katerih bo nekaj nasilne vsebine zdrsnilo, prav tako pa tudi lažni pozitivni učinki. Potreben bo čas, da se TikTok algoritmi dovolj izpopolnijo, da ne bi prišlo do napačne razvrstitve teh video vsebin, «je za Trusted Reviews povedal Tom Gaffney, svetovalec za varnost pri F-Secure.

»Dolgoročno bo zanimivo videti, kako so vsebine razvrščene v različnih regijah. V tem primeru je bila politika preizkušena pri uporabi ameriških in kanadskih predmetov, vendar se družbene norme po vsem svetu razlikujejo, zato bo prišlo do napak. Glede te zadeve imam nekaj simpatij s TikTokom, saj gre za komercialni subjekt, ki ga prosijo za "policijsko" internetno vsebino, "je nadaljeval Gaffney.

Nič nenavadnega je, da platforma za družabna omrežja uporablja umetno inteligenco za odstranjevanje nasilne ali žaljive vsebine, The Verge poročal o Facebookovi uporabi umetne inteligence za razvrščanje vsebin za hitrejše moderiranje leta 2020.

Ker pa je avtomatiziran sistem razmeroma nov za TikTok, se je Bischoff strinjal, da bi se platforma lahko trudila pravilno prepoznati vsebino, ki je vredna odstranitve.

»Neizogibno je, da bo takšen avtomatiziran sistem občasno kaj napačno opredelil kot kršitev. Po novem je mogoče vsebino odstraniti brez človeškega nadzora. TikTok bo poskušal v razumni meri zmanjšati lažne pozitivne učinke in še vedno omogoča pritožbe glede samodejnih odstranitev, «je pojasnil Bischoff.

Verjame se, da bo treba sistem "naučiti", kaj naj in česa ne sme odstraniti, čeprav ti sistemi niso vedno popolni. Med pandemijo je bil YouTube kriv za odstranitev video vsebin, ki niso bile v nasprotju z politike podjetij, saj ukrepi za zaščito osebja pomenijo, da umetna inteligenca ni podprta s človeškim pregledom, saj poroča Tech Crunch.

»TikTok ima številna orodja, ki staršem pomagajo omejiti izpostavljenost otrok pred gledanjem vsebine. Starši lahko otrokom zagotovijo uporabo ustreznih starostnih nastavitev v aplikaciji ali za najboljšo zaščito "funkcijo seznanjanja", ki staršem omogoča bolj natančen nadzor, «je Gaffney pojasnil za Trusted Ocene.

Hauk tudi trdi, da bo poročanje o vsebini, s katero ne želite komunicirati, pomagalo algoritmu, da bolje razume vaše nastavitve in kaj bi smelo in česa ne bi smelo biti dovoljeno na spletnem mestu.

»[Uporabniki bi morali] prijaviti vsebino, za katero menijo, da krši standarde skupnosti platforme. Čeprav vsebine ni mogoče takoj odstraniti, poročila pomagajo avtomatiziranemu sistemu, da se uči in izboljšuje, «je dejal Hauk.

Uporabnik lahko poroča o videoposnetkih in računih na TikToku po naslednjih navodilih:

Če želite prijaviti video na TikTok:

• Odprite video, ki ga želite prijaviti
• Dotaknite se gumba za skupno rabo
• Izberite Poročilo in sledite navodilom na zaslonu

Če želite prijaviti račun na TikTok:

• Odprite profil, ki ga želite prijaviti
• Dotaknite se treh pik na zgornji desni strani zaslona, ​​da si ogledate več možnosti
• Dotaknite se gumba Report
• Med možnostmi izberite Poročilo o računu
• Sledite navodilom na zaslonu in opišite, v čem je težava

»Čeprav bi morala biti vsa družbena omrežja zaskrbljena zaradi nasilne vsebine, morajo biti previdni, da ne omejujejo svobode govora. Zaščitni ukrepi se lahko hitro spremenijo v cenzuro, če odstranjevanje vsebine ni izvedeno pošteno in brez predsodkov, «je komentiral Hauk.

Bischoff je tudi zatrdil, da bi moral biti nov sistem začasne ukinitve učinkovit, tudi če bi začasno ali prepovedani uporabniki ustvarili drug račun.

»Suspenzije so v nekaterih primerih učinkovite in so nujni del preprečevanja zlorabe platforme. Čeprav bi lahko nekdo preprosto ustvaril nov račun, bi vseeno moral obnoviti svojo bazo sledilcev, «je pojasnil Bischoff.

TikTok ni komentiral nobene funkcije, ki bi onemogočila ali prepovedala medsebojno povezane račune, vendar bi moral uporabnik znova zgraditi svoje sledilce, če bi se odločil, da bo ustvaril nov račun začasno ustavljeno.

»TikTok je to dokaj proaktiven korak, ki jih postavlja pred mnoga druga podjetja za družbena omrežja. Mogoče bi moralo biti vprašanje, "kaj bi morale vlade še storiti, da bi vsem družbam za socialne medije omogočile, da ponujajo podobne storitve?", Je nadaljeval Gaffney.

"TikTok je tu nekaj prevzel, vendar je nekoliko noro, da od komercialnih podjetij zahtevamo, da se odločijo, katera vsebina je varna v internetu."

Vendar pa je Gaffney tudi trdil, da bi lahko naredili več, da bi zaščitili mlajše uporabnike platforme, Glede na to, da je glavna demografska skupina TikTok mlajša od 34 let, je 32,5% uporabnikov, starih med 10 in 19 let do nedavnega statistika.

“In splošna pripomba s te strani, da je to dobra poteza TikTok-a za uporabnike in za PR, toda pred zasebnostjo je še dolga pot. Splošni izrazi za uporabnike so precej nepregledni in obstajajo številne dobre študije, ki kažejo, da njegovo zbiranje podatkov presega celo zbiranje podatkov drugih družbenih medijev, «je pojasnil Gaffney.

„Čeprav je o tej zadnji točki sporno, je vsekakor aplikacija, ki profilira našo mladost. Če bi hotel iti še korak dlje, zakaj ne bi zagotovil, da ne bo zbiral nobenih osebnih podatkov o uporabnikih, mlajših od 18 let, in jim omogočil izkušnjo z internetom, ne da bi bil komercializiran? "

Če vas skrbi vaš spletni odtis, si oglejte naš izbor najboljši VPN, ki vam bo pomagal, da se zaščitite pred zunanjimi napadi in da bodo vsi vaši podatki šifrirani, tako da boste med brskanjem po spletu nevidni.