TikTok kasutab nüüd AI-d kasutajate rikkumiste jaoks - siin on see teie jaoks tähenduses

TikTok kasutab AI-d, et aidata oma platvormil rikkuvat sisu eemaldada, kuid kas sellest piisab? Palusime kaaluda kolme eksperti.

TikTok areneb, platvorm on nüüd vaid neli aastat vana, kuid sellel on üle miljardi kasutaja ja see on saadaval enam kui 150 riigis. See võitis allalaadimiste osas isegi Youtube'i, Instagrami, WhatsAppi ja Facebook Messengeri, kogudes 2019. aastal ühe kvartaliga kokku 33 miljonit Anduritorn.

Nii et isegi kui te pole TikTokis, on tõenäoline, et vähemalt üks teie tuttav inimene on. Loe edasi, et teada saada, kuidas platvorm soovib oma kasutajatele turvalisemaks saada ja mida eksperdid hiljutistest muudatustest arvavad.

TikTok teatas hiljuti, et hakkab kasutama tehnoloogiat, et teatud tüüpi rikkujad automaatselt eemaldada sisu, mis tuvastatakse üleslaadimisel, lisaks sisule, mille selle ohutus käsitsi eemaldab Meeskond.

TikTok väidab, et automatiseerimine reserveeritakse sisukategooriatele, kus selle tehnoloogia on kõige täpsem ja algab alaealiste ohutust, täiskasvanute alastust, seksuaalset tegevust, vägivaldset ja graafilist sisu ning ebaseaduslikke tegevusi ja reguleeritud rikkumisi kaupu.

Samuti väidab ettevõte, et püüab jätkata tehnoloogia täpsuse parandamist, et seda vältida ebaõige eemaldamise korral saavad loojad oma video eemaldamise otseselt edasi kaevata, kui nad seda arvavad ebaõiglaselt.

Uus süsteem loeb kasutaja tehtud rikkumisi, märkides rikkumiste tõsiduse ja sageduse. Kasutajat teavitatakse tagajärgedest, mille leiate nende postkasti jaotisest Konto värskendused.

Kasutaja esimene rikkumine toob kaasa hoiatuse, välja arvatud juhul, kui rikkumine on nulltolerantsi poliitika, mille puhul see keelatakse. Pärast esimest rikkumist peatatakse kasutaja konto olenevalt 24–48 tunniks raskusastme kohta, millal nad ei saa videot üles laadida, kommentaare ega oma redigeerida profiil.

Pärast mitut rikkumist teavitatakse kasutajat, et tema konto on peaaegu keelatud, ja kui käitumine jätkub, eemaldatakse konto jäädavalt.

"Jah. Enne seda pidid inimese moderaatorid enne millegi eemaldamist rikkumist kinnitama. Inimesed on aeglased ja tööjõud on piiratud, mis võib lubada rikkuvat sisu varem levitada see eemaldatakse või ei eemaldata üldse, ”ütles Comparitechi privaatsuse advokaat Paul Bischoff Trustedile Arvustused.

"TikTok eemaldab inimeste kitsaskoha selgematest juhtumitest, kus tema automatiseeritud süsteemid on piisavalt kindlad, et rikkumine on aset leidnud."

Tehisintellekti süsteem suudaks töötada kiiremini kui inimmeeskond ja Chris Hauk usub ka, et automatiseeritud süsteemid on täpsemad.

„Automatiseeritud süsteemid ei allu inimlikele eksimustele ega väsimusele. Rikkuva sisu eemaldamiseks võib automatiseeritud süsteem töötada ööpäevaringselt. Automatiseeritud süsteemid ei eemalda (või ei eemalda) sisutükki ka lihtsalt inimese arvamuse tõttu mis võib rikkuda või mitte rikkuda standardeid, ”selgitas Pixel Privacy'i tarbijate privaatsuse meister Chris Hauk Trustedile Arvustused.

"Paratamatult läheb. Kindlasti tekivad hambumusprobleemid, mis põhjustavad mõne vägivaldse sisu libisemist ja ka valepositiivsete nähtude ilmnemist. TikToki algoritmide piisavalt viimistlemine võtab aega, et vältida selle videosisu väärklassifitseerimist, ”ütles F-Secure'i turvakonsultant Tom Gaffney Trusted Reviewsile.

"Pikemas perspektiivis on huvitav näha, kuidas sisu erinevates piirkondades liigitatakse. Antud juhul on poliitikat katsetatud USA ja Kanada subjektide kasutamisel, kuid sotsiaalsed normid erinevad kogu maailmas, seega võib esineda mõningaid vigu. Mul on TikTokile selles küsimuses teatav kaastunne, kuna nad on kaubandusüksus, kellelt palutakse Interneti-sisu politseisse panna, ”jätkas Gaffney.

Ei ole ebatavaline, kui sotsiaalmeedia platvorm kasutab tehisintellekti vägivaldse või solvava sisu eemaldamiseks, Äärel teatas Facebooki tehisintellekti kasutamisest sisu kiiremaks modereerimiseks 2020. aastal.

Kuna automatiseeritud süsteem oli TikToki jaoks suhteliselt uus, nõustus Bischoff, et platvorm võib võidelda eemaldamist vääriva sisu õigesti tuvastamise üle.

"On vältimatu, et selline automatiseeritud süsteem tuvastab aeg-ajalt midagi valesti rikkumisena. Uue süsteemi kohaselt saab sisu eemaldada ilma inimese järelevalveta. TikTok püüab valepositiive mõistlikul määral minimeerida ja lubab siiski automaatse eemaldamise apellatsioone, ”selgitas Bischoff.

Arvatakse, et süsteemile tuleb õpetada, mida see peaks eemaldama ja mida mitte, kuigi need süsteemid pole alati täiuslikud. Pandeemia ajal oli YouTube süüdi videosisu eemaldamises, mis ei vastanud videole ettevõtte poliitika, kuna töötajate kaitsemeetmed tähendasid, et tehisintellekti ei aita läbi inimlik ülevaade, nagu ka teatas Tech Crunch.

„TikTokil on mitmeid tööriistu, mis aitavad vanematel piirata laste kokkupuudet sisu nägemisega. Vanemad saavad tagada, et lapsed kasutaksid rakenduses sobivaid vanusesätteid või oleksid parema kaitse tagamiseks „sidumisfunktsioon”, mis võimaldab vanematel täpsemat kontrolli, ”selgitas Gaffney Trustedile Arvustused.

Samuti väidab Hauk, et teatamine sisust, millega te ei soovi suhelda, aitab algoritmil paremini mõista teie eelistusi ja seda, mida peaks ja mida ei tohiks saidil lubada.

„[Kasutajad peaksid] teatama sisust, mis nende arvates rikub platvormi kogukonna standardeid. Ehkki sisu ei pruugi kohe eemaldada, aitavad aruanded automatiseeritud süsteemil õppida ja parandada, ”ütles Hauk.

Kasutaja saab TikTokis videotest ja kontodest teatada, järgides neid juhiseid.

TikTokis videost teatamiseks toimige järgmiselt.

• Minge video juurde, millest soovite teatada
• Puudutage nuppu Jaga
• Valige Teata ja järgige ekraanil kuvatavaid juhiseid

TikTokis konto teatamiseks toimige järgmiselt.

• Minge profiilile, millest soovite teatada
• Puudutage kolme punkti ekraani paremas ülanurgas, et näha rohkem valikuid
• Puudutage nuppu Teata
• Valige suvanditest Aruandekonto
• Probleemi kirjeldamiseks järgige ekraanil kuvatavaid juhiseid

„Kuigi kõik suhtlusvõrgustikud peaksid muretsema rikkuva sisu pärast, peavad nad olema ettevaatlikud, et sõnavabadust mitte piirata. Kaitsemeetmed võivad kiiresti muutuda tsensuuriks, kui sisu eemaldamine ei toimu õiglaselt ja eelarvamusteta, ”kommenteeris Hauk.

Bischoff väitis ka, et uus peatamissüsteem peaks olema efektiivne, isegi kui peatatud või keelatud kasutajad loovad teise konto.

„Peatamine on mõnel juhul tõhus ja on vajalik osa selleks, et takistada inimestel platvormi kuritarvitamist. Kuigi keegi saaks lihtsalt uue konto luua, peaks ta ikkagi oma jälgijabaasi üles ehitama, ”selgitas Bischoff.

TikTok ei ole kommenteerinud ühtegi funktsiooni, mis peataks või keelaks üksteisega seotud kontod, kasutaja peaks siiski oma jälgija üles ehitama, kui ta valib pärast olemist teise konto peatatud.

"See on TikToki poolt üsna hea ennetav samm, pannes nad paljudest teistest sotsiaalmeediaettevõtetest ette. Võib-olla peaks olema küsimus: "mida peaksid valitsused veel tegema, et kõik sotsiaalmeediaettevõtted saaksid sarnaseid teenuseid pakkuda?", "Jätkas Gaffney.

"TikTok on siin midagi juhtpositsiooni võtnud, kuid on mõnevõrra pöörane, et palume äriettevõtetel otsustada, milline sisu on Internetis ohutu."

Kuid Gaffney väitis ka, et platvormi nooremate kasutajate kaitsmiseks võiks teha rohkem, arvestades, et TikToki põhidemograafia on alla 34, vastavalt 32,5% 10–19-aastastest kasutajatest hiljutisele statistika.

"Ja üldine kommentaar selle poole pealt, see on TikToki hea käik nii kasutajatele kui ka PR-le, kuid privaatsuse osas on sellel veel pikk tee minna. Üldised kasutajaterminid on üsna läbipaistmatud ja on mitmeid häid uuringuid, mis näitavad, et selle andmekogumine ületab isegi teiste sotsiaalmeediaettevõtete omi, ”selgitas Gaffney.

"Kuigi see viimane punkt on vaieldav, on see kindlasti rakendus, mis meie noori profileerib. Kui see soovib minna veel ühe sammu edasi, siis miks mitte garanteerida, et ei koguta alla 18-aastaseid isikuandmeid ja võimaldatakse neil Interneti-ühendust turustada ilma turustamata?

Kui olete oma veebipõhise jalajälje pärast mures, vaadake meie valikuid parim VPN, mis aitab teil väliste rünnakute eest kaitsta ja hoida kõik oma andmed krüptituna, nii et olete veebi sirvimisel nähtamatu.