TikTok nyní používá AI k porušení uživatelů - zde to znamená pro vás

TikTok bude využívat AI k odstraňování rušivého obsahu na své platformě, ale je to dost? Požádali jsme tři odborníky, aby zvážili.

TikTok se vyvíjí, platforma je nyní jen čtyři roky stará, ale má více než jednu miliardu uživatelů a je k dispozici ve více než 150 zemích. Dokonce porazil Youtube, Instagram, WhatsApp a Facebook Messenger, pokud jde o stahování, a v roce 2019 získal 33 milionů za jediné čtvrtletí, podle Senzorová věž.

Takže i když nejste na TikToku, je pravděpodobné, že alespoň jedna osoba, kterou znáte, je. Čtěte dále a zjistěte, jak se platforma snaží zvýšit bezpečnost svých uživatelů a co si odborníci myslí o posledních změnách.

TikTok nedávno oznámil, že začne používat technologii k automatickému odstraňování některých typů porušování obsah, který by byl identifikován při nahrávání, navíc k obsahu odstraněnému ručně jeho bezpečností Tým.

TikTok tvrdí, že automatizace bude vyhrazena pro kategorie obsahu, kde má její technologie nejvyšší přesnost a bude spuštěna dále porušování týkající se bezpečnosti nezletilých, nahoty dospělých, sexuálních aktivit, násilného a grafického obsahu a nezákonných aktivit a regulováno zboží.

Společnost také tvrdí, že se bude snažit pokračovat ve zlepšování přesnosti technologie, které se má vyhnout při nesprávném odebrání se však tvůrci mohou proti odebrání videa přímo odvolat, pokud mají pocit, že tak bylo učiněno nespravedlivě.

Nový systém počítá porušení ze strany uživatele, přičemž si všímá závažnosti a četnosti všech porušení. Uživatel bude informován o důsledcích, které najdete v sekci Aktualizace účtu v jeho Doručené poště.

První porušení uživatele bude mít za následek varování, pokud porušení nebude zásadou nulové tolerance, v takovém případě bude zakázáno. Po prvním porušení bude uživateli pozastaven účet na 24 až 48 hodin, podle toho podle závažnosti, kdy nebudou moci nahrávat videa, komentovat ani upravovat svá videa profil.

Po několika porušeních bude uživatel upozorněn, že jeho účet je téměř zablokován, a pokud chování bude pokračovat, bude účet trvale odstraněn.

"Ano. Předtím museli lidští moderátoři potvrdit porušení, než bylo něco odstraněno. Lidé jsou pomalí a pracovní síla je omezená, což by mohlo umožnit šíření porušujícího obsahu dříve je odstraněn, nebo nebude odstraněn vůbec, “řekl Trusted Paul Bischoff, advokát pro ochranu osobních údajů ve společnosti Comparitech Recenze.

"TikTok odstraňuje lidské úzké místo z více jasných případů, kdy jsou jeho automatizované systémy přiměřeně přesvědčeny, že došlo k porušení."

Systém AI by byl schopen pracovat rychleji než lidský tým a Chris Hauk se také domnívá, že automatizované systémy jsou přesnější.

"Automatizované systémy nepodléhají lidské chybě ani únavě." Automatizovaný systém může nepřetržitě pracovat na odstranění části obsahu, která porušuje pravidla. Je také nepravděpodobné, že by automatické systémy odstranily (nebo neodstranily) část obsahu, jednoduše kvůli názoru člověka na co může, ale nemusí být v rozporu s normami, “vysvětlil Trusted Chris Hauk, šampion ochrany osobních údajů v Pixel Privacy Recenze.

"Nevyhnutelně bude." Určitě budou existovat problémy s kousáním, které způsobí proklouznutí nějakého násilného obsahu a také výskyt falešných poplachů. Bude nějakou dobu trvat, než se algoritmy TikTok dostatečně zdokonalí, aby nedocházelo k nesprávnému zařazení tohoto videoobsahu, “řekl Trusted Reviews Tom Gaffney, bezpečnostní konzultant F-Secure.

"Z dlouhodobého hlediska bude zajímavé sledovat, jak je obsah klasifikován v různých regionech." V tomto případě byla tato politika experimentována s využitím amerických a kanadských subjektů, ale sociální normy se po celém světě liší, takže dojde k určitým chybám. S TikTokem mám v této věci určité sympatie, protože jsou komerčním subjektem, který je žádán o „policejní“ internetový obsah, “pokračoval Gaffney.

Není neobvyklé, že platforma sociálních médií používá umělou inteligenci k odstraňování porušujícího nebo urážlivého obsahu, The Verge uvedl, že Facebook používá AI k třídění obsahu pro rychlejší moderování v roce 2020.

Vzhledem k tomu, že automatizovaný systém je pro TikTok relativně nový, Bischoff souhlasil s tím, že by se platforma mohla potýkat se správnou identifikací obsahu hodného odstranění.

"Je nevyhnutelné, že automatizovaný systém, jako je tento, občas omylem identifikuje něco jako porušení." Podle nového systému lze obsah odebrat bez lidského dohledu. TikTok se pokusí v rozumné míře minimalizovat falešná pozitiva a stále umožňuje odvolání k automatickému odstranění, “vysvětlil Bischoff.

Předpokládá se, že bude třeba systém „naučit“, co má a co by nemělo odstraňovat, i když tyto systémy nejsou vždy dokonalé. Během pandemie se YouTube provinil odstraněním videoobsahu, který nebyl v rozporu politika společností, protože opatření na ochranu zaměstnanců znamenaly, že AI nepomohla ani lidská kontrola, as nahlášeno Tech Crunch.

"TikTok má řadu nástrojů, které rodičům pomáhají omezit vystavení dětí vidění obsahu." Rodiče mohou zajistit, aby děti v aplikaci používaly odpovídající věkové nastavení nebo pro nejlepší ochranu „funkce párování“, která rodičům umožňuje podrobnější ovládání, “vysvětlil Gaffney Trusted Recenze.

Hauk také tvrdí, že hlášení obsahu, se kterým nechcete komunikovat, pomůže algoritmu lépe porozumět vašim preferencím a tomu, co by na webu mělo a nemělo být povoleno.

„[Uživatelé by měli] nahlásit obsah, který podle nich porušuje komunitní standardy platformy. I když obsah nemusí být okamžitě odstraněn, zprávy pomáhají automatizovanému systému učit se a zlepšovat se, “uvedl Hauk.

Uživatel může nahlásit videa a účty na TikToku podle těchto pokynů:

Nahlášení videa na TikToku:

• Přejděte na video, které chcete nahlásit
• Klepněte na tlačítko Sdílet
• Vyberte možnost Zpráva a postupujte podle pokynů na obrazovce

Chcete-li nahlásit účet na TikToku:

• Přejděte na profil, který chcete nahlásit
• Klepnutím na tři tečky v pravé horní části obrazovky zobrazíte další možnosti
• Klepněte na tlačítko Nahlásit
• Vyberte možnost Nahlásit účet z možností
• Podle pokynů na obrazovce popište, v čem je problém

"I když by všechny sociální sítě měly být znepokojeny násilným obsahem, musí být opatrné, aby neomezovaly svobodu projevu." Ochranná opatření se mohou rychle změnit na cenzuru, pokud odstranění obsahu nebude provedeno spravedlivě a bez předsudků, “komentoval Hauk.

Bischoff také tvrdil, že nový systém pozastavení by měl být účinný, i když si pozastavení nebo zakázaní uživatelé vytvořili jiný účet.

"Pozastavení jsou v některých případech účinná a jsou nezbytnou součástí prevence lidí ve zneužívání platformy." I když si někdo mohl vytvořit nový účet, musel by si znovu vybudovat základnu svých následovníků, “vysvětlil Bischoff.

TikTok nekomentoval žádnou funkci, která by pozastavila nebo zakázala účty, které jsou navzájem propojeny, pokud by se uživatel rozhodl vytvořit další účet, musel by znovu vytvořit své následující pozastaveno.

"Toto je docela dobrý proaktivní krok TikTok, který je zvýhodňuje před mnoha dalšími společnostmi v sociálních médiích." Možná by měla znít otázka „co víc by měly vlády dělat, aby umožnily všem společnostem sociálních médií nabízet podobné služby?“, “Pokračoval Gaffney.

"TikTok zde zaujal vedoucí postavení, ale je trochu šílené, že žádáme komerční společnosti, aby rozhodly, jaký obsah je na internetu bezpečný."

Gaffney však také tvrdil, že je možné udělat více pro ochranu mladších uživatelů platformy, vzhledem k tomu, že hlavní demografická skupina TikToku je pod 34, podle 32,5% uživatelů ve věku od 10 do 19 let do nedávné doby statistika.

"A obecný komentář z této strany, je to dobrý krok TikTok, pro uživatele i pro jeho PR, ale pokud jde o soukromí, má před sebou dlouhou cestu." Obecné uživatelské podmínky jsou docela neprůhledné a existuje řada dobrých studií, které ukazují, že jeho sběr dat převyšuje dokonce i jiné společnosti poskytující sociální média, “vysvětlil Gaffney.

"I když je tento poslední bod diskutabilní, je to určitě aplikace, která profiluje naši mládež." Pokud by to chtělo jít ještě o krok dále, proč nezaručit shromažďování údajů o totožnosti uživatele do 18 let a umožnit jim využívat internet bez komercializace? “

Pokud vás znepokojuje vaše online stopa, podívejte se na naše tipy pro nejlepší VPN, což vám pomůže zůstat v bezpečí před vnějšími útoky a uchovat všechna svá data šifrovaná, abyste byli při procházení webu neviditelní.