Сега TikTok използва AI за нарушения на потребителите - ето какво означава за вас

TikTok ще използва AI, за да помогне за премахването на насилствено съдържание на своята платформа, но достатъчно ли е? Помолихме трима експерти да преценят.

TikTok се развива, платформата вече е само на четири години, но има над един милиард потребители и е достъпна в над 150 страни. Той дори победи Youtube, Instagram, WhatsApp и Facebook Messenger по отношение на изтеглянията, като набра 33 милиона за едно тримесечие през 2019 г., според Сензорна кула.

Така че дори да не сте в TikTok, вероятно е поне един човек, когото познавате. Прочетете, за да разберете как платформата изглежда да стане по-безопасна за своите потребители и какво мислят експертите за последните промени.

TikTok обяви наскоро, че ще започне да използва технология за автоматично премахване на някои видове нарушители съдържание, което ще бъде идентифицирано при качване, в допълнение към съдържанието, премахнато ръчно от неговата безопасност Екип.

TikTok твърди, че автоматизацията ще бъде запазена за категории съдържание, където нейната технология има най-висока точност и ще започне нататък нарушения, свързани с безопасността на непълнолетни, голота на възрастни, сексуални дейности, насилствено и графично съдържание и незаконни дейности и регулирани стоки.

Компанията също така твърди, че ще се опита да продължи да подобрява прецизността на технологията, за да я избегне неправилно премахване, обаче създателите могат да обжалват премахването на видеоклиповете си директно, ако смятат, че е направено така нечестно.

Новата система отчита нарушенията, извършени от потребител, като отбелязва тежестта и честотата на нарушенията. Потребителят ще бъде уведомен за последиците, които могат да бъдат намерени в секцията Актуализации на акаунта в неговата пощенска кутия.

Първото нарушение на потребителя ще доведе до предупреждение, освен ако нарушението не е политика на нулева толерантност, в който случай те ще бъдат забранени. След първото нарушение акаунтът на потребителя ще бъде спрян за 24 до 48 часа, в зависимост относно тежестта, по това време те няма да могат да качват видеоклипове, да коментират или редактират своите профил.

След няколко нарушения потребителят ще бъде уведомен, че неговият акаунт е близо до забрана и ако поведението продължи, акаунтът ще бъде окончателно премахнат.

- Да. Преди това човешките модератори трябваше да потвърдят нарушение, преди нещо да бъде премахнато. Хората са бавни, а работната сила е ограничена, което може да позволи разпространение на нарушаващо съдържание преди той е премахнат или изобщо няма да бъде премахнат “, каза Пол Бишоф, адвокат по поверителността в Comparitech, Отзиви.

„TikTok премахва човешкото тесно място от по-ясни случаи, в които автоматизираните му системи са разумно уверени, че е настъпило нарушение.“

AI системата би могла да работи по-бързо от човешки екип и Крис Хаук също вярва, че автоматизираните системи са по-точни.

„Автоматизираните системи не са обект на човешка грешка или умора. Автоматизирана система може да работи денонощно, за да премахне нарушаващо съдържание. Автоматизираните системи също няма вероятност да премахнат (или да не премахнат) част от съдържанието, просто поради човешкото мнение за какво може или не може да е в нарушение на стандартите “, обясни пред Trusted Крис Хаук, шампион за поверителност на потребителите в Pixel Privacy Отзиви.

„Неминуемо ще стане. Със сигурност ще има проблеми с никненето на зъби, които ще доведат до изплъзване на някакво насилствено съдържание, както и до появата на фалшиви положителни резултати. Ще отнеме време, докато алгоритмите на TikTok станат достатъчно усъвършенствани, за да се избегне погрешно класифициране на това видео съдържание “, каза Том Гафни, консултант по сигурността на F-Secure, за Trusted Reviews.

„В дългосрочен план ще бъде интересно да видим как се класифицира съдържанието в различните региони. В този случай политиката е експериментирана с използване на американски и канадски теми, но социалните норми се различават по целия свят, така че ще има някои грешки. Имам известна симпатия към TikTok по този въпрос, тъй като те са търговска организация, която е помолена да „контролира“ интернет съдържанието “, продължи Гафни.

Не е необичайно платформата за социални медии да използва AI, за да помогне за премахване на насилствено или обидно съдържание, На ръба съобщава за използването на AI от Facebook за сортиране на съдържание за по-бързо модериране през 2020 г.

Тъй като обаче автоматизираната система е сравнително нова за TikTok, Bischoff се съгласи, че платформата може да се бори при правилното идентифициране на съдържание, достойно за премахване.

„Неизбежно е автоматизирана система като тази понякога да идентифицира погрешно нещо като нарушение. Съгласно новата система съдържанието може да бъде премахнато без човешки надзор. TikTok ще се опита да сведе до минимум фалшивите положителни резултати в разумна степен и все пак позволява обжалване на автоматично премахване “, обясни Бишоф.

Смята се, че системата ще трябва да бъде „научена“ какво трябва и какво не трябва да премахва, въпреки че тези системи не винаги са перфектни. По време на пандемията YouTube е виновен за премахването на видео съдържание, което не противоречи на политиката на фирмите, тъй като мерките за защита на персонала означават, че AI не се подпомага от човешки преглед, тъй като докладвано от Техническа криза.

„TikTok разполага с редица инструменти, които помагат на родителите да ограничат експозицията на децата от гледане на съдържанието. Родителите могат да гарантират, че децата използват подходящите възрастови настройки в приложението или за най-добра защита „функцията за сдвояване“, която позволява на родителите по-подробен контрол “, обясни Гафни пред Trusted Отзиви.

Hauk също така твърди, че докладването на съдържание, с което не искате да взаимодействате, ще помогне на алгоритъма да разбере по-добре вашите предпочитания и какво трябва и какво не трябва да бъде разрешено на сайта.

„[Потребителите трябва] да докладват съдържание, което според тях нарушава стандартите на общността на платформата. Въпреки че съдържанието може да не бъде незабавно премахнато, отчетите помагат на автоматизираната система да се учи и подобрява “, каза Хаук.

Потребителят може да докладва за видеоклипове и акаунти в TikTok, като следва следните инструкции:

За да докладвате видеоклип в TikTok:

• Отидете до видеоклипа, за който искате да подадете сигнал
• Докоснете бутона Споделяне
• Изберете Доклад и следвайте инструкциите, предоставени на екрана

За да докладвате акаунт в TikTok:

• Отидете в профила, за който искате да подадете сигнал
• Докоснете трите точки в горната дясна част на екрана, за да видите още опции
• Докоснете бутона Report
• Изберете Report Account от опциите
• Следвайте инструкциите на екрана, за да опишете какъв е проблемът

„Въпреки че всички социални мрежи трябва да бъдат загрижени за насилствено съдържание, те трябва да бъдат внимателни, за да не ограничават свободата на словото. Защитните мерки могат бързо да се превърнат в цензура, ако премахването на съдържание не се извършва справедливо и без да се засягат “, коментира Хаук.

Bischoff също така твърди, че новата система за спиране трябва да бъде ефективна, дори ако потребителите, спрени или забранени, са създали друг акаунт.

„Спиранията са ефективни в някои случаи и са необходима част от предотвратяването на злоупотреба с платформата. Въпреки че някой може просто да създаде нов акаунт, той все пак ще трябва да възстанови базата си от последователи “, обясни Бишоф.

TikTok не е коментирал нито една функция, която би спряла или забранила акаунти, които са свързани помежду си, потребителят обаче ще трябва да възстанови своите последователи, ако е избрал да направи друг акаунт, след като е бил спряно.

„Това е доста добра проактивна стъпка от TikTok, която ги изпреварва пред много от другите социални медийни компании. Може би въпросът трябва да бъде „какво повече трябва да правят правителствата, за да дадат възможност на всички социални медийни компании да предлагат подобни услуги?“, Продължи Гафни.

„TikTok взе нещо като водеща роля тук, но донякъде е лудост, че искаме търговските компании да решат кое съдържание е безопасно в Интернет.“

Въпреки това, Гафни също така твърди, че може да се направи повече, за да се защитят по-младите потребители на платформата, като се има предвид, че основната демографска група на TikTok е под 34 години, с 32,5% от потребителите на възраст между 10 и 19 години, според до скорошни статистика.

„И общ коментар от тази страна, това е добър ход от TikTok, за потребителите и за неговия PR, но трябва да извървим дълъг път, що се отнася до поверителността. Общите потребителски условия са доста непрозрачни и има редица добри проучвания, които показват, че събирането на данни надвишава това на дори други компании в социалните медии “, обясни Гафни.

„Въпреки че тази последна точка е спорна, това определено е приложение, което профилира младостта ни. Ако иска да направи още една стъпка по-нататък, защо да не гарантира, че няма да събира лични потребителски данни за лица под 18 години и да им позволи да изживеят интернет, без да бъдат комерсиализирани? "

Ако сте загрижени за вашия онлайн отпечатък, разгледайте нашите снимки за най-добрата VPN, което ще ви помогне да се предпазите от външни атаки и да запазите всичките си данни криптирани, така че да бъдете невидими при сърфиране в мрежата.