TikTok теперь использует искусственный интеллект для выявления нарушений со стороны пользователей - вот что это значит для вас

TikTok будет использовать искусственный интеллект для удаления оскорбительного контента на своей платформе, но достаточно ли этого? Мы попросили трех экспертов взвесить.

TikTok развивается, платформе всего четыре года, но у нее более миллиарда пользователей, и она доступна более чем в 150 странах. Он даже превзошел Youtube, Instagram, WhatsApp и Facebook Messenger по количеству загрузок, набрав 33 миллиона за один квартал в 2019 году, согласно данным Сенсорная башня.

Так что даже если вы не зарегистрированы в TikTok, вполне вероятно, что есть хотя бы один человек, которого вы знаете. Читайте дальше, чтобы узнать, как платформа собирается стать более безопасной для своих пользователей и что эксперты думают о последних изменениях.

Недавно TikTok объявил, что начнет использовать технологию для автоматического удаления некоторых типов контент, который будет идентифицирован при загрузке, в дополнение к контенту, удаленному вручную службой безопасности Команда.

TikTok утверждает, что автоматизация будет зарезервирована для категорий контента, где его технология имеет самую высокую точность, и будет запущена нарушения, касающиеся безопасности несовершеннолетних, обнаженности взрослых, сексуальных действий, насильственных и графических материалов, а также незаконных действий и регулируются товары.

Компания также заявляет, что будет продолжать повышать точность технологии, чтобы избежать неправильные удаления, однако создатели могут напрямую подать апелляцию на удаление видео, если считают, что это было сделано несправедливо.

Новая система подсчитывает нарушения, допущенные пользователем, с учетом серьезности и частоты нарушений. Пользователь будет уведомлен о последствиях, которые можно найти в разделе «Обновления учетной записи» в его почтовом ящике.

Первое нарушение пользователем приведет к предупреждению, если нарушение не является политикой абсолютной нетерпимости, и в этом случае он будет заблокирован. После первого нарушения аккаунт пользователя будет заблокирован на срок от 24 до 48 часов, в зависимости от по степени серьезности, после которой они не смогут загружать видео, комментировать или редактировать свои профиль.

После нескольких нарушений пользователь будет уведомлен о том, что его учетная запись близка к бану, и, если поведение продолжится, учетная запись будет удалена без возможности восстановления.

"Да. До этого модераторы-люди должны были подтвердить нарушение, прежде чем что-то будет удалено. Люди медлительны, а рабочая сила ограничена, что может позволить распространить нарушающий контент контент раньше. он удален или не будет удален вообще », - сказал Trusted Пол Бишофф, защитник конфиденциальности в Comparitech. Обзоры.

«TikTok устраняет человеческое узкое место в более четко определенных случаях, когда его автоматизированные системы обоснованно уверены в том, что нарушение имело место».

Система искусственного интеллекта сможет работать быстрее, чем человеческая команда, и Крис Хок также считает, что автоматизированные системы более точны.

«Автоматизированные системы не подвержены человеческой ошибке или утомлению. Автоматизированная система может работать круглосуточно и без выходных, чтобы удалить нарушающий контент. Автоматизированные системы также вряд ли удалят (или не удаляют) часть контента просто из-за человеческого мнения относительно что может или не может нарушать стандарты », - объяснил Trusted Крис Хок, защитник конфиденциальности потребителей в Pixel Privacy. Обзоры.

«Неизбежно будет. Наверняка возникнут проблемы с прорезыванием зубов, которые приведут к проскальзыванию некоторого агрессивного контента, а также к ложным срабатываниям. Потребуется время, чтобы алгоритмы TikTok стали достаточно доработанными, чтобы избежать неправильной классификации этого видеоконтента », - сказал Trusted Reviews Том Гаффни, консультант по безопасности F-Secure.

«В долгосрочной перспективе будет интересно посмотреть, как контент классифицируется в разных регионах. В этом случае была проведена экспериментальная проверка политики с использованием предметов из США и Канады, но социальные нормы действительно различаются по всему миру, поэтому возможны некоторые ошибки. «Я немного симпатизирую TikTok в этом вопросе, поскольку они являются коммерческой организацией, которой поручено« контролировать »интернет-контент», - продолжил Гаффни.

Платформа социальных сетей нередко использует ИИ для удаления оскорбительного или оскорбительного контента, Грани сообщила об использовании в Facebook ИИ для сортировки контента для более быстрой модерации в 2020 году.

Однако из-за того, что автоматизированная система является относительно новой для TikTok, Бишофф согласился с тем, что платформе может быть сложно правильно идентифицировать контент, достойный удаления.

«Неизбежно, что такая автоматизированная система иногда ошибочно определяет что-то как нарушение. Согласно новой системе, контент может удаляться без надзора человека. TikTok постарается минимизировать количество ложных срабатываний в разумной степени и по-прежнему позволяет обжаловать автоматическое удаление », - пояснил Бишофф.

Считается, что систему нужно будет «научить» тому, что она должна и не должна удалять, хотя эти системы не всегда безупречны. Во время пандемии YouTube был виновен в удалении видеоконтента, который не противоречил требованиям политики компании, поскольку меры по защите персонала означали, что человеческий анализ не помогал ИИ, поскольку сообщает Tech Crunch.

«В TikTok есть ряд инструментов, которые помогут родителям ограничить доступ детей к контенту. Родители могут убедиться, что дети используют соответствующие возрастные настройки в приложении или для лучшей защиты. «функция сопряжения», которая позволяет родителям более детально контролировать », - объяснил Гаффни Trusted Обзоры.

Хаук также утверждает, что сообщение о контенте, с которым вы не хотите взаимодействовать, поможет алгоритму лучше понять ваши предпочтения и то, что следует и что нельзя разрешать на сайте.

«[Пользователи должны] сообщать о контенте, который, по их мнению, нарушает стандарты сообщества платформы. Хотя контент не может быть удален немедленно, отчеты помогают автоматизированной системе учиться и улучшаться », - сказал Хаук.

Пользователь может пожаловаться на видео и аккаунты в TikTok, следуя этим инструкциям:

Чтобы пожаловаться на видео в TikTok:

• Перейдите к видео, на которое хотите пожаловаться
• Нажмите кнопку Поделиться
• Выберите Отчет и следуйте инструкциям на экране.

Чтобы пожаловаться на аккаунт в TikTok:

• Перейдите в профиль, на который хотите пожаловаться
• Коснитесь трех точек в правом верхнем углу экрана, чтобы увидеть дополнительные параметры.
• Нажмите кнопку "Пожаловаться".
• Выберите Отчет об учетной записи из вариантов.
• Следуйте инструкциям на экране, чтобы описать, в чем проблема.

«Хотя все социальные сети должны быть обеспокоены оскорбительным контентом, они должны быть осторожны, чтобы не ограничивать свободу слова. Защитные меры могут быстро превратиться в цензуру, если удаление контента не выполняется честно и без ущерба », - прокомментировал Хаук.

Бишофф также заявил, что новая система блокировки должна быть эффективной, даже если заблокированные или заблокированные пользователи создали другую учетную запись.

«Блокировки эффективны в некоторых случаях и являются необходимой частью предотвращения злоупотреблений платформой. Даже если кто-то может просто создать новую учетную запись, им все равно придется восстанавливать свою базу подписчиков », - пояснил Бишофф.

TikTok не прокомментировал какую-либо функцию, которая могла бы приостановить или заблокировать учетные записи, связанные друг с другом, однако пользователю придется восстановить своих подписчиков, если он решит создать другую учетную запись после того, как приостановленный.

«Это довольно хороший активный шаг со стороны TikTok, который ставит их впереди многих других компаний, занимающихся социальными сетями. Возможно, следует задать вопрос: «Что еще нужно сделать правительству, чтобы позволить всем компаниям, работающим в социальных сетях, предлагать аналогичные услуги?», - продолжил Гаффни.

«TikTok взял здесь на себя определенную роль, но это несколько безумие, что мы просим коммерческие компании решить, какой контент безопасен в Интернете».

Однако Гаффни также утверждал, что можно сделать больше, чтобы защитить молодых пользователей платформы. учитывая, что основная демографическая группа TikTok - моложе 34 лет, 32,5% пользователей в возрасте от 10 до 19 лет, согласно к недавнему статистика.

«И общий комментарий с этой стороны: это хороший шаг со стороны TikTok для пользователей и для его PR, но ему предстоит пройти долгий путь, когда дело доходит до конфиденциальности. Общие пользовательские термины довольно непрозрачны, и есть ряд хороших исследований, показывающих, что их сбор данных превышает сбор данных даже других социальных сетей », - пояснил Гаффни.

«Хотя этот последний пункт является спорным, это определенно приложение, которое профилирует нашу молодежь. Если компания хочет сделать еще один шаг, почему бы не гарантировать, что не будет собирать личные данные пользователей младше 18 лет и позволить им пользоваться Интернетом без коммерциализации? »

Если вас беспокоит присутствие в Интернете, ознакомьтесь с нашими подборками лучший VPN, что поможет вам защитить себя от внешних атак и сохранить все ваши данные в зашифрованном виде, чтобы вы были невидимы при просмотре веб-страниц.