O TikTok agora usa IA para violações do usuário - aqui está o que isso significa para você

A TikTok empregará IA para ajudar a remover conteúdo violento em sua plataforma, mas é o suficiente? Pedimos a três especialistas para avaliar.

TikTok está evoluindo, a plataforma agora tem apenas quatro anos, mas tem mais de um bilhão de usuários e está disponível em mais de 150 países. Chegou a superar o Youtube, Instagram, WhatsApp e Facebook Messenger em termos de downloads, atingindo 33 milhões em um único trimestre em 2019, de acordo com Torre do Sensor.

Portanto, mesmo que você não esteja no TikTok, é provável que pelo menos uma pessoa que você conhece esteja. Continue lendo para descobrir como a plataforma está procurando se tornar mais segura para seus usuários e o que os especialistas pensam sobre as mudanças recentes.

A TikTok anunciou recentemente que começaria a usar tecnologia para remover automaticamente alguns tipos de violações conteúdo que seria identificado ao ser carregado, além do conteúdo removido manualmente por seu Safety Equipe.

A TikTok afirma que a automação será reservada para categorias de conteúdo onde sua tecnologia tem a maior precisão e começará em violações relativas à segurança de menores, nudez adulta, atividades sexuais, conteúdo violento e gráfico e atividades ilegais e regulamentadas bens.

A empresa também afirma que tentará continuar a melhorar a precisão da tecnologia para evitar remoções incorretas, no entanto, os criadores podem contestar a remoção do vídeo diretamente se acharem que foi feito isso injustamente.

O novo sistema conta as violações feitas por um usuário, observando a gravidade e a frequência de todas as violações. O usuário será notificado sobre as consequências, que podem ser encontradas na seção Atualizações de conta em sua caixa de entrada.

A primeira violação de um usuário resultará em um aviso, a menos que a violação seja uma política de tolerância zero, caso em que eles serão banidos. Após a primeira violação, o usuário terá sua conta suspensa por 24 a 48 horas, dependendo sobre a gravidade, momento em que eles não poderão enviar vídeos, comentar ou editar seus perfil.

Após várias violações, o usuário será notificado de que sua conta está perto de ser banida e, se o comportamento continuar, a conta será removida permanentemente.

"Sim. Antes disso, os moderadores humanos tinham que confirmar uma violação antes que algo fosse removido. Os humanos são lentos e a força de trabalho é limitada, o que pode permitir que um conteúdo violador se espalhe antes ele é removido ou não será removido de forma alguma ”, disse Paul Bischoff, advogado de privacidade da Comparitech, ao Trusted Avaliações.

“A TikTok está removendo o gargalo humano de casos mais claros em que seus sistemas automatizados estão razoavelmente confiantes de que uma violação ocorreu.”

Um sistema de IA seria capaz de funcionar mais rápido do que uma equipe humana, e Chris Hauk também acredita que os sistemas automatizados são mais precisos.

“Os sistemas automatizados não estão sujeitos a erro humano ou fadiga. Um sistema automatizado pode funcionar 24 horas por dia, 7 dias por semana para remover uma parte do conteúdo violador. Os sistemas automatizados também não são susceptíveis de remover (ou não remover) uma parte do conteúdo, simplesmente por causa da opinião de um humano quanto a o que pode ou não estar violando os padrões ”, explicou Chris Hauk, defensor da privacidade do consumidor na Pixel Privacy, ao Trusted Avaliações.

“Inevitavelmente vai. Certamente haverá problemas iniciais que farão com que algum conteúdo violento escape e também ocorram falsos positivos. Levará algum tempo para que os algoritmos do TikTok se tornem refinados o suficiente para evitar que o conteúdo de vídeo seja classificado incorretamente ”, disse Tom Gaffney, consultor de segurança da F-Secure, à Trusted Reviews.

“A longo prazo, será interessante ver como o conteúdo é classificado nas diferentes regiões. Neste caso, a política foi experimentada usando assuntos dos EUA e Canadá, mas as normas sociais diferem em todo o mundo, então haverá alguns erros. Tenho alguma simpatia pela TikTok neste assunto, pois é uma entidade comercial que está sendo solicitada a “policiar” o conteúdo da Internet ”, disse Gaffney.

Não é incomum para uma plataforma de mídia social usar IA para ajudar a remover conteúdo violento ou ofensivo, The Verge relatou o uso de IA do Facebook para classificar o conteúdo para moderação mais rápida em 2020.

No entanto, devido ao sistema automatizado ser relativamente novo para a TikTok, Bischoff concordou que a plataforma pode ter dificuldade em identificar corretamente o conteúdo que vale a pena remover.

“É inevitável que um sistema automatizado como este ocasionalmente identifique algo incorretamente como uma violação. No novo sistema, o conteúdo pode ser removido sem supervisão humana. A TikTok tentará minimizar os falsos positivos em um grau razoável e ainda permite recursos de remoções automáticas ”, explicou Bischoff.

Acredita-se que o sistema precisará ser "ensinado" o que deve e o que não deve ser removido, embora esses sistemas nem sempre sejam perfeitos. Durante a pandemia, o YouTube foi culpado de remover conteúdo de vídeo que não ia contra o política das empresas, uma vez que as medidas para proteger os funcionários significavam que a IA não estava sendo auxiliada por revisão humana, como Reportado por Tech Crunch.

“O TikTok tem uma série de ferramentas para ajudar os pais a limitar a exposição das crianças ao ver o conteúdo. Os pais podem garantir que os filhos usem as configurações de idade adequadas no aplicativo ou para melhor uso de proteção o ‘recurso de emparelhamento’, que permite aos pais controles mais granulares ”, explicou Gaffney ao Trusted Avaliações.

Hauk também afirma que denunciar conteúdo com o qual você não deseja interagir ajudará o algoritmo a entender melhor suas preferências e o que deve ou não ser permitido no site.

“[Os usuários devem] denunciar o conteúdo que eles consideram violar os padrões da comunidade da plataforma. Embora o conteúdo não possa ser removido imediatamente, os relatórios ajudam o sistema automatizado a aprender e melhorar ”, disse Hauk.

Um usuário pode denunciar vídeos e contas no TikTok seguindo estas instruções:

Para relatar um vídeo no TikTok:

• Vá para o vídeo que deseja denunciar
• Toque no botão Compartilhar
• Selecione Relatório e siga as instruções fornecidas na tela

Para relatar uma conta no TikTok:

• Vá para o perfil que deseja denunciar
• Toque nos três pontos no lado superior direito da tela para ver mais opções
• Toque no botão Reportar
• Selecione Denunciar conta nas opções
• Siga as instruções na tela para descrever qual é o problema

“Embora todas as redes sociais devam se preocupar com conteúdo violento, elas precisam ter cuidado para não restringir a liberdade de expressão. Medidas de proteção podem rapidamente se transformar em censura se a remoção de conteúdo não for realizada de forma justa e sem preconceito ”, comentou Hauk.

Bischoff também afirmou que o novo sistema de suspensão deve ser eficaz, mesmo se os usuários suspensos ou banidos criarem outra conta.

“As suspensões são eficazes em alguns casos e são uma parte necessária para evitar que as pessoas abusem da plataforma. Mesmo que alguém pudesse simplesmente criar uma nova conta, ainda teria que reconstruir sua base de seguidores ”, explicou Bischoff.

O TikTok não comentou sobre nenhum recurso que pudesse suspender ou banir contas vinculadas entre si, no entanto, um usuário teria que reconstruir seus seguidores se optasse por fazer outra conta depois de ser suspenso.

“Este é um passo pró-ativo muito bom da TikTok, colocando-a à frente de muitas outras empresas de mídia social. Talvez a questão devesse ser ‘o que mais os governos deveriam fazer para permitir que todas as empresas de mídia social ofereçam serviços semelhantes?’ ”, Continuou Gaffney.

“O TikTok assumiu uma certa liderança aqui, mas é um tanto louco que estejamos pedindo às empresas comerciais que decidam qual conteúdo é seguro na Internet.”

No entanto, Gaffney também argumentou que mais poderia ser feito para ajudar a proteger os usuários mais jovens da plataforma, considerando que o principal grupo demográfico do TikTok é menor de 34 anos, com 32,5% dos usuários com idade entre 10 e 19, de acordo com para recente Estatisticas.

“E um comentário geral deste lado, esta é uma boa jogada da TikTok, para os usuários e para suas relações públicas, mas tem um longo caminho a percorrer quando se trata de privacidade. Os termos gerais do usuário são bastante opacos e há uma série de bons estudos mostrando que sua coleta de dados excede a de outras empresas de mídia social ”, explicou Gaffney.

“Embora este último ponto seja discutível, é definitivamente um aplicativo que traça o perfil de nossa juventude. Se quiser dar um passo adiante, por que não garantir a não coleta de dados de identificação pessoal de menores de 18 anos e permitir que eles acessem a Internet sem serem comercializados? ”

Se você está preocupado com sua pegada online, verifique nossas escolhas para o melhor VPN, que o ajudará a ficar protegido contra ataques externos e manter todos os seus dados criptografados para que você fique invisível ao navegar na web.