TikTok verwendet jetzt KI für Benutzerverstöße – das bedeutet es für Sie

TikTok wird KI einsetzen, um verletzende Inhalte auf seiner Plattform zu entfernen, aber reicht das aus? Wir haben drei Experten gebeten, abzuwägen.

TikTok entwickelt sich weiter, die Plattform ist jetzt erst vier Jahre alt, hat aber über eine Milliarde Nutzer und ist in über 150 Ländern verfügbar. Es hat sogar Youtube, Instagram, WhatsApp und Facebook Messenger in Bezug auf Downloads geschlagen und im Jahr 2019 33 Millionen in einem einzigen Quartal verzeichnet Sensorturm.

Selbst wenn Sie nicht auf TikTok sind, ist es wahrscheinlich, dass mindestens eine Person, die Sie kennen, es ist. Lesen Sie weiter, um herauszufinden, wie die Plattform für ihre Benutzer sicherer werden will und was Experten über die jüngsten Änderungen denken.

TikTok hat kürzlich angekündigt, dass es beginnen wird, Technologien zu verwenden, um einige Arten von Verstößen automatisch zu entfernen Inhalte, die beim Hochladen identifiziert würden, zusätzlich zu den Inhalten, die manuell von seiner Sicherheit entfernt werden Team.

TikTok behauptet, dass die Automatisierung für Inhaltskategorien reserviert ist, in denen die Technologie die höchste Genauigkeit aufweist, und beginnt am Verstöße in Bezug auf die Sicherheit von Minderjährigen, Nacktheit von Erwachsenen, sexuelle Aktivitäten, gewalttätige und grafische Inhalte sowie illegale Aktivitäten und geregelt Waren.

Das Unternehmen behauptet auch, dass es versuchen wird, die Präzision der Technologie weiter zu verbessern, um dies zu vermeiden Falsche Entfernungen, Creator können jedoch direkt Einspruch gegen die Entfernung von Videos einlegen, wenn sie der Meinung sind, dass dies der Fall war unfair.

Das neue System zählt Verstöße eines Benutzers und notiert den Schweregrad und die Häufigkeit von Verstößen. Der Benutzer wird über die Folgen informiert, die im Abschnitt Kontoaktualisierungen in seinem Posteingang zu finden sind.

Der erste Verstoß eines Benutzers führt zu einer Verwarnung, es sei denn, es handelt sich um eine Null-Toleranz-Richtlinie. In diesem Fall wird er gesperrt. Nach dem ersten Verstoß wird das Konto des Benutzers für 24 bis 48 Stunden gesperrt, je nachdem nach dem Schweregrad, zu welchem ​​Zeitpunkt sie keine Videos hochladen, kommentieren oder ihre Profil.

Nach mehreren Verstößen wird der Benutzer darüber informiert, dass sein Konto kurz vor der Sperrung steht, und wenn das Verhalten anhält, wird das Konto endgültig entfernt.

"Jawohl. Zuvor mussten menschliche Moderatoren einen Verstoß bestätigen, bevor etwas entfernt wurde. Menschen sind langsam und die Arbeitskraft ist begrenzt, was dazu führen kann, dass sich ein rechtsverletzender Inhalt vorher verbreitet spread es wird entfernt oder wird überhaupt nicht entfernt“, sagte Paul Bischoff, Datenschutzbeauftragter bei Comparitech, gegenüber Trusted Bewertungen.

„TikTok beseitigt den menschlichen Engpass in eindeutigeren Fällen, in denen seine automatisierten Systeme einigermaßen sicher sind, dass ein Verstoß vorliegt.“

Ein KI-System könnte schneller arbeiten als ein menschliches Team, und Chris Hauk glaubt auch, dass automatisierte Systeme genauer sind.

„Automatisierte Systeme unterliegen keinen menschlichen Fehlern oder Ermüdung. Ein automatisiertes System kann rund um die Uhr arbeiten, um einen rechtsverletzenden Inhalt zu entfernen. Es ist auch unwahrscheinlich, dass automatisierte Systeme einen Inhalt entfernen (oder nicht entfernen), nur weil ein Mensch die Meinung dazu hat was gegen Standards verstoßen kann oder nicht“, erklärte Chris Hauk, Consumer Privacy Champion bei Pixel Privacy, Trusted Bewertungen.

„Das wird es zwangsläufig. Es wird sicherlich Kinderkrankheiten geben, die dazu führen, dass einige gewalttätige Inhalte durchschlüpfen und auch falsch positive Ergebnisse auftreten. Es wird einige Zeit dauern, bis die TikTok-Algorithmen verfeinert sind, um zu verhindern, dass diese Videoinhalte falsch klassifiziert werden“, sagte Tom Gaffney, Sicherheitsberater bei F-Secure, gegenüber Trusted Reviews.

„Längerfristig wird es interessant sein zu sehen, wie Inhalte in verschiedene Regionen eingeordnet werden. In diesem Fall wurde die Richtlinie mit US-amerikanischen und kanadischen Themen experimentiert, aber die sozialen Normen unterscheiden sich auf der ganzen Welt, sodass einige Fehler auftreten können. Ich habe in dieser Angelegenheit ein gewisses Verständnis für TikTok, da es sich um ein kommerzielles Unternehmen handelt, das aufgefordert wird, Internetinhalte zu „kontrollieren“, fuhr Gaffney fort.

Es ist nicht ungewöhnlich, dass eine Social-Media-Plattform KI verwendet, um verletzende oder anstößige Inhalte zu entfernen. Der Rand berichteten über Facebooks Einsatz von KI, um Inhalte für eine schnellere Moderation im Jahr 2020 zu sortieren.

Da das automatisierte System für TikTok jedoch relativ neu ist, stimmte Bischoff zu, dass die Plattform Schwierigkeiten haben könnte, zu entfernende Inhalte korrekt zu identifizieren.

„Es ist unvermeidlich, dass ein automatisiertes System wie dieses gelegentlich etwas als Verstoß fälschlicherweise erkennt. Unter dem neuen System können Inhalte ohne menschliche Aufsicht entfernt werden. TikTok wird versuchen, Fehlalarme auf ein vernünftiges Maß zu minimieren und dennoch Einsprüche gegen automatische Entfernungen zulässt“, erklärte Bischoff.

Es wird angenommen, dass dem System „beigebracht“ werden muss, was es entfernen soll und was nicht, obwohl diese Systeme nicht immer perfekt sind. Während der Pandemie war YouTube schuldig, Videoinhalte entfernt zu haben, die nicht gegen die Unternehmenspolitik, da Maßnahmen zum Schutz der Mitarbeiter bedeuteten, dass die KI nicht durch menschliche Überprüfung unterstützt wurde, da berichtet von Tech-Crunch.

„TikTok verfügt über eine Reihe von Tools, die Eltern dabei helfen, die Exposition von Kindern durch das Sehen der Inhalte zu begrenzen. Eltern können sicherstellen, dass Kinder die entsprechenden Alterseinstellungen in der App verwenden oder für den besten Schutz verwenden die „Pairing-Funktion“, die den Eltern eine genauere Kontrolle ermöglicht“, erklärte Gaffney gegenüber Trusted Bewertungen.

Hauk behauptet auch, dass das Melden von Inhalten, mit denen Sie nicht interagieren möchten, dem Algorithmus helfen, Ihre Präferenzen besser zu verstehen und was auf der Website erlaubt und was nicht erlaubt sein sollte.

„[Benutzer sollten] Inhalte melden, die ihrer Meinung nach gegen die Gemeinschaftsstandards der Plattform verstoßen. Obwohl der Inhalt möglicherweise nicht sofort entfernt wird, helfen Berichte dem automatisierten System, zu lernen und sich zu verbessern“, sagte Hauk.

Ein Benutzer kann Videos und Konten auf TikTok melden, indem er diesen Anweisungen folgt:

So melden Sie ein Video auf TikTok:

• Gehe zu dem Video, das du melden möchtest
• Tippe auf den Teilen-Button
• Wählen Sie Bericht und befolgen Sie die Anweisungen auf dem Bildschirm

So melden Sie ein Konto bei TikTok:

• Gehe zu dem Profil, das du melden möchtest
• Tippen Sie auf die drei Punkte oben rechts auf dem Bildschirm, um weitere Optionen anzuzeigen
• Tippen Sie auf die Schaltfläche Melden
• Wählen Sie Konto melden aus den Optionen
• Befolgen Sie die Anweisungen auf dem Bildschirm, um das Problem zu beschreiben

„Während alle sozialen Netzwerke über rechtsverletzende Inhalte besorgt sein sollten, müssen sie darauf achten, die freie Meinungsäußerung nicht einzuschränken. Schutzmaßnahmen können schnell zur Zensur werden, wenn die Entfernung von Inhalten nicht fair und vorurteilsfrei erfolgt“, kommentierte Hauk.

Bischoff behauptete auch, dass das neue Sperrsystem wirksam sein sollte, auch wenn gesperrte oder gesperrte Benutzer ein anderes Konto erstellen.

„Aussetzungen sind in einigen Fällen effektiv und ein notwendiger Teil, um zu verhindern, dass Menschen die Plattform missbrauchen. Auch wenn jemand nur einen neuen Account erstellen könnte, müsste er seine Follower-Basis trotzdem neu aufbauen“, erklärte Bischoff.

TikTok hat sich zu keiner Funktion geäußert, die miteinander verknüpfte Konten sperren oder sperren würde. ein Benutzer müsste jedoch seine Gefolgschaft neu aufbauen, wenn er sich dafür entscheidet, ein anderes Konto zu erstellen, nachdem er ausgesetzt.

„Dies ist ein ziemlich guter proaktiver Schritt von TikTok, der sie vielen anderen Social-Media-Unternehmen voraussetzt. Vielleicht sollte die Frage lauten: ‚Was sollten Regierungen noch tun, damit alle Social-Media-Unternehmen ähnliche Dienste anbieten können?‘“, fuhr Gaffney fort.

„TikTok hat hier eine gewisse Vorreiterrolle übernommen, aber es ist etwas verrückt, dass wir kommerzielle Unternehmen bitten, zu entscheiden, welche Inhalte im Internet sicher sind.“

Gaffney argumentierte jedoch auch, dass mehr getan werden könnte, um die jüngeren Nutzer der Plattform zu schützen. wenn man bedenkt, dass die wichtigste demografische Gruppe von TikTok unter 34 Jahre alt ist, wobei 32,5% der Nutzer zwischen 10 und 19 Jahre alt sind zu den letzten Statistiken.

„Und ein allgemeiner Kommentar von dieser Seite, dies ist ein guter Schritt von TikTok, für die Benutzer und für seine PR, aber es ist noch ein langer Weg, wenn es um den Datenschutz geht. Die allgemeinen Nutzungsbedingungen sind ziemlich undurchsichtig und es gibt eine Reihe guter Studien, die zeigen, dass die Datensammlung sogar die anderer Social-Media-Unternehmen übertrifft“, erklärte Gaffney.

„Obwohl dieser letzte Punkt umstritten ist, ist es definitiv eine App, die unsere Jugend profiliert. Wenn es noch einen Schritt weiter gehen wollte, warum nicht garantieren, dass unter 18-Jährige keine personenbezogenen Benutzerdaten sammeln und ihnen das Internet ohne Kommerzialisierung ermöglichen?“

Wenn Sie sich Sorgen um Ihren Online-Fußabdruck machen, sehen Sie sich unsere Tipps für die bestes VPN, die Ihnen hilft, sich vor externen Angriffen zu schützen und alle Ihre Daten verschlüsselt zu halten, damit Sie beim Surfen im Internet unsichtbar sind.