Το TikTok χρησιμοποιεί τώρα AI για παραβιάσεις χρηστών - εδώ είναι τι σημαίνει για εσάς

Η TikTok θα χρησιμοποιεί AI για να αφαιρέσει το παραβατικό περιεχόμενο στην πλατφόρμα της, αλλά αρκεί; Ζητήσαμε από τρεις ειδικούς να σταθμίσουν.

Το TikTok εξελίσσεται, η πλατφόρμα είναι τώρα μόνο τεσσάρων ετών, αλλά έχει πάνω από ένα δισεκατομμύριο χρήστες και είναι διαθέσιμη σε περισσότερες από 150 χώρες. Κέρδισε ακόμη και τα Youtube, Instagram, WhatsApp και Facebook Messenger όσον αφορά τις λήψεις, συγκεντρώνοντας 33 εκατομμύρια σε ένα μόνο τρίμηνο το 2019, σύμφωνα με Πύργος αισθητήρων.

Έτσι, ακόμα κι αν δεν είστε στο TikTok, είναι πιθανό τουλάχιστον ένα άτομο που γνωρίζετε. Διαβάστε παρακάτω για να μάθετε πώς η πλατφόρμα θέλει να γίνει ασφαλέστερη για τους χρήστες της και τι πιστεύουν οι ειδικοί για τις πρόσφατες αλλαγές.

Η TikTok ανακοίνωσε πρόσφατα ότι θα αρχίσει να χρησιμοποιεί τεχνολογία για την αυτόματη κατάργηση ορισμένων τύπων παραβίασης περιεχόμενο που θα αναγνωριζόταν κατά τη μεταφόρτωση, εκτός από το περιεχόμενο που καταργήθηκε μη αυτόματα από την Ασφάλεια Ομάδα.

Η TikTok ισχυρίζεται ότι ο αυτοματισμός θα δεσμευτεί για κατηγορίες περιεχομένου όπου η τεχνολογία της έχει την υψηλότερη ακρίβεια και θα ξεκινήσει παραβιάσεις σχετικά με την ασφάλεια ανηλίκων, γυμνό για ενήλικες, σεξουαλικές δραστηριότητες, βίαιο και γραφικό περιεχόμενο και παράνομες δραστηριότητες και ρυθμιζόμενες εμπορεύματα.

Η εταιρεία ισχυρίζεται επίσης ότι θα προσπαθήσει να συνεχίσει να βελτιώνει την ακρίβεια της τεχνολογίας προς αποφυγή λανθασμένες καταργήσεις, ωστόσο, οι δημιουργοί μπορούν να υποβάλουν ένσταση για την κατάργηση του βίντεό τους απευθείας, εάν πιστεύουν ότι έγινε άδικα.

Το νέο σύστημα μετρά παραβιάσεις που έγιναν από έναν χρήστη, σημειώνοντας τη σοβαρότητα και τη συχνότητα τυχόν παραβιάσεων. Ο χρήστης θα ειδοποιηθεί για τις συνέπειες, τις οποίες μπορείτε να βρείτε στην ενότητα Ενημερώσεις λογαριασμού στα Εισερχόμενά τους.

Η πρώτη παραβίαση ενός χρήστη θα οδηγήσει σε προειδοποίηση, εκτός εάν η παράβαση είναι πολιτική μηδενικής ανοχής, οπότε θα απαγορευτεί. Μετά την πρώτη παράβαση, ο χρήστης θα αναστείλει τον λογαριασμό του για 24 έως 48 ώρες, ανάλογα σχετικά με τη σοβαρότητα, κατά την οποία δεν θα μπορούν να ανεβάζουν βίντεο, να σχολιάζουν ή να επεξεργάζονται τα δικά τους Προφίλ.

Μετά από πολλές παραβιάσεις, ο χρήστης θα ειδοποιηθεί ότι ο λογαριασμός του πλησιάζει στην απαγόρευση και εάν η συμπεριφορά συνεχιστεί, ο λογαριασμός θα καταργηθεί οριστικά.

"Ναί. Πριν από αυτό, οι ανθρώπινοι συντονιστές έπρεπε να επιβεβαιώσουν μια παραβίαση πριν καταργηθεί κάτι. Οι άνθρωποι είναι αργοί και το ανθρώπινο δυναμικό είναι περιορισμένο, γεγονός που μπορεί να επιτρέψει την εξάπλωση ενός παραβιάζοντος περιεχομένου στο παρελθόν έχει αφαιρεθεί ή δεν αφαιρεθεί καθόλου », δήλωσε ο Paul Bischoff, δικηγόρος απορρήτου της Comparitech, στην Trusted Κριτικές

«Η TikTok αφαιρεί την ανθρώπινη συμφόρηση από πιο σαφείς περιπτώσεις στις οποίες τα αυτοματοποιημένα συστήματά της είναι εύλογα βέβαια ότι έχει συμβεί παραβίαση»

Ένα σύστημα AI θα μπορούσε να λειτουργήσει γρηγορότερα από μια ανθρώπινη ομάδα, και ο Chris Hauk πιστεύει επίσης ότι τα αυτοματοποιημένα συστήματα είναι πιο ακριβή.

«Τα αυτοματοποιημένα συστήματα δεν υπόκεινται σε ανθρώπινο σφάλμα ή κόπωση. Ένα αυτοματοποιημένο σύστημα μπορεί να λειτουργήσει όλο το 24ωρο για την κατάργηση ενός παραβιάζοντος περιεχομένου. Τα αυτοματοποιημένα συστήματα επίσης δεν είναι πιθανό να αφαιρέσουν (ή όχι να αφαιρέσουν) ένα κομμάτι περιεχομένου, απλώς λόγω της γνώμης ενός ανθρώπου ως προς τι μπορεί ή όχι να παραβιάζει τα πρότυπα », επεσήμανε ο Chris Hauk, Πρωταθλητής απορρήτου καταναλωτών στο Pixel Privacy. Κριτικές

«Αναπόφευκτα θα. Θα υπάρξουν σίγουρα προβλήματα οδοντοφυΐας που θα προκαλέσουν διαρροή κάποιου βίαιου περιεχομένου και επίσης να προκύψουν ψευδώς θετικά. Θα χρειαστεί χρόνος για να βελτιωθούν αρκετά οι αλγόριθμοι του TikTok για να αποφευχθεί η εσφαλμένη ταξινόμηση αυτού του περιεχομένου βίντεο », δήλωσε ο Tom Gaffney, Σύμβουλος ασφαλείας για την F-Secure.

«Μακροπρόθεσμα, θα είναι ενδιαφέρον να δούμε πώς ταξινομείται το περιεχόμενο σε διαφορετικές περιοχές. Σε αυτήν την περίπτωση, η πολιτική έχει πειραματιστεί με τη χρήση θεμάτων ΗΠΑ και Καναδά, αλλά οι κοινωνικοί κανόνες διαφέρουν σε όλο τον κόσμο, οπότε θα υπάρξουν κάποια λάθη. Έχω κάποια συμπάθεια με τον TikTok για αυτό το θέμα, καθώς είναι μια εμπορική οντότητα που ζητείται να «αστυνομεί» περιεχόμενο στο Διαδίκτυο », συνέχισε ο Gaffney.

Δεν είναι ασυνήθιστο για μια πλατφόρμα κοινωνικών μέσων να χρησιμοποιεί AI για να καταργήσει το προσβλητικό ή προσβλητικό περιεχόμενο, Το χείλος ανέφερε σχετικά με τη χρήση του AI από το Facebook για ταξινόμηση περιεχομένου για ταχύτερη εποπτεία το 2020.

Ωστόσο, επειδή το αυτοματοποιημένο σύστημα είναι σχετικά νέο για το TikTok, ο Bischoff συμφώνησε ότι η πλατφόρμα μπορεί να δυσκολευτεί να εντοπίσει σωστά περιεχόμενο που αξίζει να καταργηθεί.

«Είναι αναπόφευκτο ένα αυτοματοποιημένο σύστημα όπως αυτό να περιστασιακά κατά λάθος αναγνωρίζει κάτι ως παραβίαση. Στο νέο σύστημα, το περιεχόμενο μπορεί να αφαιρεθεί χωρίς ανθρώπινη επίβλεψη. Η TikTok θα προσπαθήσει να ελαχιστοποιήσει τα ψεύτικα θετικά σε λογικό βαθμό και εξακολουθεί να επιτρέπει την επανεξέταση των αυτόματων αφαιρέσεων », εξήγησε ο Bischoff.

Πιστεύεται ότι το σύστημα θα πρέπει να «διδαχθεί» τι πρέπει και δεν πρέπει να αφαιρεθεί, αν και αυτά τα συστήματα δεν είναι πάντα τέλεια. Κατά τη διάρκεια της πανδημίας, το YouTube ήταν ένοχο για την κατάργηση περιεχομένου βίντεο που δεν ήταν αντίθετο πολιτική των εταιρειών, καθώς τα μέτρα για την προστασία του προσωπικού σήμαινε ότι η τεχνητή νοημοσύνη δεν βοηθούσε την ανθρώπινη αναθεώρηση, όπως αναφέρεται από Τεχνολογία.

«Το TikTok διαθέτει πολλά εργαλεία για να βοηθήσει τους γονείς να περιορίσουν την έκθεση των παιδιών από το να βλέπουν το περιεχόμενο. Οι γονείς μπορούν να διασφαλίσουν ότι τα παιδιά χρησιμοποιούν τις κατάλληλες ρυθμίσεις ηλικίας στην εφαρμογή ή για καλύτερη χρήση το «χαρακτηριστικό σύζευξης», το οποίο επιτρέπει στους γονείς πιο λεπτομερείς ελέγχους », εξήγησε ο Gaffney στο Trusted Κριτικές

Ο Hauk ισχυρίζεται επίσης ότι η αναφορά περιεχομένου με το οποίο δεν θέλετε να αλληλεπιδράσετε θα βοηθήσει τον αλγόριθμο να κατανοήσει καλύτερα τις προτιμήσεις σας και τι πρέπει και τι δεν πρέπει να επιτρέπεται στον ιστότοπο.

«Οι χρήστες πρέπει να αναφέρουν περιεχόμενο που πιστεύουν ότι παραβιάζουν τα πρότυπα της κοινότητας της πλατφόρμας. Αν και το περιεχόμενο ενδέχεται να μην αφαιρεθεί αμέσως, οι αναφορές βοηθούν το αυτοματοποιημένο σύστημα να μάθει και να βελτιωθεί », δήλωσε ο Hauk.

Ένας χρήστης μπορεί να αναφέρει βίντεο και λογαριασμούς στο TikTok ακολουθώντας αυτές τις οδηγίες:

Για να αναφέρετε ένα βίντεο στο TikTok:

• Μεταβείτε στο βίντεο που θέλετε να αναφέρετε
• Πατήστε το κουμπί Κοινή χρήση
• Επιλέξτε Αναφορά και ακολουθήστε τις οδηγίες που παρέχονται στην οθόνη

Για να αναφέρετε έναν λογαριασμό στο TikTok:

• Μεταβείτε στο προφίλ που θέλετε να αναφέρετε
• Πατήστε τις τρεις κουκκίδες στην επάνω δεξιά πλευρά της οθόνης για να δείτε περισσότερες επιλογές
• Πατήστε το κουμπί Αναφορά
• Επιλέξτε Αναφορά λογαριασμού από τις επιλογές
• Ακολουθήστε τις οδηγίες στην οθόνη για να περιγράψετε ποιο είναι το πρόβλημα

«Ενώ όλα τα κοινωνικά δίκτυα θα πρέπει να ανησυχούν για παραβίαση περιεχομένου, πρέπει να προσέχουν ώστε να μην περιορίζουν την ελεύθερη ομιλία. Τα προστατευτικά μέτρα μπορούν γρήγορα να μετατραπούν σε λογοκρισία εάν η αφαίρεση περιεχομένου δεν εκτελείται δίκαια και χωρίς προκατάληψη », σχολίασε ο Hauk.

Ο Bischoff ισχυρίστηκε επίσης ότι το νέο σύστημα αναστολής θα έπρεπε να είναι αποτελεσματικό, ακόμη και αν οι χρήστες που είχαν αναστείλει ή απαγόρευαν δημιούργησαν έναν άλλο λογαριασμό.

«Οι αναστολές είναι αποτελεσματικές σε ορισμένες περιπτώσεις και είναι απαραίτητο μέρος για την αποτροπή της κατάχρησης της πλατφόρμας από άτομα. Παρόλο που κάποιος μπορούσε απλώς να δημιουργήσει έναν νέο λογαριασμό, θα έπρεπε ακόμη να ξαναχτίσει τη βάση των οπαδών του », εξήγησε ο Bischoff.

Η TikTok δεν έχει σχολιάσει κανένα χαρακτηριστικό που θα ανέστειλε ή θα απαγόρευε λογαριασμούς που συνδέονται μεταξύ τους, Ωστόσο, ένας χρήστης θα έπρεπε να αναδημιουργήσει τα ακόλουθα, εάν επέλεγε να δημιουργήσει έναν άλλο λογαριασμό μετά από αυτό ανασταλεί.

«Αυτό είναι ένα πολύ καλό προ-ενεργό βήμα από τον TikTok, βάζοντάς τους μπροστά από πολλές άλλες εταιρείες κοινωνικών μέσων. Ίσως το ερώτημα πρέπει να είναι «τι περισσότερο πρέπει να κάνουν οι κυβερνήσεις για να επιτρέψουν σε όλες τις εταιρείες κοινωνικών μέσων να προσφέρουν παρόμοιες υπηρεσίες;», είπε ο Gaffney.

«Η TikTok έχει πάρει το προβάδισμα εδώ, αλλά είναι κάπως τρελό που ζητάμε από τις εμπορικές εταιρείες να αποφασίσουν ποιο περιεχόμενο είναι ασφαλές στο Διαδίκτυο».

Ωστόσο, ο Gaffney υποστήριξε επίσης ότι θα μπορούσαν να γίνουν περισσότερα για την προστασία των νεότερων χρηστών της πλατφόρμας, λαμβάνοντας υπόψη ότι το κύριο δημογραφικό του TikTok είναι κάτω των 34 ετών, με το 32,5% των χρηστών ηλικίας μεταξύ 10 και 19, σύμφωνα με στο πρόσφατο στατιστική.

«Και ένα γενικό σχόλιο από αυτήν την πλευρά, αυτή είναι μια καλή κίνηση του TikTok, για τους χρήστες και για το PR του, αλλά έχει πολύ δρόμο να διανύσει όσον αφορά το απόρρητο. Οι γενικοί όροι χρηστών είναι αρκετά αδιαφανείς και υπάρχουν αρκετές καλές μελέτες που δείχνουν ότι η συλλογή δεδομένων υπερβαίνει εκείνη ακόμη και άλλων εταιρειών κοινωνικών μέσων », εξήγησε ο Gaffney.

«Ενώ αυτό το τελευταίο σημείο είναι συζητήσιμο, είναι σίγουρα μια εφαρμογή που σχεδιάζει τη νεολαία μας. Εάν ήθελε να προχωρήσει ένα βήμα παραπέρα, γιατί να μην εγγυηθείτε ότι δεν θα συλλέξει προσωπικά δεδομένα χρήστη κάτω των 18 ετών και θα τους επιτρέψει να βιώσουν το Διαδίκτυο χωρίς να εμπορευτούν; "

Εάν ανησυχείτε για το διαδικτυακό σας αποτύπωμα, ρίξτε μια ματιά στις επιλογές μας για το καλύτερο VPN, το οποίο θα σας βοηθήσει να παραμείνετε ασφαλείς από εξωτερικές επιθέσεις και να διατηρήσετε κρυπτογραφημένα όλα τα δεδομένα σας, ώστε να μην είστε αόρατοι κατά την περιήγηση στον ιστό.