TikTok folosește acum AI pentru încălcările utilizatorilor - iată ce înseamnă pentru dvs.

TikTok va folosi AI pentru a elimina conținutul violativ de pe platforma sa, dar este suficient? Am cerut trei experți să cântărească.

TikTok evoluează, platforma are acum doar patru ani, dar are peste un miliard de utilizatori și este disponibilă în peste 150 de țări. A depășit chiar Youtube, Instagram, WhatsApp și Facebook Messenger în ceea ce privește descărcările, acumulând 33 de milioane într-un singur trimestru în 2019, potrivit Turnul senzorilor.

Deci, chiar dacă nu sunteți pe TikTok, este probabil ca cel puțin o persoană pe care o cunoașteți să fie. Citiți mai departe pentru a afla cum caută platforma să devină mai sigură pentru utilizatorii săi și ce părere au experții despre modificările recente.

TikTok a anunțat recent că va începe să folosească tehnologia pentru a elimina automat unele tipuri de violative conținut care ar fi identificat la încărcare, în plus față de conținutul eliminat manual de Siguranța sa Echipă.

TikTok susține că automatizarea va fi rezervată pentru categoriile de conținut în care tehnologia sa are cea mai mare precizie și va începe încălcări privind siguranța minorilor, nuditatea adulților, activități sexuale, conținut violent și grafic și activități ilegale și reglementate bunuri.

Compania susține, de asemenea, că va încerca să continue să îmbunătățească precizia tehnologiei de evitat eliminări incorecte, cu toate acestea, creatorii pot face apel direct la eliminarea videoclipurilor lor, dacă consideră că s-a făcut pe nedrept.

Noul sistem contorizează încălcările făcute de un utilizator, notând gravitatea și frecvența oricăror încălcări. Utilizatorul va fi informat despre consecințe, care pot fi găsite în secțiunea Actualizări de cont din căsuța de e-mail.

Prima încălcare a unui utilizator va duce la un avertisment, cu excepția cazului în care încălcarea este o politică de toleranță zero, caz în care vor fi interzise. După prima încălcare, utilizatorul va avea contul suspendat timp de 24 până la 48 de ore, în funcție cu privire la severitate, moment în care nu vor putea să încarce videoclipuri, să comenteze sau să le editeze profil.

După mai multe încălcări, utilizatorul va fi notificat că contul său este aproape de a fi interzis, iar dacă comportamentul continuă, atunci contul va fi eliminat definitiv.

"Da. Înainte de aceasta, moderatorii umani trebuiau să confirme o încălcare înainte ca ceva să fie eliminat. Oamenii sunt încet, iar forța de muncă este limitată, ceea ce ar putea permite ca un conținut care încalcă să se răspândească înainte este eliminat sau deloc eliminat ”, a declarat pentru Trusted Paul Bischoff, avocat pentru confidențialitate la Comparitech Recenzii.

„TikTok elimină blocajul uman din cazuri mai clare în care sistemele sale automatizate sunt destul de sigure că a avut loc o încălcare”.

Un sistem AI ar putea funcționa mai repede decât o echipă umană, iar Chris Hauk crede, de asemenea, că sistemele automatizate sunt mai precise.

„Sistemele automate nu sunt supuse erorilor sau oboselii umane. Un sistem automat poate funcționa 24/7 pentru a elimina un conținut care încalcă. De asemenea, este puțin probabil ca sistemele automate să elimine (sau să nu elimine) un conținut, pur și simplu din cauza părerii unui om cu privire la ceea ce poate sau nu să încalce standardele ", a explicat către Trusted Chris Hauk, campion al confidențialității consumatorilor la Pixel Privacy Recenzii.

„Inevitabil va fi. Cu siguranță vor apărea probleme de dinți care vor face să se strecoare un conținut violent și, de asemenea, să apară falsuri pozitive. Va dura ceva timp ca algoritmii TikTok să devină suficient de rafinați pentru a evita clasificarea greșită a acestor conținuturi video ”, a declarat pentru Trusted Reviews Tom Gaffney, consultant în securitate pentru F-Secure.

„Pe termen lung, va fi interesant să vedem cum este clasificat conținutul în diferite regiuni. În acest caz, politica a fost experimentată cu privire la utilizarea subiectelor din SUA și Canada, dar normele sociale diferă în întreaga lume, astfel încât vor exista unele greșeli. Am o oarecare simpatie cu TikTok în această chestiune, deoarece acestea sunt o entitate comercială care este rugată să „polițizeze” conținutul de pe internet ”, a continuat Gaffney.

Nu este neobișnuit ca o platformă de socializare să folosească AI pentru a ajuta la eliminarea conținutului violator sau jignitor, The Verge a raportat despre utilizarea de către AI a Facebook pentru a sorta conținutul pentru o moderare mai rapidă în 2020.

Cu toate acestea, datorită faptului că sistemul automatizat este relativ nou pentru TikTok, Bischoff a fost de acord că platforma s-ar putea lupta în identificarea corectă a conținutului demn de eliminat.

„Este inevitabil ca un astfel de sistem automat să identifice greșit ceva ca fiind o încălcare. În cadrul noului sistem, conținutul poate fi eliminat fără supravegherea umană. TikTok va încerca să minimizeze falsurile pozitive într-un grad rezonabil și permite totuși apeluri pentru eliminări automate ”, a explicat Bischoff.

Se crede că sistemul va trebui să fie „învățat” ce ar trebui și ce nu ar trebui să elimine, deși aceste sisteme nu sunt întotdeauna perfecte. În timpul pandemiei, YouTube s-a făcut vinovat de eliminarea conținutului video care nu se opunea politica companiilor, deoarece măsurile de protejare a personalului au însemnat că AI nu a fost ajutată de revizuirea umană, deoarece raportat de Tech Crunch.

„TikTok are o serie de instrumente care îi ajută pe părinți să limiteze expunerea copiilor de la a vedea conținutul. Părinții se pot asigura că copiii folosesc setările de vârstă corespunzătoare în aplicație sau pentru o protecție optimă „caracteristica de asociere”, care permite părinților controale mai granulare ”, a explicat Gaffney către Trusted Recenzii.

Hauk susține, de asemenea, că raportarea conținutului cu care nu doriți să interacționați va ajuta algoritmul să vă înțeleagă mai bine preferințele și ce ar trebui și ce nu ar trebui permis pe site.

„[Utilizatorii ar trebui] să raporteze conținut despre care consideră că încalcă standardele comunității platformei. Deși este posibil ca conținutul să nu fie eliminat imediat, rapoartele ajută sistemul automat să învețe și să se îmbunătățească ”, a spus Hauk.

Un utilizator poate raporta videoclipuri și conturi pe TikTok urmând aceste instrucțiuni:

Pentru a raporta un videoclip pe TikTok:

• Accesați videoclipul pe care doriți să îl raportați
• Atingeți butonul Partajare
• Selectați Raport și urmați instrucțiunile furnizate pe ecran

Pentru a raporta un cont pe TikTok:

• Accesați profilul pe care doriți să îl raportați
• Atingeți cele trei puncte din partea dreaptă sus a ecranului pentru a vedea mai multe opțiuni
• Atingeți butonul Raport
• Selectați Raportare cont din opțiuni
• Urmați instrucțiunile de pe ecran pentru a descrie care este problema

„În timp ce toate rețelele sociale ar trebui să fie îngrijorate de conținutul violativ, trebuie să fie atenți să nu restricționeze libera exprimare. Măsurile de protecție se pot transforma rapid în cenzură dacă eliminarea conținutului nu se realizează corect și fără prejudecăți ”, a comentat Hauk.

Bischoff a mai susținut că noul sistem de suspendare ar trebui să fie eficient, chiar dacă utilizatorii suspendați sau interzisi au creat un alt cont.

„Suspendările sunt eficiente în unele cazuri și sunt o parte necesară pentru a împiedica oamenii să abuzeze de platformă. Chiar dacă cineva ar putea să creeze un cont nou, ar trebui totuși să își reconstruiască baza de adepți ”, a explicat Bischoff.

TikTok nu a comentat nicio caracteristică care ar suspenda sau interzice conturile legate între ele, cu toate acestea, un utilizator ar trebui să își reconstruiască următorii dacă ar alege să își facă un alt cont după ce a fost suspendat.

„Acesta este un pas pro-activ destul de bun de către TikTok, punându-i în fața multor alte companii de social media. Poate că întrebarea ar trebui să fie „ce ar trebui să facă mai mult guvernele pentru a permite tuturor companiilor de social media să ofere servicii similare?”, A continuat Gaffney.

„TikTok a preluat un rol de lider aici, dar este oarecum nebunesc faptul că cerem firmelor comerciale să decidă ce conținut este sigur pe internet.”

Cu toate acestea, Gaffney a susținut, de asemenea, că s-ar putea face mai multe pentru a proteja utilizatorii mai tineri ai platformei, având în vedere că principalul grup demografic al TikTok este sub 34, cu 32,5% dintre utilizatorii cu vârste cuprinse între 10 și 19 ani, potrivit la recent statistici.

„Și un comentariu general din această parte, aceasta este o mișcare bună de către TikTok, pentru utilizatori și pentru PR-ul său, dar are un drum lung de parcurs când vine vorba de confidențialitate. Termenii generali ai utilizatorilor sunt destul de opaci și există o serie de studii bune care arată că colectarea datelor sale depășește chiar și celelalte companii de social media ”, a explicat Gaffney.

„Deși acest ultim punct este discutabil, este cu siguranță o aplicație care ne profilează tinerii. Dacă a vrut să meargă un pas mai departe, de ce să nu garanteze că nu colectează date de utilizator care pot fi identificate personal pentru persoanele cu vârsta sub 18 ani și să le permită să experimenteze internetul fără a fi comercializate? ”

Dacă sunteți îngrijorat de amprenta dvs. online, consultați opțiunile noastre pentru cel mai bun VPN, care vă va ajuta să vă protejați de atacurile externe și să vă păstrați toate datele criptate, astfel încât să fiți invizibil atunci când navigați pe web.