A TikTok mostantól használja a mesterséges intelligenciát a felhasználói jogsértésekhez - ez az Ön számára ez

A TikTok mesterséges intelligenciát fog alkalmazni, hogy segítsen eltávolítani az erőszakos tartalmat a platformján, de vajon elég-e? Három szakértőt kértünk meg mérlegelésre.

A TikTok fejlődik, a platform már csak négy éves, de több mint egymilliárd felhasználóval rendelkezik, és több mint 150 országban érhető el. A letöltések tekintetében még a Youtube-ot, az Instagram-ot, a WhatsApp-ot és a Facebook Messengert is legyőzte, és 2019-ben egyetlen negyedév alatt 33 milliót gyűjtött össze. Érzékelő torony.

Tehát akkor is, ha nem vagy a TikTok-on, valószínűleg legalább egy ember ismeri. Olvassa el, hogy megtudja, hogyan kíván a platform biztonságosabbá válni a felhasználói számára, és mit gondolnak a szakértők a legutóbbi változásokról.

A TikTok nemrégiben jelentette be, hogy megkezdi a technológiát bizonyos típusú erőszakos cselekmények automatikus eltávolítására olyan tartalom, amelyet feltöltéskor azonosítanának, a Biztonság által manuálisan eltávolított tartalom mellett Csapat.

A TikTok azt állítja, hogy az automatizálást azoknak a tartalmi kategóriáknak fogják fenntartani, ahol a technológiája a legnagyobb pontosságú, és kezdetét veszi a kiskorúak biztonságát, a felnőtt meztelenséget, a szexuális tevékenységeket, az erőszakos és grafikus tartalmakat, valamint az illegális tevékenységeket érintő és szabályozott jogsértéseket áruk.

A vállalat azt is állítja, hogy megpróbálja tovább javítani a technológia pontosságát az elkerülése érdekében helytelen eltávolítás esetén azonban az alkotók közvetlenül fellebbezhetnek a videó eltávolításuk ellen, ha úgy érzik, hogy ezt megtették Méltánytalanul.

Az új rendszer beszámítja a felhasználó által elkövetett jogsértéseket, figyelembe véve az esetleges jogsértések súlyosságát és gyakoriságát. A következményeket a felhasználó értesíti, amelyek megtalálhatók a Beérkező levelek fiókfiókok frissítésében.

A felhasználó első megsértése figyelmeztetést eredményez, kivéve, ha a megsértés zéró tolerancia irányelv, amely esetben tiltják őket. Az első jogsértés után a felhasználó fiókját függően 24–48 órára felfüggesztik a súlyosságról, amikor nem tudnak videót feltölteni, megjegyzést fűzni vagy szerkeszteni profil.

Többszörös megsértés után a felhasználót értesíteni fogjuk arról, hogy a fiókját közel tiltják, és ha a viselkedés folytatódik, akkor a fiókot véglegesen eltávolítják.

"Igen. Ezt megelőzően az emberi moderátoroknak meg kellett erősíteniük a szabálysértést, mielőtt valamit eltávolítottak volna. Az emberek lassúak és a munkaerő korlátozott, ami lehetővé teheti a jogsértő tartalom elterjedését korábban eltávolítják, vagy egyáltalán nem távolítják el ”- mondta Paul Bischoff, a Comparitech adatvédelmi ügyvédje a Trusted-nek Vélemények.

"A TikTok eltávolítja az emberi szűk keresztmetszetet az egyértelműbb esetekből, amelyekben automatizált rendszerei ésszerűen bíznak abban, hogy szabálysértés történt."

Az AI rendszer gyorsabban tudna működni, mint egy emberi csapat, és Chris Hauk is úgy véli, hogy az automatizált rendszerek pontosabbak.

„Az automatizált rendszereket nem terheli emberi hiba vagy fáradtság. Az automatizált rendszer a nap 24 órájában, a hét minden napján képes eltávolítani a jogsértő tartalmat. Az automatizált rendszerek szintén nem valószínű, hogy eltávolítanak (vagy nem távolítanak el) egy tartalmat, pusztán az emberi vélemény miatt mi sértheti vagy nem a szabványokat ”- magyarázta Chris Hauk, a Pixel Privacy fogyasztói adatvédelmi bajnoka a Trusted-nek Vélemények.

- Óhatatlanul így lesz. Biztosan vannak fogzási problémák, amelyek miatt némi erőszakos tartalom átcsúszik, és hamis pozitív eredmények is előfordulhatnak. Időbe telik, amíg a TikTok algoritmusok eléggé kifinomultak, hogy elkerüljék a videotartalmak téves besorolását. ”- mondta a Trusted Reviewsnak Tom Gaffney, az F-Secure biztonsági tanácsadója.

„Hosszabb távon érdekes lesz látni, hogy a tartalmak hogyan vannak besorolva a különböző régiókban. Ebben az esetben a politikát amerikai és kanadai tantárgyak felhasználásával kísérletezték ki, de a társadalmi normák világszerte eltérnek, ezért lesznek hibák. Némi szimpátiát érzek a TikTok iránt ebben az ügyben, mivel egy kereskedelmi szervezetről van szó, akit arra kérnek, hogy „rendőri” internetes tartalmat.

Nem szokatlan, hogy egy közösségi média platform mesterséges intelligenciát használ az erőszakos vagy sértő tartalom eltávolításához, A perem számolt be arról, hogy a Facebook az AI-t használja a tartalom rendezéséhez a gyorsabb moderálás érdekében 2020-ban.

Mivel azonban az automatizált rendszer viszonylag új volt a TikTok számára, Bischoff egyetértett abban, hogy a platform megküzdhet az eltávolításra érdemes tartalom helyes azonosításával.

„Elkerülhetetlen, hogy egy ilyen automatizált rendszer időnként tévesen azonosítson valamit jogsértésként. Az új rendszer szerint a tartalom emberi felügyelet nélkül eltávolítható. A TikTok megpróbálja ésszerű mértékben minimalizálni a hamis pozitív eredményeket, és továbbra is lehetővé teszi az automatikus eltávolítások fellebbezését ”- magyarázta Bischoff.

Úgy gondolják, hogy a rendszert „meg kell tanítani” arra, hogy mit kell és mit nem szabad eltávolítania, bár ezek a rendszerek nem mindig tökéletesek. A világjárvány idején a YouTube bűnös volt a videotartalmak eltávolításában, amelyek nem voltak ellentétesek a vállalati politika, mivel a személyzet védelmét szolgáló intézkedések azt jelentették, hogy a mesterséges intelligenciát nem humán felülvizsgálat segíti, mint bejelentve vki által Tech Crunch.

„A TikTok számos eszközzel segíti a szülőket annak korlátozásában, hogy a gyermekek láthassák a tartalmat. A szülők biztosíthatják, hogy a gyermekek a megfelelő életkor-beállításokat használják az alkalmazásban, vagy a legjobb védelem érdekében a „párosítási funkció”, amely lehetővé teszi a szülők számára a részletesebb kontrollokat ”- magyarázta Gaffney a Trusted-nek Vélemények.

Hauk azt is állítja, hogy azoknak a tartalmaknak a bejelentése, amelyekkel nem kíván interakcióba lépni, segít az algoritmusnak jobban megérteni az Ön preferenciáit és azt, hogy mit szabad és mit nem szabad engedélyezni a webhelyen.

„[A felhasználóknak] be kell jelenteniük olyan tartalmat, amely szerintük sérti a platform közösségi előírásait. Bár a tartalmat nem lehet azonnal eltávolítani, a jelentések segítenek az automatizált rendszernek a tanulásban és a fejlődésben ”- mondta Hauk.

A felhasználó az alábbi utasításokat követve jelentheti be a TikTok videóit és fiókjait:

Videó bejelentése a TikTok-on:

• Ugrás a jelenteni kívánt videóra
• Koppintson a Megosztás gombra
• Válassza a Jelentés lehetőséget, és kövesse a képernyőn megjelenő utasításokat

Fiók bejelentése a TikTok-on:

• Lépjen a bejelenteni kívánt profilra
• További lehetőségek megtekintéséhez érintse meg a képernyő jobb felső sarkában található három pontot
• Koppintson a Jelentés gombra
• Válassza a Fiók jelentése lehetőséget a lehetőségek közül
• Kövesse a képernyőn megjelenő utasításokat a probléma leírására

„Bár minden közösségi hálónak aggódnia kell az erőszakos tartalom miatt, ügyelniük kell arra, hogy ne korlátozzák a szólásszabadságot. A védintézkedések gyorsan cenzúrává válhatnak, ha a tartalom eltávolítását nem tisztességesen és előítéletek nélkül hajtják végre ”- kommentálta Hauk.

Bischoff azt is állította, hogy az új felfüggesztési rendszernek akkor is hatékonynak kell lennie, ha a felfüggesztett vagy tiltott felhasználók létrehoztak egy másik fiókot.

„A felfüggesztések bizonyos esetekben hatékonyak, és szükséges részei annak megakadályozásában, hogy az emberek visszaéljenek a platformmal. Annak ellenére, hogy valaki csak létrehozhatna egy új fiókot, mégis fel kell építenie követői bázisát ”- magyarázta Bischoff.

A TikTok nem kommentált egyetlen olyan funkciót sem, amely felfüggesztené vagy betiltaná az egymással összekapcsolt fiókokat, azonban a felhasználónak újjá kell építenie a következőket, ha egy másik fiók létrehozása mellett dönt felfüggesztett.

„Ez egy nagyon jó proaktív lépés a TikTok részéről, megelőzve őket számos más közösségi média társaság előtt. Talán annak a kérdésnek kellene lennie, hogy „mit tegyenek a kormányok még annak érdekében, hogy az összes közösségi média vállalata hasonló szolgáltatásokat kínálhasson?” - folytatta Gaffney.

"A TikTok itt valami vezetést szerzett, de kissé őrületes, hogy a kereskedelmi társaságokat arra kérjük, döntsék el, milyen tartalom biztonságos az interneten."

Gaffney azonban azt is állította, hogy többet lehetne tenni a platform fiatalabb felhasználóinak védelme érdekében, figyelembe véve a TikTok fő demográfiai adatait 34 év alatti, a 10 és 19 év közötti felhasználók 32,5% -a szerint a közelmúltig statisztika.

"És egy általános megjegyzés erről az oldalról: ez a TikTok jó lépése a felhasználók és a PR számára, de hosszú utat kell megtenni a magánélet terén. Az általános felhasználói kifejezések meglehetősen átlátszatlanok, és számos jó tanulmány bizonyítja, hogy adatgyűjtése meghaladja még más közösségi média vállalatokét is ”- magyarázta Gaffney.

„Bár ez az utolsó kérdés vitatható, ez mindenképpen egy alkalmazás, amely profilt mutat a fiatalságunkra. Ha egy lépéssel tovább akar lépni, miért ne garantálhatnánk, hogy nem gyűjtünk 18 éven aluli személyazonosításra alkalmas felhasználói adatokat, és lehetővé tesszük számukra az internet használatát anélkül, hogy kereskedelmi forgalomba kerülnének?

Ha aggódsz az online lábnyomod miatt, nézd meg a legjobb VPN, amely segít megóvni a külső támadásoktól és titkosítani az összes adatot, így láthatatlan maradhat az interneten való böngészés során.