ТикТок сада користи АИ за кршење правила корисника - ево шта то значи за вас

ТикТок ће користити АИ за уклањање насилних садржаја на својој платформи, али да ли је то довољно? Замолили смо три стручњака да одмере.

ТикТок се развија, платформа је сада стара само четири године, али има преко милијарду корисника и доступна је у преко 150 земаља. Победио је чак Иоутубе, Инстаграм, ВхатсАпп и Фацебоок Мессенгер у погледу преузимања, достигавши 33 милиона у једном кварталу 2019. године, према Сенсор Товер.

Дакле, чак и ако нисте на ТикТок-у, вероватно постоји барем једна особа коју познајете. Прочитајте како бисте сазнали како платформа жели да постане сигурнија за своје кориснике и шта стручњаци мисле о недавним променама.

ТикТок је недавно најавио да ће почети да користи технологију за аутоматско уклањање неких врста кршења садржај који ће се идентификовати након отпремања, поред садржаја који је ручно уклоњен његовом безбедношћу Тим.

ТикТок тврди да ће аутоматизација бити резервисана за категорије садржаја у којима њена технологија има највећу тачност и која ће почети кршења која се тичу безбедности малолетника, голотиње одраслих, сексуалних активности, насилног и графичког садржаја и незаконитих активности и регулисана роба.

Компанија такође тврди да ће покушати да настави да побољшава прецизност технологије како би се избегла нетачно уклањање, међутим, аутори се могу жалити на њихово уклањање видеа директно ако сматрају да је то учињено неправедно.

Нови систем броји прекршаје које је починио корисник, бележећи озбиљност и учесталост било каквих прекршаја. Корисник ће бити обавештен о последицама које се могу наћи у одељку „Ажурирања налога“ у његовом сандучету.

Прво кршење корисника резултираће упозорењем, осим ако кршење није смерница нулте толеранције, у ком случају ће бити забрањено. Након првог кршења, кориснику ће бити суспендован налог на 24 до 48 сати, у зависности озбиљности, у ком тренутку неће моћи да отпремају видео, коментаришу или уређују своје профил.

Након неколико кршења, корисник ће бити обавештен да је његов налог близу забране, а ако се понашање настави, налог ће бити трајно уклоњен.

"Да. Пре овога, људски модератори морали су да потврде кршење пре него што је нешто уклоњено. Људи су спори, а радна снага ограничена, што би могло да допусти ширење дела кршења и раније уклоњено је или га уопште неће бити уклоњено “, рекао је Паул Бисцхофф, адвокат за приватност компаније Цомпаритецх, за Трустед Коментара.

„ТикТок уклања људско уско грло из јаснијих случајева у којима су његови аутоматизовани системи разумно уверени да је дошло до кршења.“

АИ систем могао би да ради брже од људског тима, а Цхрис Хаук такође верује да су аутоматизовани системи тачнији.

„Аутоматизовани системи нису изложени људским грешкама или умору. Аутоматизовани систем може радити 24 сата дневно, 7 дана у седмици како би уклонио делић који крши смернице. Такође вероватно није да ће аутоматизовани системи уклонити (или не уклонити) део садржаја, једноставно због човековог мишљења да шта може или не мора кршити стандарде, “објаснио је Цхрис Хаук, шампион у приватности потрошача у Пикел Приваци-у, за Трустед Коментара.

„Неизбежно хоће. Сигурно ће бити проблема са зубима због којих ће неки насилни садржај провући, а такође и до лажних позитивних резултата. Биће потребно време да ТикТок алгоритми постану довољно усавршени да се избегне погрешна класификација овог видео садржаја “, рекао је Том Гаффнеи, саветник за безбедност за Ф-Сецуре, за Трустед Ревиевс.

„Дугорочно, биће занимљиво видети како се садржај класификује у различитим регионима. У овом случају, политика је експериментисана на коришћењу америчких и канадских предмета, али друштвене норме се разликују широм света, па ће бити неких грешака. Имам неке симпатије са ТикТок-ом по овом питању, јер су они комерцијални ентитет од кога се тражи да „контролише“ Интернет садржај “, рекао је Гаффнеи.

Није необично да платформа друштвених медија користи АИ за уклањање насилног или увредљивог садржаја, Тхе Верге известио о употреби Фејсбука за разврставање садржаја ради бржег модерирања у 2020. години.

Међутим, с обзиром на то да је аутоматизовани систем релативно нов за ТикТок, Бисцхофф се сложио да би се платформа могла трудити да правилно идентификује садржај вредан уклањања.

„Неизбежно је да аутоматизовани систем попут овог повремено погрешно идентификује нешто као кршење. Према новом систему, садржај се може уклонити без надзора човека. ТикТок ће покушати да умањи лажне позитивне резултате у разумном степену и даље омогућава жалбе на аутоматско уклањање “, објаснио је Бисцхофф.

Верује се да ће систем морати да се „научи“ шта треба, а шта не треба уклонити, мада ти системи нису увек савршени. Током пандемије ИоуТубе је био крив за уклањање видео садржаја који није био у супротности са политике компанија, јер мере заштите особља значе да АИ не помаже људски преглед, као пријавио Тецх Црунцх.

„ТикТок има бројне алате који помажу родитељима да ограниче изложеност деце од гледања садржаја. Родитељи могу осигурати да деца користе одговарајућа старосна подешавања у апликацији или за најбољу заштиту „функцију упаривања“, која родитељима омогућава детаљније контроле “, објаснио је Гаффнеи за Трустед Коментара.

Хаук такође тврди да ће извештавање о садржају са којим не желите да комуницирате помоћи алгоритму да боље разуме ваше преференције и шта треба, а шта не сме бити дозвољено на веб локацији.

„[Корисници треба] да пријаве садржај за који сматрају да крши стандарде заједнице на платформи. Иако се садржај можда неће одмах уклонити, извештаји помажу аутоматизованом систему да се учи и побољшава “, рекао је Хаук.

Корисник може пријавити видео записе и налоге на ТикТок-у пратећи ова упутства:

Да бисте пријавили видео на ТикТок-у:

• Идите на видео запис који желите да пријавите
• Додирните дугме Дели
• Изаберите Репорт и следите упутства на екрану

Да бисте пријавили налог на ТикТок-у:

• Идите на профил који желите да пријавите
• Додирните три тачке у горњој десној страни екрана да бисте видели више опција
• Додирните дугме Пријави
• Изаберите Репорт Аццоунт из опција
• Следите упутства на екрану да бисте описали у чему је проблем

„Иако би све друштвене мреже требале бити забринуте због насилног садржаја, оне морају бити опрезне да не ограничавају слободу говора. Заштитне мере могу се брзо претворити у цензуру ако се уклањање садржаја не врши поштено и без предрасуда “, прокоментарисао је Хаук.

Бисцхофф је такође тврдио да би нови систем суспендовања требало да буде ефикасан, чак и ако су суспендовани или забрањени корисници отворили други налог.

„Суспензије су ефикасне у неким случајевима и неопходан су део спречавања људи да злоупотребе платформу. Иако би неко могао само да отвори нови налог, ипак би морао да обнови базу следбеника “, објаснио је Бисцхофф.

ТикТок није коментарисао ниједну функцију која би обуставила или забранила рачуне који су међусобно повезани, међутим, корисник би морао да обнови своје следбенике ако је одлучио да направи други налог након што је био суспендован.

„Ово је прилично добар проактивни корак ТикТок-а, стављајући их испред многих других компанија за друштвене медије. Можда би питање требало да буде „шта би још владе требале да раде како би омогућиле свим компанијама друштвених медија да нуде сличне услуге?“, Наставио је Гаффнеи.

„ТикТок је овде нешто повео, али помало је лудо што од комерцијалних компанија тражимо да одлуче који је садржај безбедан на Интернету.“

Међутим, Гаффнеи је такође тврдио да би се могло учинити више како би се заштитили млађи корисници платформе, с обзиром да је главна демографска категорија ТикТок-а млађа од 34 године, са 32,5% корисника старости између 10 и 19 година, према до недавних статистика.

„И општи коментар са ове стране, ово је добар потез ТикТок-а, за кориснике и за његов ПР, али предстоји дуг пут када је реч о приватности. Општи услови за кориснике су прилично непрозирни и постоји низ добрих студија које показују да његово прикупљање података премашује чак и код других компанија за друштвене медије “, објаснио је Гаффнеи.

„Иако је о овој последњој тачки дискутабилно, то је дефинитивно апликација која профилише нашу омладину. Ако је желео да иде корак даље, зашто не би гарантовао да неће прикупљати личне идентификоване корисничке податке млађе од 18 година и омогућити им да доживе Интернет без комерцијализације? “

Ако сте забринути због свог отиска на мрежи, погледајте наше изборе за најбољи ВПН, који ће вам помоћи да се заштитите од спољних напада и да сви ваши подаци буду шифровани, тако да будете невидљиви приликом прегледавања веба.