Boty wykrywające pornografię mogą nie być w stanie odróżnić grota od sztuki

Filtry treści są często pierwszą, ostatnią i jedyną linią obrony między niewinnymi użytkownikami a podglądaniem obrazów o charakterze jednoznacznie seksualnym w ostatnim miejscu, w którym się tego spodziewasz.

Czasami naprawdę można obejść się bez nieoczekiwanego spojrzenia na jakieś porno, a tak wiele witryn używa algorytmów do eliminacji grota, zanim go zobaczysz. Niestety, wygląda na to, że niektóre z tych botów blokujących pornografię nie działają tak dobrze, jak można by mieć nadzieję, i odważnie ratują kilku użytkowników przed sztuką i treściami dla dorosłych.

Co tu jest winne? Nauczanie maszynowe.

Wyjaśnione przez Panda Security, wyjaśnili, że najlepszym sposobem nauczenia bota blokującego pornografię jest pokazanie mu całej masy pornograficznych obrazów. Jest to podobne do tego, jak działa system antywirusowy i anty-malware, i podobnie jak te narzędzia, występują fałszywe alarmy.

Związane z: Najlepsze gry na PC

Chodzi o to, że jest duża różnica między zdjęciem kogoś w bieliźnie (to byłoby złe) a kimś w bikini na plaży (ogólnie ok) i nawet nie zaczynaj od tego, jak coś podobnego, jak karmienie piersią (znowu ok), może wyglądać na wiele rzeczy, które są zdecydowanie złe.

Widzieliśmy to ostatnio kilka razy. Panda Security wspomina o kontrowersyjnym filtrze porno Tumblr, który został aktywowany w grudniu i który oflagował całą masę niewinnych obrazów jako o charakterze jednoznacznie seksualnym.

„Ostatecznie inteligentne systemy zbudowane przy użyciu uczenia maszynowego są wadliwe, ponieważ ludzie je programują nie można dokładnie określić, gdzie przecina się granica między „ok” a „pornografią” ”, twierdzi blog Panda Security Poczta. „Algorytmy mogą być w stanie zablokować 99,9% wątpliwych treści, ale 0,1%, które pozostanie, zawsze będzie problemem”.

„Te niuanse są nieistotne dla wykrywania złośliwego oprogramowania, ponieważ plik może mieć tylko jeden z dwóch stanów:„ wirus ”lub„ nie wirus ”. Z drugiej strony obrazy mają trzy stany: „pornografia”, „nie pornografia” i „może porno”. „Może porno” to sytuacja, w której systemy uczące się mogą zawodzić (i zawodzą). Tam też w najbliższych latach będzie miała miejsce większość inwestycji w zautomatyzowane systemy ”.