Pornodetekterende bots er muligvis ikke i stand til at fortælle forskellen mellem grot og kunst

Indholdsfiltre er ofte den første, sidste og eneste forsvarslinje mellem uskyldige brugere og sammenkobling af et seksuelt eksplicit billede på det sidste sted, du forventer det.

Nogle gange kan du virkelig undvære et uventet glimt af nogle porno, og så mange sider bruger algoritmer til at udelukke grot, før du ser det. Desværre ser det ud til, at nogle af disse pornoblokerende bots ikke fungerer så godt som du håber, og de redder modigt flere brugere fra høj kunst såvel som de voksne ting.

Hvad er skylden her? Maskinelæring.

Forklaret af Panda Sikkerhed, de har forklaret, at den bedste måde at undervise en pornoblokerende bot på er at vise den en hel masse pornografiske billeder. Dette svarer til, hvordan anti-virus og anti-malware-systemet fungerer, og i lighed med disse værktøjer er der falske positive.

Relaterede: Bedste pc-spil

Ting er, der er en stor forskel mellem et foto af en person i lingeri (det ville være dårligt) og en i en bikini på stranden (generelt ok) og kom ikke engang i gang med, hvor lignende noget som amning (igen ok) kan se ud til en masse ting, der bestemt er dårlige.

Vi har set dette ske et par gange for nylig. Panda Security nævner Tumblrs omstridte pornofilter, der blev aktiveret i december, som har markeret en hel masse uskyldige billeder som seksuelt eksplicit.

”I sidste ende er intelligente systemer bygget ved hjælp af maskinindlæring mangelfulde, fordi de mennesker, der programmerer dem, er ude af stand til at specificere nøjagtigt, hvor grænsen mellem 'ok' og 'porno' krydses, "hævder Panda Security-bloggen stolpe. "Algoritmerne kan muligvis blokere 99,9% af det tvivlsomme indhold, men de 0,1%, der er tilbage, vil altid være et problem."

”Disse nuancer er irrelevante for detektion af malware, fordi en fil kun kan være en af ​​to tilstande:” virus ”eller” ikke virus ”. Billeder på den anden side har tre tilstande: 'porno', 'ikke porno' og 'måske porno'. 'Måske er porno', hvor maskinlæring kan (og gør) mislykkes. Det er også her, de fleste investeringer i automatiserede systemer vil finde sted i de kommende år. ”