Pornodetekterende roboter kan kanskje ikke se forskjellen mellom grot og kunst

Innholdsfiltre er ofte den første, siste og eneste forsvarslinjen mellom uskyldige brukere og kupper et øye med seksuelt eksplisitte bilder i det siste du forventer det.

Noen ganger kan du virkelig gjøre uten et uventet glimt av noen porno, og så mange nettsteder bruker algoritmer for å utelukke grot før du ser det. Dessverre ser det ut til at noen av disse pornoblokkerende robotene ikke fungerer så bra som du håper, og de sparer tappert flere brukere fra høykunst, så vel som voksen ting.

Hva er det å skylde her? Maskinlæring.

Forklart av Panda Security, de har forklart at den beste måten å lære en pornoblokkerende bot på er å vise den en hel haug med pornografiske bilder. Dette ligner på hvordan anti-virus og anti-malware-systemet fungerer, og i likhet med disse verktøyene er det falske positive.

I slekt: Beste PC-spill

Ting er at det er stor forskjell mellom et bilde av noen i undertøy (det ville være dårlig) og noen i bikini på stranden (generelt ok) og ikke engang komme i gang med hvordan noe som amming (igjen, ok) kan se ut til en rekke ting som definitivt er dårlige.

Vi har sett dette skje noen ganger nylig. Panda Security nevner Tumblrs omstridte pornofilter som ble aktivert i desember, som har flagget opp en hel haug med uskyldige bilder som seksuelt eksplisitte.

«Til slutt er intelligente systemer som er bygd ved bruk av maskinlæring feil, fordi menneskene som programmerer dem er ikke i stand til å spesifisere nøyaktig hvor grensen mellom ‘ok’ og ‘porno’ krysses, ”hevder Panda Security-bloggen post. "Algoritmene kan være i stand til å blokkere 99,9% av tvilsomt innhold, men de 0,1% som gjenstår vil alltid være et problem."

"Disse nyansene er irrelevante for deteksjon av skadelig programvare fordi en fil bare kan være en av to tilstander:" virus "eller" ikke virus ". Bilder derimot har tre tilstander: ‘porno’, ‘ikke porno’ og ‘kanskje porno’. 'Kanskje porno' er der maskinlæring kan (og gjør) mislykkes. Det er også der de fleste investeringene i automatiserte systemer vil finne sted de neste årene. ”