Pornoyu tespit eden botlar, grot ile sanat arasındaki farkı söyleyemeyebilir

İçerik filtreleri genellikle masum kullanıcılar arasındaki ilk, son ve tek savunma hattıdır ve beklediğiniz en son yerde müstehcen görüntülerin bir gözünü kopyalamaktır.

Bazen bazı pornoya beklenmedik bir bakış atmadan gerçekten yapabilirsin ve pek çok site, görmeden önce grotu ortadan kaldırmak için algoritmalar kullanıyor. Ne yazık ki, bu porno engelleme botlarından bazıları umduğunuz kadar iyi çalışmıyor gibi görünüyor ve cesurca birçok kullanıcıyı hem yüksek sanattan hem de yetişkinlerle ilgili şeylerden kurtarıyorlar.

Burada ne suçlanacak? Makine öğrenme.

Açıklayan Panda Güvenliği, porno engelleyici bir botu öğretmenin en iyi yolunun ona bir sürü pornografik resim göstermek olduğunu açıkladılar. Bu, anti-virüs ve anti-malware sisteminin çalışma şekline benzer ve bu araçlara benzer şekilde, yanlış pozitifler vardır.

İlişkili: En İyi PC Oyunları

Mesele şu ki, iç çamaşırlarıyla (bu kötü olur) birinin fotoğrafı ile plajda bikinili biri (genellikle tamam) ve emzirme gibi bir şeyin (yine, tamam) kesinlikle kötü olan bir sürü şeye ne kadar benzer görünebileceğine başlamayın bile.

Bunun yakın zamanda birkaç kez gerçekleştiğini gördük. Panda Security, Tumblr’ın Aralık ayında etkinleştirilen tartışmalı porno filtresinden bahsediyor ve bu, bir grup masum resmi müstehcen olarak işaret ediyor.

"Nihayetinde, makine öğrenimi kullanılarak oluşturulan akıllı sistemler kusurludur çünkü onları programlayan insanlar Panda Security blogu, "ok" ve "porno" arasındaki çizginin tam olarak nerede kesildiğini belirtemiyor İleti. "Algoritmalar şüpheli içeriğin% 99,9'unu engelleyebilir, ancak kalan% 0,1'lik kısım her zaman bir sorun olacaktır."

"Bu nüanslar kötü amaçlı yazılımdan koruma tespiti ile ilgisizdir çünkü bir dosya yalnızca iki durumdan biri olabilir:" virüs "veya" virüs değil ". Öte yandan görüntülerin üç durumu vardır: "porno", "porno değil" ve "belki porno". "Belki porno", makine öğreniminin başarısız olabileceği (ve başarısız olduğu) yerdir. Ayrıca, önümüzdeki yıllarda otomatik sistemlere yapılan yatırımın büyük bir kısmının gerçekleşeceği yer burasıdır. "