I robot che rilevano il porno potrebbero non essere in grado di distinguere tra grot e arte

I filtri dei contenuti sono spesso la prima, l'ultima e l'unica linea di difesa tra utenti innocenti e che raccolgono un occhio di immagini sessualmente esplicite nell'ultimo posto in cui te lo aspetti.

A volte puoi davvero fare a meno di uno sguardo inaspettato su un po 'di porno, e così tanti siti utilizzano algoritmi per eliminare il grot prima che tu lo veda. Sfortunatamente, sembra che alcuni di questi robot che bloccano il porno non funzionino come speri, e stanno coraggiosamente salvando diversi utenti dall'arte alta, così come dalle cose per adulti.

Qual è la colpa qui? Apprendimento automatico.

Spiegato da Panda Security, hanno spiegato che il modo migliore per insegnare a un bot che blocca il porno è mostrargli un sacco di immagini pornografiche. Questo è simile a come funziona il sistema antivirus e antimalware e, analogamente a questi strumenti, ci sono falsi positivi.

Relazionato: I migliori giochi per PC

Il fatto è che c'è una grande differenza tra una foto di qualcuno in lingerie (sarebbe brutto) e qualcuno in bikini in spiaggia (generalmente ok) e non iniziare nemmeno su quanto qualcosa di simile come l'allattamento al seno (di nuovo, ok) possa apparire a un sacco di cose che sono decisamente brutte.

Lo abbiamo visto accadere alcune volte di recente. Panda Security menziona il controverso filtro porno di Tumblr attivato a dicembre, che ha segnalato un sacco di immagini innocenti come sessualmente esplicite.

"In definitiva, i sistemi intelligenti costruiti utilizzando l'apprendimento automatico sono difettosi perché le persone che li programmano lo sono non è in grado di specificare esattamente dove viene oltrepassato il confine tra "ok" e "porno" ", afferma il blog di Panda Security inviare. "Gli algoritmi potrebbero essere in grado di bloccare il 99,9% dei contenuti discutibili, ma lo 0,1% che rimane sarà sempre un problema."

"Queste sfumature sono irrilevanti per il rilevamento anti-malware perché un file può essere solo uno dei due stati:" virus "o" non virus ". Le immagini invece hanno tre stati: "porno", "non porno" e "forse porno". "Forse il porno" è dove l'apprendimento automatico può (e fa) fallire. È anche il luogo in cui la maggior parte degli investimenti in sistemi automatizzati avverrà nei prossimi anni ".