Bot pendeteksi pornografi mungkin tidak dapat membedakan antara grot dan seni

Filter konten sering kali menjadi garis pertahanan pertama, terakhir, dan satu-satunya antara pengguna yang tidak bersalah dan membatasi gambar seksual eksplisit di tempat terakhir yang Anda harapkan.

Kadang-kadang Anda benar-benar dapat melakukannya tanpa melihat sekilas beberapa pornografi, dan begitu banyak situs menggunakan algoritma untuk membasmi grot sebelum Anda melihatnya. Sayangnya, tampaknya beberapa bot pemblokir pornografi ini tidak berfungsi seperti yang Anda harapkan, dan mereka dengan berani menyelamatkan beberapa pengguna dari karya seni tinggi, serta barang-barang dewasa.

Apa yang harus disalahkan di sini? Pembelajaran mesin.

Dijelaskan oleh Keamanan Panda, mereka telah menjelaskan bahwa cara terbaik untuk mengajarkan bot pemblokir pornografi adalah dengan menunjukkan sejumlah gambar pornografi. Ini mirip dengan cara kerja sistem anti-virus dan anti-malware, dan serupa dengan alat-alat itu, ada positif palsu.

Terkait: Game PC Terbaik

Masalahnya, ada perbedaan besar antara foto seseorang yang mengenakan pakaian dalam (itu buruk) dan seseorang yang mengenakan bikini di pantai (umumnya oke) dan bahkan jangan memulai tentang bagaimana sesuatu yang mirip seperti menyusui (sekali lagi, oke) dapat muncul pada banyak hal yang pasti buruk.

Kami telah melihat ini terjadi beberapa kali baru-baru ini. Panda Security menyebut filter porno kontroversial Tumblr yang diaktifkan pada bulan Desember, yang telah menandai sejumlah besar gambar tidak bersalah sebagai eksplisit secara seksual.

“Pada akhirnya, sistem cerdas yang dibangun menggunakan pembelajaran mesin memiliki kelemahan karena orang-orang yang memprogramnya tidak dapat menentukan dengan tepat di mana garis antara 'ok' dan 'porno' dilintasi, ”klaim blog Keamanan Panda pos. "Algoritme mungkin dapat memblokir 99,9% konten yang meragukan, tetapi 0,1% yang tersisa akan selalu menjadi masalah.”

“Nuansa ini tidak relevan dengan deteksi anti-malware karena file hanya dapat berupa salah satu dari dua status: 'virus' atau 'bukan virus'. Gambar di sisi lain memiliki tiga status: 'porno', 'bukan porno' dan 'mungkin porno'. 'Mungkin porno' adalah tempat pembelajaran mesin bisa (dan memang) gagal. Di sinilah sebagian besar investasi dalam sistem otomatis akan dilakukan di tahun-tahun mendatang. "