Pengenalan wajah itu menakutkan - dan akan tetap ada

Pengenalan wajah adalah teknologi mutakhir yang diluncurkan di hampir semua platform yang dapat Anda pikirkan.

Di ruang konsumen, segala sesuatu mulai dari laptop hingga ponsel dan bahkan sistem rumah pintar menggunakan teknologi untuk mengidentifikasi penggunanya dan bertindak sesuai dengan itu.

Di satu sisi, fitur-fitur ini adalah penghemat waktu yang sangat baik - meskipun Windows Hello yang sedikit rewel itu nyaman sedikit teknologi yang membuatnya cepat dan mudah untuk membuka kunci laptop Anda tanpa harus mengingat dan memasukkan kata sandi yang rumit.

Di ruang pemerintah dan perusahaan, hal itu juga membuat gelombang dengan pasukan polisi yang menggunakannya untuk mendeteksi dan menangkap penjahat, dan bisnis mencoba menemukan cara untuk menggunakannya untuk melakukan hal-hal seperti mengidentifikasi kembali pelanggan. Ada juga penelitian tentang kelayakan penggunaan teknologi untuk hal-hal seperti melakukan pembayaran dan check-in penerbangan di bandara - yang akan membuat kedua proses tidak terlalu merepotkan - dan perawatan kesehatan, di mana wajah Anda dapat dipindai untuk mencari tanda-tanda awal penyakit.

Namun di balik lapisan kenyamanan yang mengkilap, ada sisi gelap yang sangat menakutkan dan berpotensi untuk disalahgunakan oleh pemerintah yang membongkar dan pencuri identitas yang tidak pernah berhasil. Terlebih lagi, berkat perusahaan-perusahaan berwajah ramah yang menerapkan teknologi, sebagian besar konsumen kehilangan bahayanya dan dengan sengaja menempatkan diri mereka dalam risiko.

Terkait: VPN terbaik

Ini baru-baru ini dipamerkan dalam kasus yang berkaitan dengan IBM dan dugaan penyalahgunaan teknologi selama Flickr "Keragaman dalam WajahUji coba itu didemonstrasikan pada bulan Januari. Uji coba melihat perusahaan menggunakan AI khusus untuk menganalisis dan mendeskripsikan koleksi 99,2 juta foto yang diambil dari platform.

Idenya adalah bahwa AI dapat dilatih untuk secara akurat mengidentifikasi lebih beragam wajah dan menghindari kesalahan positif, atau bias yang tidak diinginkan. mengembangkan dalam sistem pengenalan - masalah yang diketahui yang membuat beberapa komentator mempertanyakan apakah teknologi tersebut sesuai untuk digunakan oleh hukum pelaksanaan.

Masalahnya, menurut berita NBC, itu IBM tidak meminta izin untuk menggunakan gambar dari Flickr, fotografer atau orang yang terlibat. Mengesampingkan betapa mengganggunya hal ini di tempat pertama, yang membuatnya benar-benar menakutkan adalah, menurut pernyataan dari IBM kepada Trusted Reviews, itu bertindak sepenuhnya sesuai dengan ketentuan hukum.

“Kami menjaga privasi individu dengan sangat serius dan sangat berhati-hati dalam mematuhi prinsip privasi, termasuk membatasi Diversity in Faces set data ke anotasi gambar yang tersedia untuk umum dan membatasi akses set data untuk peneliti terverifikasi, "baca pernyataan.

“Individu dapat memilih keluar dari kumpulan data ini. IBM telah berkomitmen untuk membangun teknologi yang bertanggung jawab, adil dan tepercaya selama lebih dari satu abad dan percaya bahwa sangat penting untuk mengupayakan keadilan dan akurasi dalam pengenalan wajah. "

Ini menunjukkan masalah utama pada sikap konsumen terhadap AI: kami masih bersedia bermain cepat dan lepas dengan data dan informasi pribadi yang kami posting secara online.

Seperti yang dikemukakan oleh peneliti keamanan utama Kaspersky Lab, David Emm:

“Teknologi ini juga menghadirkan risiko privasi yang signifikan. Setiap individu memiliki hak untuk mengetahui siapa yang menggunakan data kami dan bagaimana mereka melakukannya. Kebanyakan orang tidak tahu risiko yang mereka hadapi saat online - atau nilai detail pribadi mereka. ”

Dia melanjutkan:

“Penelitian yang kami lakukan tahun lalu dengan 7.000 konsumen di seluruh Eropa menunjukkan bahwa hampir dua pertiga (64%) orang tidak mengetahui semua tempat penyimpanan data pribadi mereka. Selain itu, setengah (50%) orang tidak tahu seberapa berharga data mereka. ”

Ini terutama mengkhawatirkan ketika Anda mempertimbangkan fakta bahwa teknologi pengenalan wajah sudah secara aktif diujicobakan oleh penegak hukum di Inggris.

Kepolisian South Wales telah menguji coba teknologi pengenalan wajah dari NEC Group Jepang di Cardiff. Uji coba berjalan sekarang, dan menggunakan jaringan CCTV kota serta kamera yang dipasang pada mobil polisi dan van untuk memantau dan mengidentifikasi penjahat dan tersangka yang dicari.

Dalam uji coba Cardiff, teknologi bekerja sedikit berbeda dengan jenis yang didemonstrasikan oleh IBM. Ini seharusnya hanya merujuk data yang diambil dari arsip rekaman penangkapan pasukan dan daftar pelanggar yang diketahui. Ini meredakan kekhawatiran apa pun tentang polisi menggunakan data yang diambil dari media sosial, tetapi di sini kami datang lengkap putar dan kembali ke alasan awal IBM ingin menjalankan uji coba Diversity of Faces pada awalnya tempat.

Terkait: Anti-virus gratis terbaik

Seperti yang dicatat oleh Kaspersky's Emm, tanpa database yang beragam, seperti yang diujicobakan oleh IBM, jaringan tidak dapat dipercaya.

“Penting bagi penegak hukum - dan pelaksana teknologi lainnya - untuk mengingat bahwa teknologi pengenalan wajah tidak sempurna,” katanya.

“Kami telah melihat masalah yang masih ada, misalnya kasus baru-baru ini dengan teknologi pengenalan wajah Amazon menunjukkan bahwa ada banyak pekerjaan yang harus dilakukan sebelum ini dapat dianggap sebagai 'teknologi andal', dan agar hasilnya dapat dipercaya di lingkungan, di mana tidak ada ruang untuk kesalahan. Fakta bahwa sistem ini jauh dari sempurna. "

Teknologi Rekognition Amazon meledak pada tahun 2018 setelah salah mengidentifikasi 28 anggota Kongres AS sebagai subjek polisi - dan mereka yang dijentinya adalah orang kulit berwarna secara tidak proporsional.

Amazon menorehkan kesalahan tersebut hingga kesalahan manusia dan pengaturan yang salah diterapkan, tetapi jika teknologi semacam ini akan digunakan oleh lembaga penegak hukum di seluruh dunia, maka pelatihan pengguna yang lebih baik, serta penerapan teknologi yang lebih baik akan dilakukan yg dibutuhkan.

Demikian pula, Polisi Metropolitan London menggunakan teknologi pengenalan wajah pantau Karnaval Notting Hill pada 2017, menggunakan database 20 juta gambar wajah untuk mencocokkan wajah dengan tersangka - tetapi teknologinya memiliki ekstensi Tingkat positif palsu 98%, dan berhasil memberi label yang salah pada 35 orang di Karnaval.

Polisi Cardiff belum menanggapi permintaan Ulasan Tepercaya untuk mengklarifikasi berapa banyak penangkapan yang sebenarnya terjadi dibuat menggunakan teknologi pada saat penerbitan, jadi mengukur efektivitas uji coba sepenuhnya rumit.

Tetapi jika komentar Emm akurat, ini menempatkan sebagian besar konsumen di antara tempat yang keren dan sulit. Di satu sisi, kami dapat menjaga privasi kami, tetapi mengabaikan manfaat pengenalan wajah pada apa pun kecuali di tingkat lokal. Ini masuk akal, tetapi berarti konsumen akan kehilangan manfaat yang lebih luas, yang berlimpah, dan mencakup hal-hal seperti perbaikan layanan keamanan, check-in yang efisien di bandara dan, kemungkinan besar di masa depan, sistem baru untuk membayar barang dan layanan.

Atau kita dapat menerima bahwa pemerintah akan mengikuti strategi IBM dan berisiko membuka diri terhadap pengawasan Big Brother. Tidak ada opsi yang terdengar brilian, meskipun kami secara pribadi berpikir sampai perlindungan hukum diberlakukan dan konsumen lebih sadar bagaimana data mereka digunakan, opsi satu adalah satu-satunya cara yang masuk akal.

Apa kamu setuju? Beri tahu kami di Twitter @TrustedReviews