Eksekutif Google mengeluarkan peringatan keras tentang teknologi pengenalan wajah AI yang 'bias'
Teknologi pengenalan wajah masih membawa "bias yang melekat" dan membutuhkan lebih banyak pengujian untuk memerangi masalah dengan keragaman, menurut seorang eksekutif top Google.
Diane Greene, kepala komputasi awan di Google, telah memperingatkan perusahaan teknologi papan atas harus berhati-hati dengan penggunaan teknologi tersebut.
Peringatan itu muncul setelah perangkat lunak Rekognition Amazon salah mengidentifikasi 28 anggota Kongres AS sebagai subjek polisi. Mereka yang teridentifikasi adalah orang kulit berwarna yang tidak proporsional. Amazon mengatakan itu hanya menggunakan pengaturan yang salah untuk pengujian. Namun, teknologi yang sama itu dilaporkan digunakan oleh polisi di Amerika Serikat.
Google, tentu saja, mendarat sendiri di air panas pada tahun 2015 ketika dipaksa untuk meminta maaf karena teknologi Pencarian Gambarnya yang mengidentifikasi pasangan kulit hitam sebagai gorila.
“Kita harus sangat berhati-hati dalam menggunakan teknologi semacam ini,” dia mengatakan kepada BBC
. “Kami sedang berpikir sangat dalam. Sisi humanistik AI - tidak memiliki keragaman yang dibutuhkan dan datanya sendiri akan memiliki beberapa bias yang melekat, jadi semua orang berupaya untuk memahaminya. ”“Saya pikir semua orang ingin melakukan hal yang benar. Saya yakin Amazon juga ingin melakukan hal yang benar. Tapi ini adalah teknologi baru, ini adalah teknologi yang sangat kuat. "
Terkait: VPN terbaik
American Civil Liberties Union mengatakan perusahaan teknologi dan penegak hukum harus dibatasi dalam penggunaan teknologi pengenalan wajah sampai ada perdebatan yang cukup tentang manfaatnya.
ACLU mengatakan: “Berbicara tentang pengenalan wajah secara lebih luas, ACLU mengatakan:“ Kongres harus memberlakukan moratorium federal tentang penggunaan teknologi ini untuk penegakan hukum hingga dapat menjadi perdebatan penuh tentang apa - jika ada - penggunaan yang seharusnya diizinkan. "
Menurut Anda, apakah pantas bagi polisi untuk menggunakan teknologi pengenalan wajah untuk mengidentifikasi kemungkinan pelanggar? Kirimi kami baris @TrustedReviews di Twitter.
