O executivo do Google emite um alerta severo sobre a tecnologia de reconhecimento facial de IA "tendenciosa"
A tecnologia de reconhecimento facial ainda carrega “preconceitos inerentes” e requer mais testes para combater os problemas de diversidade, de acordo com um alto executivo do Google.
Diane Greene, chefe de computação em nuvem do Google, alertou que as principais empresas de tecnologia devem ser cautelosas com o uso da tecnologia.
O aviso vem depois que o software Rekognition da Amazon identificou incorretamente 28 membros do Congresso dos EUA como sujeitos da polícia. Os identificados eram desproporcionalmente negros. A Amazon diz que simplesmente usou as configurações erradas para o teste. No entanto, essa mesma tecnologia é supostamente sendo usado por forças policiais nos Estados Unidos.
O Google, é claro, caiu em maus lençóis em 2015, quando foi forçado a se desculpar por sua tecnologia de pesquisa de imagens identificar um casal negro como gorila.
“Precisamos ser muito cuidadosos sobre como usamos esse tipo de tecnologia”, ela disse a BBC. “Estamos pensando muito profundamente. O lado humanístico da IA - não tem a diversidade de que precisa e os dados em si terão alguns preconceitos inerentes, então todos estão trabalhando para entender isso. ”
“Acho que todo mundo quer fazer a coisa certa. Tenho certeza de que a Amazon também quer fazer a coisa certa. Mas é uma nova tecnologia, é uma tecnologia muito poderosa. ”
Relacionado: Melhor VPN
A American Civil Liberties Union diz que empresas de tecnologia e agentes da lei devem ser restringidos no uso de tecnologia de reconhecimento facial até que haja debate suficiente sobre seus méritos.
A ACLU diz: “Falando de reconhecimento facial de forma mais ampla, a ACLU disse:“ O Congresso deveria aprovar uma moratória federal sobre o uso desta tecnologia pela aplicação da lei até que possa haver um debate completo sobre quais usos deveriam ser permitido. ”
Você acha que é adequado que a polícia use a tecnologia de reconhecimento facial para identificar possíveis infratores? Escreva-nos @TrustedReviews no Twitter.
